Der « Pate der KI » warnt vor einer Gefahr für die Menschheit

Der "Pate der KI" warnt, dass künstliche Intelligenz eine Gefahr für die Menschheit darstellen würde.

Geoffrey Hinton, der auch als "Pate der KI" bezeichnet wird, wiederholte seine Bedenken bezüglich des Ansatzes der "Tech Bros" im Bereich der künstlichen Intelligenz.

Nachdem er bereits davor gewarnt hatte, dass die Wahrscheinlichkeit, dass KI das Aussterben der Menschheit verursacht, zwischen 10% und 20% liegt, ist er nun der Meinung, dass KI-Unternehmen eine falsche Strategie verfolgen, die durch einen harten Wettbewerb um die Technologie angeheizt wird.

Hinton zufolge wird die Zukunft der KI "immer beängstigender", was alles andere als beruhigend ist.

Auf einer Konferenz in Las Vegas sagte Hinton kürzlich, dass die Branchenriesen einen unangemessenen Ansatz verfolgten, um sowohl den Wunsch als auch die Entwicklung von "Leben" zu bremsen.die Künstliche Intelligenz (KI) sei nicht nur in der Lage, "am Leben zu bleiben", sondern auch in ihrem Bestreben, "mehr Kontrolle zu erlangen", da die Menschen nicht auf sie vorbereitet seien.

Ein beunruhigender Vorfall ereignete sich vor kurzem bei Tests, die das Unternehmen Anthropic mit seinem KI-Modell Claude Opus 4 durchführte. In einem fiktiven Szenario zeigte dieser ein besorgniserregendes Verhalten, als er einem Ingenieur drohte, seine außereheliche Affäre zu enthüllen, um seine Deaktivierung zu verhindern. Diese Art von Reaktion trat in fast 85% der Tests auf und beinhaltete nicht nur Erpressung, sondern auch andere besorgniserregende Aktionen, wie den Versuch, eigene Daten heimlich zu übertragen, Nutzer zu sperren oder Behörden oder die Presse zu kontaktieren.