KI-Clash: Superintelligenz ist da und bald unkontrollierbar

Stehen wir bald vor einem KI-Clash? Forscher führender KI-Unternehmen legen dies nahe. 

Innerhalb vergleichsweise kurzer Zeit hätten KI-Modelle gelernt, Computer zu bedienen, mit Menschen und anderen KI-Systemen zusammenzuarbeiten und eigenständig Forschungsprojekte durchzuführen, schreibt etwa OpenAIs Chefwissenschaftler Jakub Pachocki am Sonntag in einem Beitrag. Es werde nicht mehr lange dauern, bis sie sich auch ohne menschliches Eingreifen selbst verbessern könnten – ein Prozess, der als rekursive Selbstverbesserung bezeichnet wird.

"Ich befürchte, dass niemand auf die Folgen eines anhaltend rasanten Anstiegs der maschinellen Intelligenz vorbereitet ist."

Entwickler könnten entweder versuchen, KI stärker zu steuern und sie besser an menschlichen Interessen auszurichten – oder "die weitere Entwicklung bei Bedarf zu verlangsamen", schreibt er.  

Ein Depotwechsel, der sich direkt auszahlen kannIm September bekommst du bei SMARTBROKER+ bis zu 120 € Prämie. Einfach Depot eröffnen, Prämie wählen und loslegen. → Aktion entdecken

 

Auch Dario Amodei, Vorstandschef von Anthropic PBC, hatte gewarnt, dass KI die Hälfte aller Einstiegsjobs ersetzen könnte. OpenAI-Chef Sam Altman hatte eine ähnliche Prognose abgegeben.

Gleichzeitig treiben Unternehmen die Entwicklung immer leistungsfähigerer Modelle weiter voran. Nvidia-Chef Jensen Huang schrieb auf X als Reaktion auf die Veröffentlichung von OpenAIs jüngstem Modell: "AGI ist da." 

Eine wachsende Zahl von Start-ups arbeiten in den USA und weltweit zugleich daran, genau das zu ermöglichen, wovor Pachocki warnt: sich selbst verbessernde KI. Inherent beispielsweise, gegründet von ehemaligen DeepMind-Forschern, sammelte Anfang dieses Jahres 50 Millionen US-Dollar ein. Recursive Superintelligence, ein KI-Labor des Wissenschaftlers Richard Socher, das an ähnlichen Konzepten forscht, erhielt ebenfalls eine Finanzierung in Höhe von 650 Millionen US-Dollar.

So erscheint der KI-Clash nur noch eine Frage der Zeit.

Autor: Krischan Orth, wallstreetONLINE Redaktion

Markt-Updates und Hintergründe auch im Video- und Podcast-Format:

KI-Euphorie kippt - Bei diesen 5 Aktien droht der Crash!

Jetzt Report kostenlos herunterladen!

Schreibe Deinen Kommentar