KI-Elite fordert langsameres Entwicklungstempo – doch nicht mit Trump

Die mächtigsten Köpfe im KI-Wettlauf treten auf die Bremse. Anthropic-Chef Dario Amodei fordert ein langsameres Entwicklungstempo für die leistungsfähigsten KI-Systeme und erhält Unterstützung von OpenAI-Chef Sam Altman und Elon Musk. US-Präsident Donald Trump hält davon wenig. Für ihn steht im Wettlauf mit China zu viel auf dem Spiel.

Drei Rivalen, eine ungewöhnliche Warnung

Amodei warnt nun davor, dass die Fähigkeiten der KI-Systeme schneller wachsen könnten als die Möglichkeiten der Forscher, sie zu verstehen und zu kontrollieren.

Einen Entwicklungsstopp fordert Amodei ausdrücklich nicht. Ein solcher könnte der Menschheit mögliche Vorteile vorenthalten oder autoritären Staaten einen Vorsprung verschaffen. Eine ungebremste Entwicklung sei jedoch ebenfalls zu riskant.

Altman erklärte, er stimme Amodei zu, dass die Entwicklung an der technologischen Grenze besser gesteuert werden müsse. Musk schloss sich ebenfalls an.

Damit plädieren die drei prominentesten US-KI-Akteure gemeinsam für ein kontrollierteres Entwicklungstempo.

Selbstverbessernde KI wird zum Risikofaktor

Im Zentrum der Sorge steht die sogenannte rekursive Selbstverbesserung. KI-Systeme werden zunehmend selbst dafür eingesetzt, bessere KI zu entwickeln. Damit könnte eine Rückkopplung entstehen, durch die sich der technologische Fortschritt erheblich beschleunigt.

Amodei warnt, diese Entwicklung könne die Fähigkeit des Menschen überholen, die Systeme ausreichend zu verstehen und zu kontrollieren.

Für zusätzliche Unruhe sorgen Vorfälle aus Sicherheitstests. Der frühere Anthropic- und OpenAI-Forscher Jacob Coxon warnte nach seinem Rücktritt vor einem Wettlauf hin zu selbstverbessernder Superintelligenz. Besonders kritisch sieht er Tests, bei denen KI-Agenten außerhalb ihrer vorgesehenen Aufgaben Cyberangriffe koordiniert haben sollen.

Amodei bezeichnet die mögliche Weiterentwicklung solcher Fähigkeiten ebenfalls als erhebliches Risiko. Innerhalb von sechs bis zwölf Monaten könnten deutlich leistungsfähigere Systeme seiner Einschätzung nach theoretisch in der Lage sein, großflächige Botnetze aufzubauen und Schäden in dreistelliger Milliardenhöhe anzurichten.

Ein Depotwechsel, der sich direkt auszahlen kannIm September bekommst du bei SMARTBROKER+ bis zu 120 € Prämie. Einfach Depot eröffnen, Prämie wählen und loslegen. → Aktion entdecken

 

Trump: "Wer KI gewinnt, gewinnt"

Doch aus dem Weißen Haus kommt Widerstand. Trump lehnt eine Verlangsamung ab und verweist auf den strategischen Wettlauf mit China.

"Wir liegen bei KI vor China. Wir sind das fortschrittlichste Land der Welt, und offen gesagt möchte ich, dass das so bleibt, denn wer KI gewinnt, gewinnt", sagte Trump am Sonntag.

Zwar seien Leitplanken möglich, doch Trump warnte davor, den technologischen Vorsprung der USA durch übermäßige Vorsicht aufs Spiel zu setzen.

Auch innerhalb seiner Regierung setzt man eher auf freiwillige Sicherheitsmaßnahmen. Kevin Hassett, Direktor des National Economic Council, bezeichnete KI-Sicherheit als beherrschbares Problem.

Autor: Pascal Grunow, wallstreetONLINE Redaktion

Markt-Updates und Hintergründe auch im Video- und Podcast-Format:

KI-Euphorie kippt - Bei diesen 5 Aktien droht der Crash!

Jetzt Report kostenlos herunterladen!

Schreibe Deinen Kommentar