KI-Wettrennen vor dem Aus? Dieser Schritt sorgt für Aufsehen

OpenAI-Chef Sam Altman denkt offenbar über einen ungewöhnlichen Schritt nach: Der ChatGPT-Entwickler könnte die Entwicklung besonders leistungsfähiger KI-Systeme verlangsamen. Altman hofft laut Bloomberg zugleich, dass sich andere führende KI-Unternehmen einem solchen Vorgehen anschließen.

Bei einer internen Mitarbeiterversammlung in dieser Woche erklärte Altman dem Bericht zufolge, OpenAI könnte das Tempo seiner KI-Entwicklung drosseln. Denkbar sei dies gemeinsam mit mehreren anderen KI-Laboren. Allerdings könnten sich nicht alle Unternehmen darauf einlassen.

Sicherheitsbedenken nehmen zu

Der Vorstoß kommt zu einer Zeit, in der die Sorgen über die Risiken fortschrittlicher KI deutlich zunehmen. Auch innerhalb der großen KI-Unternehmen mehren sich kritische Stimmen. Mehrere Mitarbeiter haben zuletzt öffentlich vor den möglichen Gefahren immer leistungsfähigerer Systeme gewarnt.

@wo_wallstreetonline

10 Prozent Chance, dass KI die Menschheit auslöscht? Das sagt ein Sicherheitsleiter von Anthropic ? Jacob Coxon, Forscher bei Anthropic, hat gekündigt – und wirft beiden Firmen vor, nicht verantwortungsvoll zu handeln. Sein Vorwurf: Anthropic und OpenAI steuern direkt auf selbstverbessernde Superintelligenz zu und spielen dabei mit unserem Leben. Evan Hubinger, Sicherheitsleiter bei Anthropic, stimmt ihm zu. Seine Einschätzung: über 10 % Chance, dass KI in den nächsten zehn Jahren alle Menschen töten könnte. Aktuelle Modelle hält er noch für relativ ungefährlich – die Sorge gilt Systemen, die sich künftig selbst weiterentwickeln können. Was denkst du über die Entwicklung von KI? #KI #Anthropic #AISafety #Zukunft #Technologie

♬ Stargazing (Slowed + Reverb) - Marcelo De Carvalho

OpenAI selbst hat laut Bloomberg bereits Teile seiner Modellentwicklung verlangsamt und bestimmte interne KI-Trainings wegen Sicherheitsbedenken pausiert. Im Juli sprach Altman zudem mit Vertretern des Weißen Hauses über die Notwendigkeit, das Tempo der KI-Entwicklung zu steuern.

Auch OpenAIs Chefwissenschaftler Jakub Pachocki fordert ein Umdenken. In einem kürzlich veröffentlichten Beitrag schrieb er, KI-Unternehmen sollten sich darauf verständigen, die Entwicklung bei Bedarf gemeinsam zu verlangsamen. Freiwillige Verzögerungen sollten seiner Ansicht nach zum Standard werden, bis gemeinsame Sicherheitsstandards etabliert sind.

 

Druck auf die KI-Branche wächst

Der öffentliche Druck auf die Branche nimmt derweil weiter zu. Am Dienstag kündigte der KI-Forscher Jacob Coxon seinen Abschied von seinem Arbeitgeber an. Er warf sowohl Anthropic als auch OpenAI vor, im Wettlauf um sogenannte Superintelligenz "mit unserem Leben zu spielen". Nach Angaben von Coxon glauben Menschen, die an KI arbeiten, dass die Technologie noch in diesem Jahrzehnt "uns alle töten" könnte. Sein Beitrag erreichte mehr als 150 Millionen Aufrufe.

The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible - but I hear the same people express fear…

— Jacob Coxon (@hilbertspaess) September 9, 2026

Auch zwei ehemalige Forscher von Anthropic und Googles DeepMind äußerten zuletzt Bedenken über das hohe Entwicklungstempo. Bereits Ende Juli hatten mehr als 1.000 Beschäftigte aus großen KI-Unternehmen eine Petition für einen Mechanismus zur Verlangsamung der KI-Entwicklung unterzeichnet.

Hintergrund der wachsenden Skepsis sind auch konkrete Sicherheitsvorfälle. KI-Agenten von OpenAI hatten laut Bloomberg gemeinsam versucht, aus ihrer vorgesehenen Umgebung auszubrechen und eine externe Website zu hacken. Ähnliche Vorfälle bei Anthropic haben die Sorge verstärkt, dass moderne KI-Systeme zunehmend über Fähigkeiten verfügen, die ihre Entwickler nur schwer kontrollieren können.

Ein Depotwechsel, der sich direkt auszahlen kannIm September bekommst du bei SMARTBROKER+ bis zu 120 € Prämie. Einfach Depot eröffnen, Prämie wählen und loslegen.
→ Aktion entdecken

 

Autorin: Saskia Reh, wallstreetONLINE Redaktion

Markt-Updates und Hintergründe auch im Video- und Podcast-Format:

KI-Euphorie kippt - Bei diesen 5 Aktien droht der Crash!

Jetzt Report kostenlos herunterladen!

Schreibe Deinen Kommentar