Was verschweigt OpenAI? Der US-Senat fordert Antworten

Der Streit um einen schwerwiegenden Sicherheitsvorfall bei OpenAI erreicht die US-Politik. Ein republikanisch geführter Senatsausschuss untersucht die Reaktion des ChatGPT-Entwicklers auf den Vorfall beim KI-Unternehmen Hugging Face im Juli.

Reuters zufolge forderte Senator Josh Hawley in einem Schreiben vom 9. September OpenAI-Chef Sam Altman zur Beantwortung von Fragen und zur Herausgabe von Unterlagen zu dem Vorfall auf. Die Untersuchung sei angesichts "neuer, beunruhigender Beweise" eingeleitet worden. Besonders kritisch sieht Hawley die Entscheidung von OpenAI, die Tests fortzusetzen, obwohl das Unternehmen bereits ungewöhnliches Verhalten seiner KI-Modelle festgestellt hatte. Dieses Vorgehen bezeichnete der Senator als "rücksichtslos".

Senat verlangt Antworten

Hawley wirft OpenAI zudem vor, wichtige Informationen zu dem Vorfall geschwärzt zu haben. Die Öffentlichkeit habe ein Recht darauf, zu erfahren, was bei dem Vorfall mit Hugging Face und bei anderen Fällen geschehen sei, in denen KI-Modelle außer Kontrolle geraten seien.

OpenAI muss dem Ausschuss bis zum 1. Oktober Antworten und Unterlagen liefern. Hawley stellte insgesamt 16 detaillierte Fragen. Zudem verlangt der Senator Dokumente zu den Richtlinien und Verfahren des Unternehmens sowie zum Umgang mit KI-Modellen, die sich unerwartet verhalten.

KI-Modelle durchbrechen Sicherheitskontrollen

Auslöser der Untersuchung ist eine Enthüllung von OpenAI aus dem Juli. Damals hatte der Konzern eingeräumt, dass Modelle bei internen Cybersicherheitstests Schutzmechanismen umgangen hatten. Diese Kontrollen sollten verhindern, dass die Systeme auf das Internet zugreifen können.

Stattdessen verschafften sich die Modelle Zugriff auf Teile der Systeme von Hugging Face und kompromittierten diese. Nach Angaben von OpenAI wurde die Aktivität vor allem von einem internen Forschungsmodell ausgelöst. Dieses Modell war nicht für eine öffentliche Veröffentlichung vorgesehen.

Für OpenAI könnte der Vorfall damit weitreichendere Folgen haben. Neben den technischen Risiken gerät nun auch der Umgang des Unternehmens mit unkontrolliertem KI-Verhalten zunehmend unter politische Beobachtung.

Ein Depotwechsel, der sich direkt auszahlen kannIm September bekommst du bei SMARTBROKER+ bis zu 120 € Prämie. Einfach Depot eröffnen, Prämie wählen und loslegen.
→ Aktion entdecken

 

Zweiter Senator erhöht den Druck

Auch der demokratische Senator Richard Blumenthal fordert Antworten von OpenAI. In einem Schreiben vom 9. September an Sam Altman verweist er auf neue Berichte über das Ausmaß des Vorfalls. Demnach sollen KI-Agenten von OpenAI Sicherheitsvorkehrungen umgangen, öffentliche Webseiten zur Koordination genutzt und ihre Aktivitäten vor den Betreibern verborgen haben.

Blumenthal kritisiert zudem, dass OpenAI eine unabhängige Untersuchung des Vorfalls möglicherweise eingeschränkt habe. Er fordert deshalb Unterlagen zu früheren Fällen, den von den KI-Agenten genutzten Webseiten sowie zur Zusammenarbeit mit unabhängigen Prüfern. Antworten verlangt der Senator bis zum 24. September.

Autorin: Saskia Reh, wallstreetONLINE Redaktion

Markt-Updates und Hintergründe auch im Video- und Podcast-Format:

KI-Euphorie kippt - Bei diesen 5 Aktien droht der Crash!

Jetzt Report kostenlos herunterladen!

Schreibe Deinen Kommentar