KI außer Kontrolle? Anthropic drängt auf harte Sicherheitschecks

Das von Amazon unterstützte Unternehmen Anthropic veröffentlichte am Mittwoch mehrere politische Vorschläge und forderte den US-Kongress auf, Landesgesetze nicht ohne ein Bundesgesetz zur Bewältigung der Risiken im Zusammenhang mit künstlicher Intelligenz außer Kraft zu setzen. Anthropic erklärte, dass zwar einige neuere Landesgesetze Unternehmen dazu verpflichten, ihre Sicherheitsmaßnahmen zu beschreiben und öffentlich zugänglich zu machen, das rasante Tempo der KI-Entwicklung jedoch eine substanziellere Rolle der Regierungen erfordere.

Anthropic hob im Rahmen seines vorgeschlagenen Rahmens für zukunftsweisende Entwickler mehrere wichtige Anforderungen hervor, darunter Transparenz, qualifizierte unabhängige Bewertung, Schutz vor Cyberangreifern und die Einrichtung einer Regulierungsbehörde, die Modelle blockieren oder verhindern kann, die ein erhebliches Risiko darstellen. Die Regeln sollen biologische Risiken, Cyberrisiken, Risiken im Zusammenhang mit Kontrollverlust und Risiken der automatisierten Forschung und Entwicklung adressieren, so Anthropic. 

Ihre Lieblingsaktie geschenktwallstreetONLINE und SMARTBROKER+ starten gemeinsam eine exklusive Bonus-Aktion. Eröffnen Sie bis 30.06.2026 ein Depot bei Smartbroker+ und erhalten als Willkommensgeschenk einen Anteil ausgewählter Aktien im Wert von 50 Euro!

 

Anthropic fordert laut Reuters, dass der US-Kongress Landesregeln zur KI nicht außer Kraft setzen sollte, es sei denn, es gebe ein strenges Bundesgesetz gegen katastrophale KI-Risiken. Das zielt direkt auf die Linie der Trump-Regierung, die eine nationale KI-Regelung anstrebt und das Nebeneinander vieler einzelstaatlicher Vorschriften als Innovationsbremse sieht.

Inhaltlich geht Anthropic deutlich weiter als reine Transparenzpflichten. CEO Dario Amodei argumentiert, dass Offenlegungsvorschriften zwar 2025 sinnvoll gewesen seien, inzwischen aber nicht mehr ausreichten. Er zieht den Vergleich zu Flugzeugen, Autos oder Medikamenten: Mächtige KI-Modelle sollten technisch getestet und im Extremfall blockiert oder zurückgezogen werden können, wenn sie erhebliche Sicherheitsrisiken darstellen.

Der Vorschlag sieht Pflichtprüfungen für besonders leistungsfähige Modelle vor. Modelle oberhalb bestimmter Rechenleistungsschwellen sollen von qualifizierten Dritten auf vier Risikofelder getestet werden: Cyberrisiken, biologische Waffenrisiken, Kontrollverlust über KI-Systeme sowie automatisierte Forschung und Entwicklung, die diese Risiken beschleunigen könnte.

Besonders scharf ist die Forderung nach einer echten Eingriffsbefugnis des Staates. Nach Anthropics Vorstellung sollte eine Behörde oder ein staatlich zugelassenes Prüfsystem die Einführung gefährlicher Modelle blockieren oder abschrecken können. Gleichzeitig fordert das Unternehmen Schutzmechanismen gegen politische Willkür oder Bevorzugung einzelner Anbieter.

Dazu kommen Sicherheitsauflagen für die Unternehmen selbst. Entwickler fortgeschrittener KI-Modelle sollen ihre Modellgewichte besser vor Diebstahl schützen, regelmäßige Red-Teaming- und Penetrationstests durchführen und kritische Sicherheitsvorfälle schnell melden. Für Anthropic ist das auch eine Frage der nationalen Sicherheit, weil leistungsfähige Modelle zunehmend für Cyberangriffe, Sabotage oder militärisch relevante Anwendungen missbraucht werden könnten.

Der Vorstoß kommt in einem angespannten politischen Umfeld. Präsident Donald Trump hatte bereits im Dezember 2025 per Executive Order eine einheitliche nationale KI-Politik gefordert und eine Taskforce vorgesehen, die aus Sicht der Regierung problematische Landesgesetze juristisch angreifen soll. Die Begründung: Ein Flickenteppich aus 50 Regelwerken erschwere Innovation und belaste vor allem Start-ups.

Parallel liegt im US-Repräsentantenhaus ein parteiübergreifender Entwurf vor, der Bundesstaaten weitgehend daran hindern würde, die Entwicklung von KI-Modellen selbst zu regulieren. Nach Reuters würde der Entwurf den Bundesstaaten unter anderem verbieten, eigene Vorabtests für Modelle vorzuschreiben, während Regeln zur Nutzung von KI weiterhin möglich blieben.

Damit positioniert sich Anthropic zwischen zwei Lagern: Das Unternehmen will keinen unübersichtlichen Regulierungsflickenteppich, aber auch keine pauschale Deregulierung. Die Botschaft lautet: Bundesrecht ja – aber nur, wenn es echte Sicherheitsprüfungen, unabhängige Kontrolle und staatliche Eingriffsmöglichkeiten enthält.

Autor: Paul Späthling, wallstreetONLINE Redaktion

Die Amazon Aktie wird zum Zeitpunkt der Veröffentlichung der Nachricht mit einem Plus von +0,51 % und einem Kurs von 207,3USD auf Tradegate (11. Juni 2026, 14:45 Uhr) gehandelt.

Markt-Updates und Hintergründe auch im Video- und Podcast-Format:

SpaceX-Hype zu teuer – Diese 5 Aktien bieten bessere Chancen

Jetzt Report kostenlos herunterladen!

Schreibe Deinen Kommentar