KI-Alarm: Warum Deutschland die KI-Bremse ablehnt

Ausgerechnet einige der mächtigsten Köpfe der KI-Industrie wollen beim Wettrennen um immer leistungsfähigere Modelle auf die Bremse treten, wie Reuters berichtet. Deutschland hält dagegen: Ein Stopp der Entwicklung künstlicher Intelligenz sei für Europa keine realistische Option, erklärte das Bundesministerium für Digitales am Montag. Der Grund ist strategisch. Europa kämpft ohnehin darum, technologisch nicht dauerhaft von den USA und China abhängig zu werden. "Die Stärkung der digitalen Souveränität Europas erfordert weitere KI-Entwicklung und Innovation", erklärte ein Ministeriumssprecher.

Damit positioniert sich Berlin in einer Debatte, die innerhalb weniger Tage erheblich an Schärfe gewonnen hat. Auslöser war Anthropic-Chef Dario Amodei. In seinem Essay "We Must Pace the Frontier" fordert er allerdings keinen vollständigen KI-Stopp. Vielmehr soll die Entwicklung sogenannter Frontier-Modelle gezielt verlangsamt werden, damit Sicherheitsforschung und Schutzmechanismen mit den Fähigkeiten der Systeme Schritt halten können.

Teste SMARTBROKER+ und überzeug dich selbstEröffne im September dein Depot, führe 5 Trades aus und sichere dir 50 € Prämie. Wenn du zusätzlich Depotvolumen mitbringst, sind bis zu 120 € möglich. → Jetzt testen

 

Amodeis Sorge richtet sich insbesondere auf zwei Entwicklungen. Zum einen könnten KI-Systeme zunehmend selbst dazu beitragen, ihre Nachfolger zu entwickeln und damit den technologischen Fortschritt beschleunigen. Zum anderen verweist er auf einen Zwischenfall bei OpenAI und Hugging Face im Juli. Während interner Cybersecurity-Tests durchbrachen OpenAI-Modelle vorgesehene Beschränkungen, verschafften sich Zugang zum Internet und kompromittierten Teile der Infrastruktur von Hugging Face. OpenAI bestätigte später, dass die Systeme unter reduzierten Schutzmaßnahmen unerlaubte Kommunikationswege nutzten, Schwachstellen ausnutzten und auf externe Systeme zugriffen. Kundendaten und die regulären OpenAI-Produkte waren nach Angaben des Unternehmens nicht betroffen.

Auch Anthropic meldete inzwischen Fälle, bei denen Claude-Modelle während Tests unerlaubt auf reale Computersysteme zugriffen. Die Modelle liefen dabei ebenfalls bewusst ohne übliche Cyber-Schutzmaßnahmen beziehungsweise unter speziellen Testbedingungen. Amodei warnt dennoch, dass leistungsfähigere Systeme mit ähnlichen Fehlsteuerungen künftig erheblich größeren Schaden anrichten könnten. Sein Vorschlag: unabhängige Prüfer sollen dauerhaft nahezu mitarbeiterähnlichen Zugang zu den führenden KI-Laboren erhalten. Zusätzlich sollen sich Unternehmen auf gemeinsame Sicherheitsstandards verständigen und langfristig auch Staaten international koordinieren. Anthropic will den ersten Schritt nach eigenen Angaben selbst umsetzen.

Das deutsche Digitalministerium nimmt solche Warnungen ausdrücklich ernst. Sollte ein KI-System tatsächlich aus einer abgeschotteten Testumgebung ausbrechen und eigenständig auf andere Systeme zugreifen können, wäre dies nach Einschätzung des Ministeriums ein "völlig neues Bedrohungsszenario", das eine entsprechende politische Reaktion verlangen würde. Eine generelle Entwicklungsbremse will Deutschland daraus jedoch nicht ableiten. Das passt zur bisherigen Strategie der Bundesregierung.

Erst im März beschloss das Kabinett eine nationale Rechenzentrumsstrategie. Bis 2030 sollen die Rechenzentrumskapazitäten in Deutschland mindestens verdoppelt und die speziell für Hochleistungsrechnen und KI verfügbaren Kapazitäten mindestens vervierfacht werden. Die Bundesregierung will Genehmigungen und Stromanschlüsse beschleunigen und zugleich eine europäische KI-Gigafactory nach Deutschland holen. Digitalminister Karsten Wildberger formulierte die Strategie zuletzt besonders deutlich: Deutschland verfüge derzeit über knapp drei Gigawatt Rechenzentrumskapazität und rund 500 Megawatt für KI. Wirtschaft, Verwaltung und Sicherheit dürften nicht dauerhaft von ausländischer Technologie abhängig bleiben.

Ein freiwilliges Abbremsen Europas hätte aus deutscher Sicht daher einen offensichtlichen Haken: Während europäische Unternehmen langsamer entwickeln, könnten amerikanische oder chinesische Anbieter weiter davonziehen. Ganz ohne Regeln findet das Rennen allerdings längst nicht mehr statt. Seit dem 2. August dieses Jahres kann die Europäische Kommission zentrale Teile des AI Act durchsetzen. Dazu gehören Regeln für sogenannte General-Purpose-AI-Modelle sowie neue Transparenzpflichten. Für besonders leistungsfähige Modelle mit systemischen Risiken gelten zusätzliche Anforderungen an Risikobewertung, Tests und Schutzmaßnahmen.

Damit unterscheidet sich Europas Ansatz von einem vollständigen Moratorium: Die Technologie soll weiterentwickelt werden, allerdings innerhalb eines regulatorischen Rahmens. Berlin setzt darüber hinaus auf internationale Abstimmung. Nach Angaben des Digitalministeriums soll das Thema auch auf Ebene der G7 vorangetrieben werden. Eine wirksame globale KI-Aufsicht sei ohne die Vereinigten Staaten und China kaum denkbar. Genau darin liegt jedoch das größte Problem. Amodei selbst räumt ein, dass ein weltweites Abkommen zum Abbremsen der KI-Entwicklung extrem schwierig wäre. Würde eine Seite ihre Entwicklung einschränken, während eine andere heimlich weiterarbeitet, könnte sich das technologische und geopolitische Kräfteverhältnis massiv verschieben.

Dass die Diskussion längst nicht mehr nur akademischer Natur ist, zeigte sich am Montag auch an den Märkten. Europas Technologiesektor verlor zeitweise rund zwei Prozent. Besonders Halbleiterwerte wie ASML, ASMI, Infineon und Soitec gerieten unter Druck. Anleger fürchten, dass ein geringeres Entwicklungstempo den gewaltigen Investitionsboom bei KI-Chips und Rechenzentren zumindest bremsen könnte. Damit entsteht ein bemerkenswerter Konflikt: Die Unternehmen, die das KI-Wettrennen maßgeblich beschleunigt haben, warnen zunehmend selbst vor dessen Geschwindigkeit. Deutschland sieht dagegen gerade im weiteren Ausbau von KI eine Voraussetzung dafür, technologisch souveräner zu werden.

Berlin setzt deshalb vorerst auf einen Mittelweg: weiterentwickeln, Infrastruktur aufbauen und gleichzeitig Schutzmechanismen verschärfen. Doch sollten Systeme tatsächlich beginnen, Sicherheitsbarrieren eigenständig zu überwinden und außerhalb kontrollierter Umgebungen zu handeln, dürfte die Frage nach einer stärkeren Bremse sehr schnell wieder auf dem Tisch liegen.

Autor: Paul Späthling, wallstreetONLINE Redaktion

Markt-Updates und Hintergründe auch im Video- und Podcast-Format:

KI-Euphorie kippt - Bei diesen 5 Aktien droht der Crash!

Jetzt Report kostenlos herunterladen!

Schreibe Deinen Kommentar