Generative KI verändert die Bedingungen für Cybersicherheit bei Unternehmen (FOTO)

Berlin (ots) - Gen AI vergrößert einerseits Schwachstellen, andererseits
erwartet mehr als jedes zweite Unternehmen, Bedrohungslagen durch die
Technologie schneller zu erkennen und Fehler zu vermeiden

Die Studie " New defenses, new threats: What AI and Gen AI bring to
cybersecurity (https://www.capgemini.com/de-de/insights/research/generative-ai-i
n-cybersecurity/) " des Capgemini Research Institute
(https://www.capgemini.com/de-de/insights/capgemini-research-institute/) zeigt
auf, dass neue Cybersicherheitsrisiken entstehen; aufgrund der starken
Verbreitung von KI und generativer KI (Gen AI) ist eine Transformation der
Cyberabwehrstrategien notwendig, um Bedrohungen zu prognostizieren, sie zu
erkennen und darauf zu reagieren. Zwei Drittel der Organisationen priorisieren
derzeit den Einsatz von KI in ihren Cybersecurity Operations.

Der Studie zufolge betrachten Organisationen KI zwar als Technologie mit
strategischer Bedeutung für die Stärkung ihrer Cybersicherheitsstrategien, doch
die großflächige Einführung[1] von Gen AI in den verschiedensten Branchen führt
zu einer erhöhten Vulnerabilität. Generative KI bringt für Organisationen drei
große Risikofelder mit sich: ausgefeiltere Angriffe durch eine größere Anzahl
von Akteuren, eine wachsende Angriffsfläche und die Zunahme von Schwachstellen
im gesamten Lebenszyklus individueller Gen-AI-Lösungen. Missbrauch von KI und
generativer KI durch Mitarbeitende verschärft die Situation und kann das Risiko
für Datenlecks signifikant steigern.

"Der Einsatz von KI und Gen AI ist ein zweischneidiges Schwert: Einerseits
bringt er zuvor ungekannte Risiken hervor; andererseits erkennen Organisationen
Cybersicherheitsvorfälle durch KI schneller und präziser. Intelligente Tools
helfen Teams der in IT-Sicherheit dabei, Angriffe abzuwenden, ihre Strategien
weiterzuentwickeln und die Sicherheitslandschaft in der steten Bedrohungslage
konstant zu überwachen. Entscheidend sind dabei die richtige Infrastruktur für
Datenmanagement, geeignete Frameworks und ethische Richtlinien zur Integration
von KI sowie der Faktor Mensch. Trainings und Sensibilisierungsprogramme für
Mitarbeitende gehören in den Alltag", so Mete Boz, Cybersecurity-Experte bei
Capgemini in Deutschland.

Zwei Drittel der Organisationen befürchten stärkere Gefährdung

Nahezu alle befragten Organisationen (97 Prozent) berichten von
Sicherheitsverstößen oder -problemen im Zusammenhang mit dem Einsatz generativer
KI im vergangenen Jahr. Gen AI birgt darüber hinaus neue Risiken wie
Halluzinieren und das Generieren voreingenommener, schädlicher oder
unangemessener Inhalte sowie Angriffe durch Prompt Injection[2]. Zwei von drei