Künstliche Intelligenz verändert die Cybersicherheit auf beiden Seiten des Schlachtfelds. Dieser Leitfaden deckt die gesamte Landschaft ab: die Absicherung von AI-Systemen, den Einsatz von AI zur Verteidigung, die OWASP Top 10 für LLMs, den EU AI Act und wie Plattformen wie KENSAI AI-gestützte Sicherheitsscans in die Praxis umsetzen.
AI-Sicherheit ist eine Disziplin mit zwei unterschiedlichen, aber miteinander verbundenen Dimensionen: Sicherheit von AI — der Schutz von AI-Systemen, Modellen, Datenpipelines und Inferenzendpunkten vor Angriffen; und AI für Sicherheit — der Einsatz maschinellen Lernens, um Cyberbedrohungen effektiver zu erkennen, zu verhindern und darauf zu reagieren.
Keine der beiden Dimensionen existiert für sich allein. Ein AI-gestütztes System zur Erkennung von Eindringversuchen, das selbst für gegnerische Manipulationen anfällig ist, erzeugt ein falsches Sicherheitsgefühl. Umgekehrt bietet selbst das am stärksten gehärtete AI-Modell keinen Mehrwert, wenn es die Erkennung von Bedrohungen oder die Reaktion darauf nicht wesentlich verbessern kann.
Für Unternehmen, die AI in Produktivumgebungen einsetzen — ob in kundenorientierten Chatbots, internen Automatisierungen oder Sicherheitswerkzeugen — ist das Verständnis beider Dimensionen längst nicht mehr optional. Es ist eine geschäftskritische Anforderung, die sich mit Compliance-Pflichten aus dem EU AI Act, NIS2, DORA und der DSGVO (GDPR) überschneidet.
Traditionelle Cybersicherheit schützt deterministische Software. Eine bekannte Schwachstelle wird gepatcht und bleibt behoben. AI-Systeme führen ein probabilistisches Verhalten ein. Ein Modell, das heute 99,7 % der Eingaben korrekt klassifiziert, kann morgen kritische Eingaben falsch klassifizieren, wenn ein Angreifer die Datenverteilung subtil verändert.
Dieser grundlegende Unterschied bedeutet, dass AI-Sicherheit neue Bedrohungsmodelle, neue Testmethoden und neue Überwachungsansätze erfordert, die über das herkömmliche Schwachstellenmanagement hinausgehen.
Drei zusammenwirkende Kräfte machen AI-Sicherheit im Jahr 2026 besonders dringlich:
Die Verbreitung von AI hat eine kritische Masse erreicht — 78 % der Unternehmen setzen AI inzwischen in Produktivumgebungen ein. Auch Angreifer nutzen AI — AI-generiertes Phishing erzielt 60 % höhere Klickraten. Regulierungsbehörden schauen genau hin — nach dem EU AI Act drohen Bußgelder von bis zu €35M oder 7 % des weltweiten Umsatzes.
Laut IBM X-Force erzielen AI-generierte Phishing-E-Mails eine um 60 % höhere Klickrate als manuell erstellte. Deepfake-gestützter CEO-Betrug verursachte Unternehmen im Jahr 2025 weltweit geschätzte Schäden von €2,1 Milliarden. AI ist nicht nur ein defensives Werkzeug — sie ist auch eine offensive Waffe.
Der EU AI Act trat 2025 vollständig in Kraft. Zusammen mit NIS2 und DORA sehen sich europäische Organisationen mit sich überschneidenden Compliance-Anforderungen konfrontiert. Bei Nichteinhaltung drohen nach dem AI Act Bußgelder von bis zu €35 Millionen oder 7 % des weltweiten Umsatzes und nach NIS2 bis zu €10 Millionen oder 2 % des Umsatzes.
Prompt-Injection ist das größte Risiko für LLM-Bereitstellungen. Angreifer erstellen Eingaben, die Systemanweisungen außer Kraft setzen und Modelle dazu bringen, Daten preiszugeben, Schutzmechanismen zu ignorieren oder unbeabsichtigte Aktionen auszuführen. Im Jahr 2026 gibt es dafür noch keine vollständige technische Lösung.
Direkte Prompt-Injection bettet schädliche Anweisungen direkt in Benutzereingaben ein. Indirekte Prompt-Injection versteckt Anweisungen in Daten, die das Modell verarbeitet — etwa Webseiten, Dokumenten oder E-Mails. In Verbindung mit der Werkzeugnutzung kann dies dazu führen, dass ein LLM mit API-Zugriff APIs mit vom Angreifer kontrollierten Parametern aufruft.
Angriffe durch gegnerisches maschinelles Lernen manipulieren das Modellverhalten mit gezielt erstellten Eingaben, die erlernte Entscheidungsgrenzen ausnutzen:
Datenvergiftung kompromittiert die Trainingspipeline. Ein Angreifer, der auch nur einen kleinen Teil der Trainingsdaten beeinflussen kann, kann Hintertüren einschleusen:
Modelle, die mit aus dem Web extrahierten Daten trainiert wurden, sind standardmäßig anfällig. Die Auswirkungen zeigen sich möglicherweise erst Monate nach der Bereitstellung. Ihre Erkennung erfordert statistische Analysen, die viele Organisationen auslassen.
AI-Modelle stellen erhebliche Investitionen in Forschung und Entwicklung dar. Diebstahl erfolgt durch API-basierte Extraktion, Seitenkanalangriffe, Kompromittierung der Lieferkette und Insiderbedrohungen. Ein Modell, dessen Training €5 Millionen gekostet hat, kann innerhalb weniger Stunden gestohlen und von einem Wettbewerber eingesetzt werden.
Moderne AI-Systeme sind von vortrainierten Modellen auf Hugging Face, Datensätzen aus öffentlichen Repositorys und Open-Source-Frameworks abhängig. Jede Abhängigkeit ist ein Angriffsvektor — von schädlichen Modellen, die beim Laden Code ausführen, über vergiftete Datensätze bis hin zu kompromittierten Bibliotheken.
ML-Modelle, die mit historischen Schwachstellendaten trainiert wurden, sagen voraus, welche Codemuster mit größter Wahrscheinlichkeit Schwachstellen enthalten. AI-gestütztes Fuzzing entdeckt Randfälle, die traditionelle Fuzzer übersehen. Moderne Scanner können Code analysieren, PoC-Exploits generieren, nach Auswirkungen priorisieren und Ergebnisse mit mehr als 332.000 bekannten CVEs abgleichen.
AI unterstützt menschliche Penetrationstester, indem sie die Aufklärung automatisiert, Angriffspfade vorschlägt, sich in Echtzeit an defensive Reaktionen anpasst und geschäftsrelevante Berichte erstellt. Darüber hinaus generiert AI äußerst überzeugende Phishing-Inhalte und Deepfake-Imitationen für Red-Team-Übungen.
AI-gestützte SIEM- und XDR-Systeme analysieren Milliarden von Ereignissen, um Bedrohungen zu erkennen, die regelbasierte Systeme übersehen — mithilfe von Verhaltensanalysen, Netzwerkverkehrsanalysen und systemübergreifender Protokollkorrelation.
Risikobasierte Priorisierung — AI bewertet Ausnutzbarkeit, Kritikalität von Assets und Bedrohungsinformationen. Prädiktive Analyse — ML sagt voraus, welche CVEs ausgenutzt werden, bevor öffentliche Exploits erscheinen. Automatisierte Behebung — AI schlägt in genehmigten Szenarien Korrekturen vor und setzt sie um.
NLP-Modelle analysieren E-Mail-Inhalte, Absenderverhalten, Links und Anhänge, um Phishing genauer als signaturbasierte Systeme zu erkennen und sich ohne manuelle Regelaktualisierungen an neue Techniken anzupassen.
| # | Risiko | Wichtigste Gegenmaßnahme |
|---|---|---|
| LLM01 | Prompt-Injection | Eingabevalidierung, Ausgabefilterung, Privilegientrennung |
| LLM02 | Unsichere Ausgabeverarbeitung | LLM-Ausgaben als nicht vertrauenswürdig behandeln und vor der Darstellung bereinigen |
| LLM03 | Vergiftung von Trainingsdaten | Validierung der Datenherkunft, Qualitätsprüfungen |
| LLM04 | Modell-Denial-of-Service | Ratenbegrenzung, Beschränkungen der Eingabegröße |
| LLM05 | Schwachstellen in der Lieferkette | Modellintegrität prüfen, Abhängigkeiten auditieren, SBOM |
| LLM06 | Offenlegung sensibler Informationen | Differenzielle Privatsphäre, Ausgabefilterung |
| LLM07 | Unsicheres Plugin-Design | Prinzip der geringsten Rechte für alle Plugins |
| LLM08 | Übermäßige Handlungsautonomie | Aktionen begrenzen, Bestätigung für Vorgänge mit großen Auswirkungen verlangen |
| LLM09 | Übermäßiges Vertrauen | Verifizierungsabläufe, Benutzerschulung |
| LLM10 | Modelldiebstahl | Zugriffskontrollen, Verschlüsselung, Überwachung |
Unannehmbares Risiko — Verboten (Social Scoring, biometrische Echtzeitüberwachung). Hohes Risiko — Konformitätsbewertungen, Dokumentation, menschliche Aufsicht. Begrenztes Risiko — Transparenzpflichten. Minimales Risiko — Keine spezifischen Pflichten.
| Anforderung | AI Act | NIS2 |
|---|---|---|
| Risikobewertung | AI-spezifische Risikobewertung | Cybersicherheits-Risikobewertung |
| Meldung von Vorfällen | AI-Vorfälle an die nationale Behörde | Cybervorfälle innerhalb von 24 Stunden |
| Sicherheit der Lieferkette | Sorgfaltsprüfung der AI-Lieferkette | Sicherheit der ICT-Lieferkette |
| Dokumentation | Technische Dokumentation, Data Governance | Sicherheitsrichtlinien, Verfahren |
| Menschliche Aufsicht | Für AI mit hohem Risiko verpflichtend | Governance und Verantwortlichkeit |
Eine Organisation, die AI zur Netzwerküberwachung einsetzt (Anwendungsbereich von NIS2) und deren System als Hochrisiko-AI eingestuft ist (AI Act), muss beide Rahmenwerke gleichzeitig erfüllen. KENSAI hilft mit Compliance-orientierten Sicherheitsscans, diese Überschneidung zu bewältigen.
Der Digital Operational Resilience Act stellt zusätzliche Anforderungen an Finanzunternehmen. AI-Systeme im Finanzsektor müssen zusätzlich zu AI Act und NIS2 die Vorgaben von DORA für ICT-Risikomanagement, Tests und die Überwachung von Drittanbietern erfüllen.
AI-Systeme, die personenbezogene Daten verarbeiten, müssen die Grundsätze der GDPR einhalten. Automatisierte Entscheidungen nach Artikel 22 begründen das Recht auf eine Erklärung und menschliche Überprüfung.
AI-gestützte Sicherheitsscans für Webanwendungen, APIs und Infrastruktur. Integrierte Compliance-Zuordnung für NIS2, DSGVO und DORA.
Kostenlosen Scan starten →Die Scan-Engine von KENSAI nutzt maschinelles Lernen, um Schwachstellen über Ihre gesamte Angriffsfläche hinweg zu korrelieren, sie anhand von Bedrohungsinformationen und Ausnutzbarkeitswerten nach realem Risiko zu priorisieren und auf mehr als 332.000 CVEs zurückzugreifen, die kontinuierlich aktualisiert und mit Exploit-Informationen angereichert werden.
Traditionelle Penetrationstests finden jährlich statt. Bedrohungen entwickeln sich täglich weiter. KENSAI bietet kontinuierliche automatisierte Scans, die neue Schwachstellen unmittelbar nach ihrem Auftreten erkennen — in Ihrer Infrastruktur, in neu bereitgestelltem Code und in Abhängigkeiten von Drittanbietern.
KENSAI ordnet Erkenntnisse NIS2, DSGVO (GDPR) und DORA zu und zeigt genau, welche regulatorischen Anforderungen von jeder Schwachstelle betroffen sind — dadurch wird der Scan von einer technischen Maßnahme zu einem Werkzeug für das Compliance-Management.
Mit Preisen von €990–€2.490 pro Monat macht KENSAI AI-Sicherheitsscans auf Unternehmensniveau für mittelständische Organisationen zugänglich, die sich sechsstellige Jahresverträge mit traditionellen Anbietern nicht leisten können.
AI-Sicherheit ist die Disziplin, AI-Systeme vor Angriffen und Missbrauch zu schützen und zugleich AI zur Verbesserung der Cybersicherheitsabwehr einzusetzen. Sie umfasst die Absicherung von Modellen, Trainingsdaten und Inferenzpipelines sowie den Einsatz von ML für die Bedrohungserkennung, das Schwachstellenmanagement und die Reaktion auf Vorfälle.
Prompt-Injection, Datenvergiftung, gegnerisches ML, Modelldiebstahl und Angriffe auf die Lieferkette. Jede dieser Bedrohungen zielt auf einen anderen Aspekt des AI-Lebenszyklus ab — vom Training bis zur Inferenz.
AI erkennt Bedrohungen schneller und genauer als regelbasierte Systeme, priorisiert Schwachstellen anhand realer Risiken, automatisiert die Reaktion auf Vorfälle und passt sich ohne manuelle Regelaktualisierungen an neue Angriffstechniken an.
Ein Framework, das die zehn kritischsten Sicherheitsrisiken bei LLM-Bereitstellungen benennt: Prompt-Injection, unsichere Ausgabeverarbeitung, Vergiftung von Trainingsdaten, Modell-DoS, Schwachstellen in der Lieferkette, Offenlegung sensibler Informationen, unsicheres Plugin-Design, übermäßige Handlungsautonomie, übermäßiges Vertrauen und Modelldiebstahl.
Der EU AI Act reguliert AI-Systeme nach Risikostufe. NIS2 schreibt das Management von Cybersicherheitsrisiken vor. Wenn Organisationen AI in kritischen Infrastrukturen einsetzen, gelten beide Rahmenwerke gleichzeitig und erfordern eine koordinierte Compliance.
KENSAI nutzt ML, um Schwachstellen über Netzwerk-, Web-, API- und Cloud-Angriffsflächen hinweg zu korrelieren, sie nach realer Ausnutzbarkeit und geschäftlichen Auswirkungen zu priorisieren und die Ergebnisse NIS2, DSGVO und DORA zuzuordnen. Die Datenbank umfasst mehr als 332.000 CVEs. Kostenloser Scan unter kensai.app/scan/free.
Nein. Angreifer nutzen AI unabhängig davon, ob Ihr Unternehmen sie selbst einsetzt. AI-generiertes Phishing, Deepfake-Betrug und AI-gestützte Ausnutzung richten sich gegen alle Organisationen. Auch die meisten modernen Sicherheitswerkzeuge verwenden intern AI.
Finden Sie Schwachstellen, bevor Angreifer es tun. AI-gestützte Scans für Webanwendungen, APIs und Infrastruktur.
Kostenlosen Scan starten →Sicherheit ist nicht optional.
🗡️ Das KENSAI-Team