5 Cybersecurity-Schutzmaßnahmen beim KI-Einsatz
Fünf KI-spezifische Cybersecurity-Maßnahmen: 1. Prompt-Injection-Filter (OWASP LLM Top 10), 2. Sensitive Data Loss Prevention auf Prompt-Ebene, 3. Output-Validierung gegen Schadcode-Generierung, 4. Model-Access-Logging mit DLP-Integration, 5. Red-Teaming und Penetration-Tests.
Die OWASP Foundation hat 2023 die Top 10 LLM-Risiken veröffentlicht und 2025 aktualisiert. Prompt Injection, Data Leakage und unsichere Plugin-Designs stehen ganz oben. Diese fünf Maßnahmen sind das Minimum für produktive KI-Systeme.
Prompt-Injection-Filter
OWASP LLM01. User schmuggelt Anweisungen in Eingaben („Ignoriere alle vorherigen Instruktionen…"). Schutz: Input-Validierung, getrennte System- und User-Prompts, Sandboxing der Modell-Antworten, Tools wie Lakera Guard, Microsoft Prompt Shields.
Sensitive Data Loss Prevention auf Prompt-Ebene
OWASP LLM06. Mitarbeitende kopieren versehentlich Kundendaten, Kreditkartennummern oder Quellcode in Public-LLMs. Schutz: DLP-Gateway vor dem KI-Aufruf, Pattern-Matching auf PII, Block-Listen, Browser-Plugins (Microsoft Purview, Netskope).
Output-Validierung
OWASP LLM02. Code-Generierende KIs erzeugen verwundbaren Code, halluzinierte Bibliotheken (Package Confusion Attacks). Schutz: SAST/Linter auf KI-generierten Code, Whitelist erlaubter Imports, automatisierte Schwachstellen-Scans vor Commit.
Model-Access-Logging
Protokolliere KI-Aufrufe: wer, wann, welcher Prompt, welche Antwort. EU AI Act Art. 12 und Art. 26 enthalten besondere Protokollierungspflichten für Hochrisiko-KI. Eine allgemeine Pflicht, sämtliche Prompts und Antworten aufzuzeichnen, folgt daraus nicht. Integration in SIEM (Splunk, Sentinel) für Anomalie-Detection.
Red-Teaming und Penetration-Tests
Vor produktivem Einsatz: Versuche, das System durch Adversarial Prompts zu kompromittieren. NIST AI RMF empfiehlt Red-Teaming explizit. Externe Anbieter wie HiddenLayer und Trail of Bits führen das durch, intern mit OpenAI Evals, Promptfoo.
Fazit
Diese fünf Maßnahmen ergänzen klassische IT-Security (Identity, Network, Endpoint), ersetzen sie nicht. Vertiefung in der Schnittstelle CISO ↔ AI-Officer im Lehrgang Manager für angewandte KI-Transformation (IHK).
FAQs
:quality(85))
Manager für angewandte KI-Transformation (IHK)
Im Lehrgang verwandelst du dieses Wissen in einen konkreten Umsetzungsplan — mit Templates, Use Cases und IHK-Zertifikat.
Kostenlos testenthekey.academy ist eine deutsche Online-Lernplattform für IHK-zertifizierte berufliche Weiterbildung — 24 Lehrgänge zu KI, Führung, Resilienz, Marketing und HR. 100 % online, self-paced, mit IHK-Zertifikat.
:quality(85)){kind=logo}