Ist KI-generierter Code unsicher?

Warum KI-Code oft unsicher ist

Sprachmodelle sind auf riesigen Mengen Code trainiert, darunter Code-Foren wie GitHub, Stack Overflow oder GitLab. Diese Quellen enthalten viel hochwertigen Code, aber auch viel schlechten Code: Anfänger zeigen Beispiele, die nicht funktionieren, und fragen nach Hilfe. Aus Sicht der KI sind alle Beispiele Trainingsdaten, ungeachtet der Qualität.

Das Laien-Problem

Wenn ein Laie ChatGPT bittet „Schreibe ein Programm, das X macht", bekommt er Code zurück, ohne Rückfragen oder Sicherheits-Warnungen. Studien an Universitäten zeigen: Diese Codes sind überdurchschnittlich unsicher. SQL-Injection-Lücken, fehlende Input-Validierung, veraltete kryptographische Methoden. Der Laie merkt es nicht.

Wer KI sinnvoll zum Programmieren nutzt

Nur wer schon programmieren kann, kann KI-Code sinnvoll bewerten. Du erkennst, wenn der Code Sicherheits-Lücken enthält. Du weißt, welche Fragen du stellen musst. Du verstehst, was die KI dir liefert. Für reine Anfänger ohne Code-Kompetenz ist KI-Programmierung deshalb gefährlich.

Bewusstes Vorgehen

Wenn du KI-Code im Unternehmen nutzen lässt, etabliere Code-Reviews durch erfahrene Entwickler. Lass Sicherheits-Scanner (SAST, DAST) über jeden KI-generierten Code laufen. Schule Mitarbeitende, dass „funktioniert" nicht gleich „sicher" heißt. Vibe-Coding hat Grenzen, besonders bei sicherheits-relevantem Code.