Erstmals haben Sicherheitsforscher einen Cyberangriff dokumentiert, bei dem eine KI-gestützte Zero-Day-Sicherheitslücke zum Einsatz kam. Die Threat Intelligence Group von Google entdeckte, dass eine prominente Cyberkriminellen-Gruppe einen Exploit nutzte, der mit hoher Wahrscheinlichkeit von einem KI-Modell entwickelt wurde. Die Schwachstelle betraf ein weit verbreitetes Open-Source-Webverwaltungstool und hätte es Angreifern ermöglicht, die Zwei-Faktor-Authentifizierung zu umgehen und allein mit einem Passwort auf Konten zuzugreifen. Google stufte die Gruppe als prominent ein und vermutet, dass der Exploit für eine Massenkampagne vorgesehen war – ein Alarmsignal für die gesamte Cybersicherheitsbranche.
KI-generierter Code mit auffälligen Merkmalen
Die Ermittler von Google begründen ihre Einschätzung mit der Struktur und dem Inhalt des Python-Codes. Der Exploit enthalte eine Fülle von erklärenden Docstrings, einen halluzinierten CVSS-Score und ein lehrbuchartiges, pythonisches Format, das für Trainingsdaten großer Sprachmodelle charakteristisch sei. Das Skript weise detaillierte Hilfemenüs und eine saubere ANSI-Farbklasse auf, wie man sie typischerweise von LLM-generiertem Code kennt. Mit „hoher Zuversicht“ gehen die Experten daher davon aus, dass ein nicht näher bezeichnetes KI-Programm bei der Entwicklung half. Google ließ offen, welches konkrete Modell zum Einsatz kam, schloss aber ausdrücklich aus, dass das eigene System Gemini involviert war.
Hintergründe und geopolitische Dimension
Die genaue Identität der Angreifer nannte Google nicht, um keine Vorlagen für Nachahmer zu liefern. Allerdings wies der Konzern darauf hin, dass Gruppierungen mit Verbindungen nach China und Nordkorea ein starkes Interesse daran gezeigt haben, KI zur Ausnutzung von Sicherheitslücken einzusetzen. John Hultquist, Chefanalyst der Google Threat Intelligence Group, bezeichnete den Fund im Gespräch mit der New York Times als „Vorgeschmack auf das, was kommt“. Er ergänzte: „Wir glauben, dass dies nur die Spitze des Eisbergs ist. Es gibt wahrscheinlich weitere KI-entwickelte Zero-Days.“
Defensive KI – ein Wettrüsten der Algorithmen
Der Vorfall unterstreicht die zunehmende Ambivalenz Künstlicher Intelligenz in der Cybersicherheit. Während Angreifer KI für Exploits nutzen, rüsten auch die Verteidiger auf. So hat etwa das Unternehmen Anthropic mit Claude Mythos ein Modell veröffentlicht, das Unternehmen dabei hilft, kritische Sicherheitslücken zu entdecken und zu schließen, bevor sie ausgenutzt werden können. Google selbst betont, dass KI ein mächtiges Werkzeug für Verteidiger sei. Doch die jüngste Entwicklung zeigt, dass es nur eine Frage der Zeit ist, bis die KI für Kriminelle genauso effektiv ist wie für diejenigen, die uns schützen sollen. Das Wettrüsten zwischen Angriff und Abwehr hat mit diesem Fall eine neue, algorithmische Stufe erreicht.
