Google hat erstmals einen Zero-Day KI-Exploit entdeckt und blockiert, der die Zwei-Faktor-Authentifizierung umgeht.

Google hat einen Zero-Day-Exploit entdeckt, der von KI erstellt wurde

*Kurz zu den Fakten*

Warum und wie Google
Die Threat Intelligence Group (GTIG) von Google hat erstmals einen neuen Zero-Day-Exploit erkannt und blockiert. Der Exploit wurde mithilfe künstlicher Intelligenz generiert und nicht manuell von einem Menschen geschrieben.

Ziel des Angriffs
Ein großflächiger Eingriff in das Zwei-Faktor-Authentifizierungs-System (2FA) einer Open‑Source-Webanwendung für Systemadministration.

Wie KI-Spuren erkannt wurden
Im Python-Code waren „Signaturen“ – eine gefälschte CVSS-Bewertung, typische „lernende“ Formatierung und Muster, die charakteristisch für große Sprachmodelle (LLM) sind.

Grund der Schwachstelle
Logikfehler: Der Entwickler ging davon aus, dass ein bestimmtes Systemkomponente immer sicher sei und prüfte sie nicht. Durch diese ungeprüfte Komponente konnten Angreifer die 2FA umgehen.

Objekt des Angriffs
Google gibt das konkrete Zielanwendungsprogramm nicht preis.

Rolle von Gemini
Nach Angaben der Forscher wurde das Modell Gemini bei der Erstellung des Exploits nicht verwendet.

Prävention
Der Angriff wurde gestoppt, bevor er massenhaft werden konnte.

Was sonst noch von GTIG beobachtet wurde
1. Neue Angriffs­methoden
Angreifer nutzen KI nicht nur zur Erstellung schädlichen Codes, sondern auch zum „Umgehen“ der Infrastruktur selbst der KI‑Systeme.

2. Rollenbetrug
Hacker formulieren Anfragen so, als wären sie Sicherheitsexperten, und veranlassen die Modelle, sich anders zu verhalten als durch die Beschränkungen vorgesehen.

3. Laden großer Datenbanken
Innerhalb der Modelle werden komplette Schwachstellenverzeichnisse geladen, danach wird das Tool OpenClaw eingesetzt, um Malware in einer kontrollierten Umgebung zu debuggen, bevor sie real ausgerollt wird.

Ergebnis
Google konnte den von KI erstellten Exploit erkennen und neutralisieren, dank detaillierter Code‑Analyse und Erkennung der „Signaturen“ maschinellen Lernens. Dies unterstreicht die Notwendigkeit ständiger Logikprüfungen in Anwendungen und das Bewusstsein dafür, dass Angreifer KI sowohl als Werkzeug zur Angriffserstellung als auch zum Umgehen von Schutzmechanismen selbst nutzen können.