Google entdeckt erste KI-entwickelte Zero-Day-Schwachstelle

Cyberkriminelle setzen künstliche Intelligenz längst nicht mehr nur experimentell ein – sie automatisieren damit inzwischen hochkomplexe Angriffe im großen Stil. Der neue Bericht der Google Threat Intelligence Group (GTIG) zeigt erstmals konkrete Belege dafür, dass KI aktiv zur Entwicklung von Zero-Day-Schwachstellen genutzt wird. Damit beginnt eine neue Phase der Cyberbedrohung, in der staatliche Hackergruppen, autonome Malware und KI-Agenten die Geschwindigkeit und Präzision digitaler Angriffe massiv erhöhen.

Die Google Threat Intelligence Group hat ihren aktuellen Bericht „AI Threat Tracker “ veröffentlicht und zeichnet darin ein alarmierendes Bild der globalen Bedrohungslage. Besonders brisant: Google identifizierte erstmals einen Zero-Day-Exploit, der offenbar mithilfe eines KI-Modells entdeckt und für reale Angriffe vorbereitet wurde. Dabei handelte es sich um eine Umgehung der Zwei-Faktor-Authentifizierung – ein Szenario, das Sicherheitsforscher bislang vor allem theoretisch diskutierten.

Laut GTIG ist dies der erste bekannte Fall, in dem Angreifer KI erfolgreich zur Entwicklung einer Zero-Day-Schwachstelle eingesetzt haben. Google betont jedoch, dass bereits mehrere ähnliche Versuche beobachtet wurden und vermutlich zahlreiche weitere KI-gestützte Angriffsoperationen parallel laufen, die bislang unentdeckt geblieben sind. Die verantwortlichen Bedrohungsakteure waren bereits in der Vergangenheit an größeren Cyberkampagnen beteiligt. Aufgrund technischer Fehler bei der Umsetzung konnte der konkrete Exploit offenbar nicht erfolgreich eingesetzt werden. Google meldete die Schwachstelle unmittelbar an den betroffenen Entwickler, der inzwischen einen Sicherheits-Patch veröffentlicht hat. Dadurch wurde das Risiko erheblich reduziert.

Auffällig war laut Google zudem, dass der Exploit zahlreiche typische Merkmale KI-generierter Entwicklung aufwies. Gleichzeitig stellte das Unternehmen klar, dass der Angriff offenbar nicht mit „Mythos“ entwickelt wurde.

Nordkorea und China skalieren KI-gestützte Cyberangriffe

Der Bericht zeigt außerdem, dass insbesondere staatlich unterstützte Gruppen aus China und Nordkorea künstliche Intelligenz gezielt einsetzen, um Schwachstellen zu analysieren und neue Exploits zu entwickeln.

Die nordkoreanische Gruppe APT45 nutzt KI demnach, um tausende Exploit-Varianten automatisiert zu validieren und ihr Arsenal deutlich schneller auszubauen. Chinesische Akteure wie UNC2814 setzen wiederum auf KI-generierte Experten-Personas, um gezielt Schwachstellen in Hardware-Komponenten wie Routern aufzuspüren.

Autonome Malware agiert zunehmend selbstständig

Besonders besorgniserregend ist laut GTIG der Aufstieg agentenbasierter KI-Tools. Moderne Malware kann mittlerweile eigenständig Benutzeroberflächen bedienen, Sicherheitsmechanismen umgehen und sich dynamisch an ihre Umgebung anpassen.

Ein Beispiel dafür ist „PROMPTSPY“, eine neue Android-Backdoor, die mithilfe von KI autonom durch die Benutzeroberfläche eines infizierten Geräts navigiert und sogar Deinstallationsversuche blockiert.

Auch das Open-Source-Framework OpenClaw gewinnt in der Szene an Bedeutung. Sicherheitsforscher beobachten, dass Hacker das Framework nutzen, um ihre Angriffsmethoden in kontrollierten Umgebungen zu testen und weiterzuentwickeln.

Darüber hinaus wurde ein mit China verbundener Akteur dabei beobachtet, wie er agentische KI-Tools nutzte, um ein japanisches Technologieunternehmen dauerhaft und autonom auf Schwachstellen zu untersuchen.

Russische Desinformation nutzt KI-Stimmenklone

Russische Akteure setzen KI laut Bericht nicht nur zur Optimierung von Malware ein, sondern verstärkt auch für Desinformationskampagnen. Die prorussische Operation „Operation Overload“ verwendet KI-gestütztes Stimmenklonen, um Journalisten zu imitieren und manipulierte Audioaufnahmen in legitime Nachrichtenbeiträge einzuschleusen.

Ziel dieser Kampagnen seien insbesondere die USA, die Ukraine und Frankreich. Zusätzlich nutzen russische Gruppen KI-generierten Ködercode, um Schadsoftware vor Sicherheitslösungen zu verstecken und Analysen zu erschweren.

Angriffe auf KI-Lieferketten nehmen zu

Auch die Infrastruktur hinter KI-Anwendungen gerät zunehmend ins Visier. Laut GTIG greifen Akteure wie TeamPCP gezielt Komponenten der KI-Lieferkette an – darunter Frameworks wie LiteLLM. Ziel solcher Angriffe ist der Diebstahl sensibler Cloud-Zugangsdaten, AWS-Schlüssel und Entwicklerinformationen aus Build- und Entwicklungsumgebungen. Google: „Der Wettlauf hat bereits begonnen“

John Hultquist, Chefanalyst der Google Threat Intelligence Group, warnt vor einer dramatischen Fehleinschätzung der aktuellen Lage: „Es herrscht die Fehlannahme, dass der Wettlauf um KI-Sicherheitslücken unmittelbar bevorsteht. Tatsächlich hat er bereits begonnen.“

Laut Hultquist steigern Bedrohungsakteure mithilfe von KI bereits heute Geschwindigkeit, Skalierung und Raffinesse ihrer Angriffe erheblich. Die Technologie ermögliche es, Angriffe effizienter zu testen, Ziele dauerhaft auszuspähen und leistungsfähigere Malware zu entwickeln.

Google reagiert auf die zunehmende Bedrohung mit eigenen KI-Sicherheitslösungen. Erkenntnisse aus dem „AI Threat Tracker“ fließen direkt in neue Schutzmechanismen und Sicherheitsprodukte ein.

Der KI-Agent „Big Sleep “ soll Softwarefehler identifizieren, bevor Hacker diese ausnutzen können. Gleichzeitig nutzt „CodeMender“ die Reasoning-Fähigkeiten von Gemini, um kritische Schwachstellen automatisiert zu beheben. Zusätzlich sperrt Google aktiv Konten, die KI-Modelle missbräuchlich für Cyberangriffe einsetzen.