AI Threat Tracker
Neuer Google AI Threat Tracker-Report zeigt: Angriffe laufen vollautomatisch ab
KI-Agenten entwickeln erstmals autonom Exploits – Google warnt vor neuer Angriffsdynamik
Die Google Threat Intelligence Group (GTIG) hat eine neue Ausgabe des „AI Threat Tracker“ veröffentlicht. Dieser Bericht über KI-gestützte Bedrohungen markiert einen Wendepunkt: Erstmals beobachtete GTIG einen Angreifer, der mithilfe eines KI-Agenten Sicherheitspatches in funktionierende Exploits umwandelte – ganz ohne menschliches Eingreifen.
Generell übernehmen Agenten immer mehr Aufgaben bei Einbruchsversuchen und bei der Ausnutzung von Schwachstellen. Dadurch verliert der „human in the loop“ an Bedeutung und der Angriffszyklus beschleunigt sich.
Die wichtigsten Erkenntnisse aus dem Bericht:
Die GTIG entdeckte ein erstes Beispiel für eine Ausnutzung ohne menschliches Eingreifen
Ein LLM-Framework namens exploit_agent wurde mit russischsprachigen Tools konfiguriert, um kontinuierlich Code vor und nach dem Patch zu vergleichen, Schwachstellen zu identifizieren und automatisch Exploits ohne menschliches Eingreifen zu entwickeln
Angreifer nutzen Open-Source-KI-Agenten bei realen Einbruchsversuchen
Finanziell motivierte und mutmaßliche Cyber-Spionage-Akteure verwenden frei verfügbare Tools wie CAIRN, PentAGI und CyberStrikeAI. Dabei handelt es sich um KI-Agenten für Penetrationstests, mit denen sich einzelne Angriffsschritte automatisieren lassen. In einem Fall setzte ein Akteur CAIRN während eines Angriffs auf den US-amerikanischen Luft- und Raumfahrtsektor ein.
KI hilft ausländischen Einflusskampagnen, zu wachsen und authentischer zu wirken
Akteure verwenden große Sprachmodelle (LLMs) bei Informationsoperationen (IO) nicht mehr nur zur Erstellung von Inhalten. Staatlich unterstützte Gruppen und kommerzielle Anbieter von „Influence-as-a-Service“ setzen sie auch ein, um automatisierte Abläufe aufzubauen, Infrastruktur zu entwerfen und der Erkennung zu entgehen.
- In einem Fall nutzten die Akteure die Gemini-API, um Plattformen zu entwickeln, die mehr als 100.000 synthetische Konten über Cloud-Smartphone-Farmen verwalten sollen. Dazu gehören Funktionen, die typische Fehler von Smartphone-Kameras nachahmen, damit die erzeugten Bilder und Videos echter aussehen.
Staatlich unterstützte Akteure setzen KI für Spionage und gezielte Angriffe ein
Akteure mit Verbindungen zur Volksrepublik China bereiten mithilfe von LLMs gestohlene Daten zu nachrichtendienstlichen Erkenntnissen auf. Außerdem beobachtete die GTIG Aktivitäten mit Nordkorea-Bezug: Dabei wurden Kryptowährungsunternehmen mit KI-generierten Fake-Profilen angegriffen, von denen einige ein SynthID-Wasserzeichen trugen. Zudem versuchten die Akteure, die Konfiguration autonomer Programmierassistenten zu manipulieren.
Der Bericht beschreibt außerdem detailliert, wie Google den Missbrauch von Gemini-Diensten erkannt und unterbunden hat, indem das Unternehmen betreffende zugehörige Konten deaktiviert und die Sicherheitsvorkehrungen auf Grundlage dieser Erkenntnisse verstärkt hat.