KI-Phishing
Wenn KI angreift: Microsoft warnt vor neuer Phishing-Welle
KI gegen KI – das digitale Wettrüsten im Cyberraum
Von Dr. Martin J. Krämer, Security Awareness Advocate bei KnowBe4
Cyberkriminelle setzen inzwischen dieselben Technologien ein wie IT-Sicherheitsabteilungen – nur mit anderen Zielen. Laut einem aktuellen Bericht von Microsoft nutzen Angreifer Künstliche Intelligenz, um Schadcode zu tarnen, Sicherheitsfilter zu umgehen und Phishing-Angriffe noch überzeugender zu gestalten.
Der Auslöser war ein kompromittiertes E-Mail-Konto eines kleinen Unternehmens. Darüber versendeten die Täter täuschend echte Nachrichten, die angeblich von einem bekannten Filesharing-Dienst stammten. Der beigefügte Anhang – vermeintlich ein harmloses Dokument – führte die Empfänger jedoch auf eine gefälschte Website, auf der Zugangsdaten abgefragt wurden. Besonders perfide: Die Angreifer nutzten eine „self-addressed“-Taktik, bei der Absender- und Empfängeradresse identisch wirkten, während die eigentlichen Zieladressen im BCC-Feld versteckt waren. So sollten einfache Sicherheitsmechanismen ausgetrickst werden.
KI als Tarnkappe
Das wirklich Neue an dieser Kampagne ist laut Microsoft die Art, wie der Schadcode versteckt wurde. Er war in einer SVG-Datei eingebettet – und offenbar mithilfe von KI erzeugt oder manipuliert. Die Analyse zeigte, dass der Code extrem komplex aufgebaut war, mit sinnlosen, aber „geschäftlich klingenden“ Begriffen durchsetzt – eine synthetische Struktur, die vor allem einen Zweck hatte: legitim zu wirken. Microsofts Sicherheitsforscher setzten ihren eigenen „Security Copilot“ ein, um den Code zu untersuchen. Das Ergebnis: Die Datei sah aus, „als hätte sie kein Mensch von Hand geschrieben“ – zu verschachtelt, zu ausschweifend, ohne funktionalen Nutzen. Das zeigt, wie sich große Sprachmodelle (LLMs) wie ChatGPT nicht nur zum Schreiben von Texten, sondern auch zur Tarnung von Schadsoftware einsetzen lassen.
Das Wettrüsten der Maschinen
Microsoft sieht den Vorfall als Teil eines größeren Trends: Ein digitales Wettrüsten zwischen Angreifern und Verteidigern. Während Sicherheitsforscher KI nutzen, um Bedrohungen schneller zu erkennen und abzuwehren, experimentieren Cyberkriminelle mit denselben Tools – um ihre Köder glaubwürdiger zu machen, Schadcode automatisch zu verschleiern und legitime Inhalte zu imitieren. Diese Entwicklung markiert den Beginn einer neuen Ära der Cyberkriminalität: KI steigert die Geschwindigkeit, Reichweite und Raffinesse von Angriffen erheblich.
Was Unternehmen jetzt tun sollten
Der Fall zeigt deutlich: Künstliche Intelligenz ist längst ein entscheidender Faktor in der Cybersicherheit – auf beiden Seiten. Während Angreifer KI zur Perfektion ihrer Täuschungen nutzen, hilft sie Verteidigern, komplexe Bedrohungen in Echtzeit zu erkennen und abzuwehren. Für Unternehmen bedeutet das: Schutzsysteme müssen kontinuierlich modernisiert und Mitarbeitende regelmäßig geschult werden. Nur die Kombination aus technischer Abwehr und geschärftem Bewusstsein bietet langfristig wirksamen Schutz vor KI-gestützten Angriffen.
