KI Report
DarkGPT & Co: Schattenseite der Intelligenz - Cybercrime 2.0 im Zeitalter der KI
Check Point veröffentlicht AI Security Report 2025
Check Point Software Technologies Ltd. (NASDAQ: CHKP), weltweit führend im Bereich Cybersecurity, hat seinen neuen AI Security Report 2025 veröffentlicht. Die Security-Forscher von Check Point Research (CPR) analysieren darin, wie generative KI-Technologien die Bedrohungslandschaft radikal verändern – von KI-basierten Angriffen und Deepfakes über Datenvergiftung bis hin zu missbrauchten LLMs im Darknet.
Abbildung 1: Werbebanner aus dem Darknet für einen Kontoverifizierungs- und Entsperrungsdienst. (Quelle: Check Point Software Technology Ltd.)
Zentrale Erkenntnisse des Reports:
- KI im Unternehmensalltag: 51 % der Unternehmen setzen regelmäßig KI ein. In 1 von 80 Prompts fließen hochsensible Daten ein – ein erhebliches Risiko für Datenschutz und Compliance.
- KI-as-a-Service für Cyberkriminelle: Im Darknet kursieren Tools wie GoMailPro, ein Spam- und Phishing-Service mit GPT-Integration, für rund 500 USD/Monat. Voice-Fraud-Dienste kosten bis zu 20.000 USD.
- Zugangsdaten-Handel boomt: Gestohlene Konten von ChatGPT & Co. werden weiterverkauft, um anonym Schadcode zu erstellen und Plattformbeschränkungen zu umgehen.
- Malware & Data Mining per KI: Gruppen wie FunkSec setzen in über 20 % ihrer Kampagnen KI ein – von der Schadcode-Generierung bis zur Analyse gestohlener Daten.
- Manipulierte KI-Modelle: Netzwerke wie Pravda veröffentlichten 2024 rund 3,6 Millionen gezielte Desinformationsartikel. Etwa ein Drittel dieser Inhalte wurde von westlichen KI-Systemen übernommen.
Abbildung 2: Werbung für den „Gabbers Shop“ in einem der Darkweb-Foren. (Quelle: Check Point Software Technology Ltd.)
Bedrohungslage im Detail:
- Datenschutzrisiken durch KI-Eingaben: Analysen von Check Point GenAI Protect zeigen: 1,25 % aller KI-Eingaben enthalten hochsensible Informationen, 7,5 % potenziell sensible Daten. Unternehmen stehen vor der Herausforderung, diese Leaks zu erkennen und zu verhindern – ein kritischer Faktor für Sicherheitsstrategien und Regulatorik.
- Deepfakes & Social Engineering in Echtzeit: KI-gestützte Deepfakes machen Social Engineering gefährlicher denn je. Texte, Stimmen und bald auch Live-Videos lassen sich täuschend echt imitieren. Herkömmliche Methoden zur Identitätsverifikation stoßen an ihre Grenzen – mehrstufige Authentifizierungsverfahren werden unerlässlich.
- Datenvergiftung in LLMs: Die Manipulation von Trainingsdaten gefährdet zunehmend die Integrität von KI-Modellen. CPR dokumentiert gezielte Poisoning-Angriffe, z. B. durch das russische Netzwerk Pravda, das über 3,6 Millionen Desinformationsartikel veröffentlichte. Diese beeinflussten die Ausgaben führender Chatbots in 33 % der Fälle.
- Automatisierte Angriffe & Datenanalyse: Cyberkriminelle nutzen KI zur Entwicklung maßgeschneiderter Malware, zur Automatisierung von Kampagnen und zur Auswertung gestohlener Zugangsdaten. Darknet-Dienste wie der Gabbers Shop werben gezielt mit dem Einsatz von KI zur Qualitätskontrolle und Monetarisierung gestohlener Daten.
- Dark LLMs als Cyber-Waffen: Neben gestohlenen KI-Zugängen tauchen immer mehr speziell angepasste, kriminelle Sprachmodelle auf: WormGPT, FraudGPT oder HackerGPT Lite umgehen gezielt ethische Schranken. Diese Modelle werden im Darknet angeboten – samt Abo-Modell, Benutzer-Support und API-Zugang.
Abbildung 3: Der bösartige KI-Dienst WormGPT wird auf einem Telegram-Kanal beworben. (Quelle: Check Point Software Technology Ltd.)
Fazit für Sicherheitsteams:
KI ist längst ein fester Bestandteil krimineller Aktivitäten – und entwickelt sich schneller, als viele Abwehrmechanismen Schritt halten können. Der Report macht deutlich: IT-Sicherheit muss KI verstehen, einsetzen und sich gezielt gegen KI-gestützte Bedrohungen wappnen. Dazu gehören:
- KI-basierte Erkennungssysteme
- Threat-Intelligence für generative Inhalte
- Neue Verfahren zur Identitätsprüfung (auch gegen Audio, Text und Video-Deepfakes)
Die Ergebnisse des AI Security Report von Check Point legen nahe, dass Verteidiger nun davon ausgehen müssen, dass KI nicht nur gegen sie selbst, sondern auch gegen ihre Systeme, Plattformen und die von ihnen verwalteten Identitäten eingesetzt wird. Sicherheitsteams sollten damit beginnen, KI-gestützte Abwehrmaßnahmen in ihre Strategien einzubauen – einschließlich KI-gestützter Erkennung, Threat-Intelligence-Systemen, die KI-generierte Artefakte identifizieren können, und aktualisierten Protokollen zur Identitätsüberprüfung, die Sprach-, Video- und Texttäuschungen berücksichtigen. Da KI weiterhin jede Ebene von Cyber-Operationen beeinflusst, ist der erste Schritt zur Sicherheit jedoch, über neue Gefahren informiert zu bleiben.
