Transparenz als Schwachstelle: DeepSeek-R1 unter der Lupe

Künstliche Intelligenz (KI) verändert die Art und Weise, wie Unternehmen arbeiten, birgt aber auch neue Sicherheitsrisiken. Das aktuelle Beispiel DeepSeek-R1 zeigt eindrücklich, warum eine sicherheitsorientierte Architektur entscheidend ist.

DeepSeek-R1 ist ein KI-Modell, das mit sogenanntem Chain-of-Thought (CoT) Reasoning arbeitet. Diese Methode soll die Nachvollziehbarkeit von KI-Entscheidungen verbessern, indem sie ihre Denkschritte explizit offenlegt. Doch genau diese Transparenz kann zur Schwachstelle werden: Unsere Analyse zeigt, dass Angreifer durch gezielte Prompt-Attacken System-Prompts offenlegen, Sicherheitsmechanismen umgehen oder sich unberechtigten Zugriff auf sensible Daten verschaffen können.

Besonders alarmierend ist, dass unsere Tests eine hohe Erfolgsrate bei Angriffen in den Bereichen sensitive Datenexfiltration und unsichere Ausgabeerzeugung aufzeigten. Dies verdeutlicht, dass Unternehmen, die generative KI einsetzen, sich nicht nur vor klassischen Cybergefahren schützen müssen, sondern auch vor neuen Angriffsmethoden, die speziell durch KI-Architekturen entstehen.

Um KI-Sicherheit effektiv zu gewährleisten, sollten Unternehmen folgende Maßnahmen ergreifen:

• Sicherheitsorientierte Entwicklung: Transparenz ist wichtig, darf aber keine Einladung für Angreifer sein. KI-Modelle müssen so gestaltet werden, dass sie nachvollziehbar sind, ohne kritische Informationen preiszugeben.
• Regelmäßiges Red-Teaming: KI-Systeme sollten kontinuierlich auf Schwachstellen getestet werden – ähnlich wie klassische IT-Security-Audits.
• Prompt-Härtung als neue Disziplin: Sicherheitsmechanismen zur Absicherung gegen manipulative Eingaben müssen zum Standard werden.

Richard Werner, Security Advisor bei Trend Micro , betont:

„Angreifer können durch gezielt formulierte Anfragen System-Prompts offenlegen, Sicherheitsmechanismen umgehen oder sich unberechtigten Zugriff auf sensible Daten verschaffen. Besonders besorgniserregend: In unseren Tests war der Erfolg solcher Angriffe in den Kategorien sensitive Datenexfiltration und unsichere Ausgabeerzeugung besonders hoch. Dies zeigt, dass Unternehmen, die generative KI einsetzen, nicht nur klassische Cybergefahren bedenken müssen, sondern auch neue Angriffsmethoden, die sich durch KI-spezifische Architekturen ergeben.“

Proaktive Sicherheit als Schlüssel

Die Forschung zu DeepSeek-R1 zeigt, dass KI nicht nur als Schutz vor Cyberangriffen dient, sondern auch selbst zur Angriffsfläche werden kann. Unternehmen müssen daher ihre KI-Technologien proaktiv absichern – bevor Cyberkriminelle es tun. Eine sicherheitsorientierte Architektur, kontinuierliche Tests und robuste Schutzmechanismen sind entscheidend, um die Vorteile generativer KI ohne unkalkulierbare Risiken zu nutzen.