ROT-Daten
EU-KI-Sandboxen reichen nicht: Warum ROT-Daten zum unterschätzten Risiko für Unternehmens-KI werden
KI-Compliance allein reicht nicht: Datenqualität wird zum Sicherheitsfaktor
Die EU verschärft den Blick auf sichere und regelkonforme KI – doch selbst ein technisch geprüftes Modell kann im produktiven Betrieb zum Risiko werden. Entscheidend ist nicht nur, wie sicher ein KI-System entwickelt wurde, sondern mit welchen Daten es anschließend arbeitet. Redundante, veraltete und triviale Informationen – sogenannte ROT-Daten – könnten damit zu einer der größten Schwachstellen der kommenden Agentic-AI-Welt werden.
Andre Troskie, EMEA Field CISO bei Veeam Software , warnt davor, KI-Compliance mit echter Sicherheit gleichzusetzen: Entscheidend ist nicht nur das Modell selbst, sondern vor allem die Qualität der Daten, auf denen es arbeitet.
Regulierung schafft Sicherheit – aber nur auf Modellebene
Für CISOs in europäischen Unternehmen wächst der regulatorische Druck. Neben den Anforderungen des EU AI Act müssen sie neue Initiativen wie den EU-Aktionsplan für Cybersicherheit und künstliche Intelligenz berücksichtigen. Geplante Testumgebungen, Leitlinien und technische Werkzeuge sollen Unternehmen dabei unterstützen, KI-Systeme vor ihrer Markteinführung auf Sicherheit und Konformität zu prüfen.
Diese Entwicklung ist grundsätzlich sinnvoll. Sie birgt jedoch die Gefahr, dass Organisationen Compliance mit tatsächlicher betrieblicher Sicherheit gleichsetzen.
Ein Modell kann technisch sauber entwickelt, umfassend getestet und regulatorisch konform sein – und trotzdem im täglichen Betrieb problematische Ergebnisse liefern. Denn nach dem Test beginnt erst die Phase, in der Unternehmensdaten ins Spiel kommen. Und genau dort liegt ein vielfach unterschätztes Risiko.
Sichere Modelle können mit schlechten Daten unsicher werden
KI-Systeme sind unmittelbar von der Qualität ihrer Datenbasis abhängig. Werden technisch sichere Modelle mit redundanten, obsoleten oder trivialen Daten – kurz ROT-Daten – versorgt, kann die zuvor erreichte Sicherheit schnell an Wert verlieren.
Die Folgen reichen von falschen Analysen und Halluzinationen über fehlerhafte Entscheidungen bis hin zu regulatorischen Problemen. Besonders kritisch wird dies bei autonomen KI-Agenten, die Entscheidungen und Aktionen mit hoher Geschwindigkeit selbstständig ausführen können.
Damit verändert sich auch die Risikostruktur innerhalb von Unternehmen. Während menschliche Fehler häufig erkannt, gemeldet oder korrigiert werden können, können Agenten falsche Informationen automatisiert weiterverarbeiten und deren Auswirkungen innerhalb kürzester Zeit skalieren. Technische Compliance schützt vor solchen Szenarien nur bedingt.
Unternehmensdaten werden zum blinden Fleck
Ein Großteil der Unternehmensinformationen liegt weiterhin unstrukturiert vor. Dokumente, alte Cloud-Speicher, Dateifreigaben, Archive und redundante Datenbestände sind über Jahre gewachsen.
Diese Datenlandschaften enthalten häufig Informationen, die längst veraltet, mehrfach vorhanden oder für aktuelle Geschäftsprozesse irrelevant sind.
Für klassische Anwendungen ist das bereits ein Governance-Problem. Für KI kann es jedoch deutlich gefährlicher werden.
Modelle können solche Daten nicht automatisch als bedeutungslos oder überholt erkennen. Werden sie für Retrieval-Augmented Generation, Training, Fine-Tuning oder agentenbasierte Geschäftsprozesse verwendet, gelangen historische oder widersprüchliche Informationen unmittelbar in Entscheidungsprozesse.
Das Resultat kann paradox sein: Ein vollständig konformes KI-System erzeugt dennoch falsche oder regulatorisch problematische Ergebnisse. ROT-Daten verursachen zusätzlich versteckte KI-Kosten
Schlechte Datenqualität ist jedoch nicht nur ein Sicherheitsproblem.
Unternehmen investieren erhebliche Summen in GPU-Kapazitäten, Cloud-Plattformen, Vektordatenbanken und KI-Infrastrukturen. Werden große Mengen redundanter oder wertloser Daten indexiert, analysiert und verarbeitet, entstehen Kosten ohne entsprechenden geschäftlichen Nutzen.
Doppelte Dokumente erhöhen Speicherbedarf und Verarbeitungslast. Veraltete Informationen vergrößern Kontextfenster oder Suchindizes. Irrelevante Daten erhöhen wiederum die Wahrscheinlichkeit, dass Modelle ungeeignete Informationen in ihre Antworten einbeziehen.
Datenhygiene wird damit gleichzeitig zu einem Sicherheits-, Compliance- und Wirtschaftlichkeitsfaktor.
AI Governance beginnt unterhalb des Modells
Unternehmen sollten deshalb nicht zwischen regulatorischer Modellprüfung und Datenmanagement wählen. Beide Ebenen müssen miteinander verbunden werden.
Neben Tests, Zertifizierungen und technischer Absicherung sollten Unternehmen ihren Datenbestand systematisch inventarisieren, klassifizieren und bereinigen. Relevant werden dabei insbesondere Fragen nach Herkunft, Aktualität, Verantwortlichkeit und zulässiger Nutzung.
Damit verändert sich auch das Verständnis von AI Governance.
Statt punktueller Compliance-Prüfungen entsteht ein kontinuierlicher Prozess, der Datenherkunft, Datenqualität und Modellnutzung nachvollziehbar miteinander verbindet.
Gerade mit der zunehmenden Verbreitung autonomer KI-Agenten gewinnt diese Transparenz erheblich an Bedeutung. Unternehmen müssen erkennen können, welche Daten eine Entscheidung beeinflusst haben – und im Fehlerfall möglichst präzise eingreifen können.
Datenqualität wird zur Voraussetzung für Agentic AI
Je stärker KI-Agenten in Unternehmensprozesse eingebunden werden, desto problematischer werden unkontrollierte Datenbestände.
Eine belastbare Datenarchitektur ermöglicht es dagegen, Fehler gezielt auf Datensatz- oder Quellenebene zu isolieren. Statt einen kompletten KI-Service abzuschalten, könnten Unternehmen fehlerhafte Informationen identifizieren, korrigieren und anschließend kontrolliert wieder bereitstellen.
Damit wird Data Governance von einer administrativen Disziplin zu einem zentralen Bestandteil der Cyberresilienz.
Unternehmen, die ihre Datenlandschaft heute bereinigen, schaffen deshalb nicht nur bessere Voraussetzungen für die regulatorische Compliance. Sie legen gleichzeitig das Fundament für skalierbare und kontrollierbare Agentic-AI-Architekturen.
Compliance ist der Anfang, nicht das Ziel
EU-Sandboxen und regulatorische Tests können einen wichtigen Beitrag zur sicheren Einführung von KI leisten. Sie beantworten jedoch primär die Frage, ob ein Modell technisch und regulatorisch bestimmten Anforderungen entspricht.
Im produktiven Betrieb muss eine zweite Frage hinzukommen: Sind die Daten, mit denen dieses Modell arbeitet, aktuell, vertrauenswürdig, nachvollziehbar und für den jeweiligen Zweck geeignet? Denn selbst das sicherste KI-Modell kann nur so zuverlässig arbeiten wie seine Datenbasis. Die eigentliche Herausforderung für Unternehmen liegt deshalb möglicherweise weniger im Bestehen der nächsten KI-Sandbox. Sie liegt in der kontinuierlichen Pflege jener Datenschicht, auf der nahezu jede künftige KI-Anwendung aufbauen wird.
