Cyberresilienz

Cyberresilienz 2027: Warum klassische Compliance-Kennzahlen bei KI-Agenten versagen

, Veeam | Autor: Herbert Wieler

KI-Agenten machen Compliance zur Momentaufnahme

Autonome KI-Agenten verändern die IT-Sicherheitslandschaft grundlegend. Während sie in Maschinengeschwindigkeit auf Unternehmensdaten zugreifen und eigenständig Entscheidungen treffen, verlassen sich viele Unternehmen weiterhin auf statische Compliance-Kennzahlen. Das Problem: Was beim letzten Audit noch als sicher galt, kann wenige Minuten später bereits ein Risiko darstellen.

Emilee Tellez, Field CTO bei Veeam Software erklärt, warum solche Kennzahlen in falscher Sicherheit wiegen. Sie zeigt auch, warum Unternehmen KI-Risiken bei den Daten unter Kontrolle bringen müssen, mit denen die Agenten arbeiten.

Emilee Tellez, Field CTO bei Veeam Software

Die KI-Transformation ist in vielen Unternehmen längst Realität. Häufig wurden KI-Anwendungen und autonome Agenten schneller eingeführt, als sich ihre Auswirkungen auf bestehende Sicherheitsarchitekturen vollständig bewerten ließen. Innerhalb weniger Jahre hat sich Künstliche Intelligenz von einer experimentellen Technologie zu einem festen Bestandteil betrieblicher Prozesse entwickelt.

Die Dimension dieser Veränderung zeigt sich auch bei den digitalen Identitäten. Laut Palo Alto Networks kommen inzwischen auf jede menschliche Identität durchschnittlich 109 nicht-menschliche Identitäten. Dazu gehören Maschinen, Anwendungen und automatisierte Dienste. Mit dem zunehmenden Einsatz autonomer KI-Agenten wächst zugleich die Zahl digitaler Akteure, die eigenständig Entscheidungen treffen und auf sensible Informationen zugreifen können.

Damit entsteht eine neue Herausforderung für die Cyberresilienz. Sicherheitsrisiken gehen nicht mehr ausschließlich von externen Angreifern oder menschlichen Fehlern aus. Auch unternehmenseigene KI-Agenten können durch fehlerhafte Entscheidungen, ungeeignete Daten oder übermäßige Berechtigungen erhebliche Schäden verursachen.

Die etablierten Methoden zur Bewertung von Sicherheit und Compliance halten mit dieser Entwicklung jedoch kaum Schritt

Viele Unternehmen orientieren sich weiterhin an punktuellen Audits, Compliance-Statusmeldungen oder Kennzahlen zur Backup-Abdeckung. Diese liefern zwar wichtige Informationen, bilden die dynamischen Risiken autonomer KI-Systeme jedoch nur unzureichend ab.

Für Sicherheitsverantwortliche, die derzeit ihre Budgets und strategischen Prioritäten für 2027 festlegen, stellt sich deshalb eine grundlegende Frage: Wie lässt sich die tatsächliche Widerstandsfähigkeit einer IT-Infrastruktur messen, wenn sich deren Risikoprofil kontinuierlich verändert?

KI-Agenten verändern die digitale Unternehmenslandschaft

Die Integration Künstlicher Intelligenz in betriebliche Abläufe verlief vielerorts erstaunlich unauffällig. Neue KI-Funktionen wurden in bestehende Anwendungen integriert, automatisierte Workflows erweitert und zusätzliche Agenten in die IT-Infrastruktur eingebunden.

Im Mittelpunkt standen dabei vor allem Produktivitätssteigerungen, schnellere Prozesse und neue geschäftliche Möglichkeiten. Welche Konsequenzen der zunehmende Einsatz autonomer Systeme für Datenzugriffe, Berechtigungsstrukturen und Sicherheitskontrollen hat, wurde dagegen häufig erst nachgelagert betrachtet.

Mit jeder neuen KI-Komponente wächst jedoch die Komplexität der digitalen Infrastruktur. Besonders kritisch wird es, wenn autonome Agenten weitreichende Zugriffsrechte erhalten. Sie können Informationen aus unterschiedlichen Quellen zusammenführen, Daten verändern und eigenständig Aktionen auslösen – teilweise ohne unmittelbare menschliche Kontrolle.

Gleichzeitig hat sich die Bedeutung der Unternehmensdaten grundlegend verändert. Waren sie früher überwiegend Grundlage für Dokumentation, Analysen und operative Prozesse, dienen sie heute zunehmend als Entscheidungsbasis für KI-Systeme.

Daten sind damit nicht mehr nur schützenswerte Informationen, sondern beeinflussen unmittelbar das Verhalten autonomer Agenten

Das Problem: Viele Datenbestände wurden ursprünglich nicht für eine automatisierte Verarbeitung durch KI entwickelt.

Nach IDC-Schätzungen sind bis zu 90 Prozent der Unternehmensdaten unstrukturiert. Dazu gehören beispielsweise Dokumente, E-Mails, Chatverläufe, Gesprächsprotokolle und historische Dateien. Ihnen fehlt häufig ein einheitliches Schema oder eine konsistente Struktur.

Für moderne KI-Systeme sind diese Informationen dennoch zugänglich und auswertbar. Damit können auch veraltete, widersprüchliche oder unvollständige Inhalte in automatisierte Entscheidungen einfließen.

Die möglichen Folgen reichen von fehlerhaften Geschäftsvorgängen über unerwünschte Datenzugriffe bis hin zu Verstößen gegen interne Richtlinien und regulatorische Anforderungen.

Warum klassische Compliance-Kennzahlen an ihre Grenzen stoßen

Die zunehmende Autonomie von KI-Systemen verändert nicht nur die Bedrohungslage, sondern stellt auch etablierte Sicherheitskennzahlen infrage.

Viele Unternehmen beurteilen ihre Cyberresilienz anhand regelmäßig erhobener Messwerte. Dazu gehören etwa der Compliance-Status, abgeschlossene Audits, erfolgreiche Backups oder dokumentierte Sicherheitskontrollen. Diese Informationen bleiben wichtig. Allerdings beschreiben sie überwiegend einen bestimmten Zustand zu einem bestimmten Zeitpunkt.

Autonome KI-Agenten verändern diesen Zustand kontinuierlich.

Ein Agent kann innerhalb kurzer Zeit auf unterschiedliche Datenquellen zugreifen, neue Informationen verarbeiten und eigenständig Entscheidungen treffen. Dabei können Risiken entstehen, die zum Zeitpunkt des letzten Audits noch nicht vorhanden waren.

Ein erfolgreich bestandenes Compliance-Audit bedeutet deshalb nicht automatisch, dass auch die aktuellen Aktivitäten autonomer KI-Systeme ausreichend kontrolliert werden

Hinzu kommt ein weiteres Problem: Viele Sicherheitsverantwortliche verfügen nicht über vollständige Transparenz hinsichtlich der Daten, die ihre KI-Anwendungen tatsächlich verwenden. Ohne diese Übersicht bleibt unklar, ob Agenten auf veraltete Informationen zugreifen, ungeeignete Daten miteinander kombinieren oder sensible Inhalte außerhalb der vorgesehenen Prozesse verarbeiten.

Ein KI-Agent kann technisch einwandfrei funktionieren und dennoch geschäftlich problematische Entscheidungen treffen.

Ein Beispiel ist die Verarbeitung veralteter Kundendaten. Selbst wenn der Zugriff technisch legitim und die Daten ordnungsgemäß geschützt sind, können daraus falsche Empfehlungen, unzutreffende Bewertungen oder fehlerhafte automatisierte Geschäftsentscheidungen entstehen.

Klassische Sicherheitskontrollen erkennen solche Probleme nicht zwangsläufig.

Denn bislang konzentriert sich die Überwachung häufig darauf, ob Daten verfügbar, geschützt und regelkonform gespeichert sind. Weniger Aufmerksamkeit erhält dagegen die Frage, ob die Informationen für ihren konkreten Einsatzzweck geeignet sind und wie sie durch KI-Systeme verwendet werden.

💡Datensicherheit allein garantiert keine sicheren KI-Entscheidungen

Die Unterscheidung zwischen Datensicherheit und Datenverwendung gewinnt durch autonome KI-Agenten erheblich an Bedeutung.

Ein Unternehmen kann sämtliche regulatorischen Anforderungen an die Speicherung und Absicherung seiner Daten erfüllen. Trotzdem können KI-Systeme auf Basis dieser Informationen Entscheidungen treffen, die unerwartete Risiken verursachen. Dazu gehören beispielsweise fehlerhafte Dateninterpretationen, unzulässige Kombinationen sensibler Informationen oder Entscheidungen auf Grundlage überholter Geschäftsregeln.

Besonders problematisch ist, dass solche Fehlentwicklungen nicht immer durch klassische Sicherheitswarnungen sichtbar werden.

Ein autonomer Agent muss keine technische Schwachstelle ausnutzen oder bestehende Zugriffskontrollen umgehen, um Schaden anzurichten. Unter Umständen genügt es, wenn er innerhalb seiner regulären Berechtigungen auf ungeeignete Daten zugreift und daraus falsche Schlussfolgerungen zieht. Hier zeigt sich eine zentrale Schwäche statischer Compliance-Messungen: Sie dokumentieren die Einhaltung definierter Anforderungen, liefern aber nur begrenzte Erkenntnisse über das tatsächliche Verhalten autonomer Systeme.

Erforderlich ist deshalb ein umfassenderer Blick auf das Zusammenspiel von Datenqualität, Zugriffsrechten, Nutzungskontext und KI-Entscheidungen.

Kontinuierliches Monitoring statt punktueller Sicherheitsprüfungen

Wenn KI-Agenten in Maschinengeschwindigkeit handeln, müssen auch Sicherheitskontrollen wesentlich dynamischer werden.

Regelmäßige Audits und klassische Compliance-Berichte bleiben notwendig. Sie sollten jedoch durch kontinuierliche Überwachung ergänzt werden. Dabei reicht es nicht aus, ausschließlich die Aktivitäten einzelner Agenten zu beobachten. Ebenso wichtig ist die Transparenz über die Datenquellen, auf die diese Systeme zugreifen.

Unternehmen müssen nachvollziehen können, welche Informationen verwendet werden, wie aktuell und zuverlässig diese sind und ob die jeweiligen Zugriffe dem vorgesehenen Zweck entsprechen.

👉Datenqualität, Zugriffsverhalten und Veränderungen in der Datennutzung werden damit zu wichtigen Indikatoren für die Sicherheit autonomer KI-Systeme.

Ungewöhnliche Zugriffsmuster können beispielsweise darauf hinweisen, dass ein Agent neue oder nicht vorgesehene Informationsquellen verwendet. Veränderungen in der Datenqualität können wiederum die Zuverlässigkeit automatisierter Entscheidungen beeinträchtigen.

Auch sogenannte Drift-Effekte verdienen besondere Aufmerksamkeit. Gemeint sind Veränderungen im Verhalten oder in der Leistungsfähigkeit von KI-Systemen, etwa durch veränderte Eingabedaten, neue Nutzungskontexte oder sich wandelnde Datenverteilungen. Solche Entwicklungen frühzeitig zu erkennen, kann helfen, Fehlentscheidungen und daraus resultierende Sicherheitsvorfälle zu vermeiden. Ein wirksames Monitoring muss deshalb sowohl die Aktionen der KI-Agenten als auch die Qualität und Verwendung der zugrunde liegenden Daten berücksichtigen. Nur durch diese Kombination entsteht ein belastbares Bild der tatsächlichen Risiken.

EU AI Act und NIS2 erhöhen die Anforderungen an die Nachvollziehbarkeit

Neben den technischen Herausforderungen wächst auch der regulatorische Druck. Mit dem EU AI Act und der nationalen Umsetzung der NIS2-Richtlinie rücken Risikomanagement, Sicherheitskontrollen und die Nachvollziehbarkeit digitaler Prozesse stärker in den Mittelpunkt.

Dabei gelten die jeweiligen Verpflichtungen abhängig vom betroffenen Unternehmen, dem Einsatzbereich und der konkreten regulatorischen Einordnung. Für Organisationen bedeutet dies, dass die bloße Dokumentation bestehender Sicherheitsmaßnahmen zunehmend weniger ausreicht, um die Wirksamkeit ihrer Kontrollen nachzuweisen.

Insbesondere beim Einsatz autonomer KI-Systeme gewinnt die Fähigkeit an Bedeutung, Risiken kontinuierlich zu bewerten und sicherheitsrelevante Entscheidungen nachvollziehbar zu dokumentieren. Unternehmen sollten deshalb frühzeitig prüfen, ob ihre vorhandenen Governance- und Monitoring-Strukturen den zusätzlichen Anforderungen durch KI-Agenten gerecht werden.

Wer nachvollziehen kann, welche Daten ein Agent verwendet, welche Berechtigungen bestehen und welche Entscheidungen daraus entstehen, schafft zugleich eine bessere Grundlage für interne Kontrollen, regulatorische Nachweise und die Reaktion auf Sicherheitsvorfälle. Kontinuierliche Transparenz über Daten und KI-Aktivitäten wird damit zu einem wesentlichen Bestandteil moderner Cyberresilienz.

Cybersecurity-Budgets 2027: Neue Prioritäten für die KI-Resilienz

Für CISOs und IT-Sicherheitsverantwortliche hat diese Entwicklung unmittelbare Konsequenzen für die strategische Planung.

Wer seine Sicherheitsbudgets für 2027 ausschließlich anhand bestehender Compliance-Kennzahlen und vergangener Audit-Ergebnisse ausrichtet, riskiert, neue Schwachstellen in seiner KI-Infrastruktur zu übersehen. Stattdessen sollten Unternehmen gezielt untersuchen, wie gut sie ihre Datenbestände, Zugriffsrechte und autonomen KI-Aktivitäten tatsächlich überblicken. Entscheidend ist dabei nicht allein, ob bestehende Sicherheitskontrollen formal erfüllt werden. Vielmehr müssen Organisationen beurteilen können, ob sie Veränderungen erkennen, bevor daraus kritische Vorfälle entstehen.

Dazu gehört insbesondere die Fähigkeit, mangelhafte Datenqualität, unerwartete Zugriffe und Veränderungen im Verhalten von KI-Systemen frühzeitig zu identifizieren. Die daraus gewonnenen Erkenntnisse können helfen, Sicherheitsinvestitionen gezielter auszurichten und bestehende Governance-Strukturen weiterzuentwickeln. Denn mit zunehmender Autonomie der KI-Systeme verschiebt sich auch die Definition wirksamer Cyberresilienz.

👉Die entscheidende Frage lautet künftig nicht mehr nur: „Sind wir compliant?“ Sondern: „Sind wir auf die Risiken autonomer KI-Systeme vorbereitet – und können wir das jederzeit nachweisen?“