Governance-Lücke bei rebellischen KI-Agenten

Ein Vorfall bei Meta im März 2026 zeigt, wie schnell aus einem gut gemeinten Automatisierungsansatz ein ernsthaftes Sicherheitsproblem werden kann. Ein interner KI-Agent veröffentlichte eigenständig eine Antwort in einem Engineering-Forum – mit der Folge, dass sensible Unternehmens- und Nutzerdaten für rund zwei Stunden für unberechtigte Mitarbeiter sichtbar waren. Intern wurde der Vorfall als „Sev 1“ klassifiziert, also als einer der schwerwiegendsten denkbaren Zwischenfälle.

Das eigentlich Brisante: Der Agent hatte sich regelkonform verhalten. Alle Identitätsprüfungen waren erfolgreich, sämtliche Zugriffsrechte korrekt – und doch ging etwas grundlegend schief. Nicht die KI, nicht die Authentifizierung versagte, sondern das, was oft im Hintergrund bleibt: die Governance.

Für Thomas Müller-Martin, Field Strategist DACH bei Omada Identity liegt genau hier der blinde Fleck vieler Organisationen. „Wir erleben eine neue Klasse von Identitäten, die Entscheidungen treffen, ohne in klassische Verantwortungsstrukturen eingebettet zu sein“, so seine Analyse. KI-Agenten handeln innerhalb ihrer Berechtigungen – aber eben ohne Rechenschaftspflicht im klassischen Sinne.

Ein bekanntes Problem in neuem Gewand

Ganz neu ist das Muster nicht. Schon 2025 nutzten Angreifer kompromittierte OAuth-Token der Drittanbieteranwendung Salesloft Drift, um sich Zugang zu zahlreichen Salesforce-Umgebungen zu verschaffen. Auch hier funktionierte technisch alles „wie vorgesehen“ – nur eben außerhalb der Kontrollmechanismen, die für menschliche Nutzer gedacht sind.

Das eigentliche Problem liegt tiefer: In vielen Unternehmen übersteigt die Zahl sogenannter nicht-menschlicher Identitäten – also Service-Accounts, API-Schlüssel oder Workload-Credentials – die der Mitarbeitenden um ein Vielfaches. Dennoch wurden Governance-Modelle nie für diese Dimension entworfen. Mit dem Aufkommen autonomer KI-Agenten verschärft sich diese Schieflage drastisch. Denn während klassische Maschinenidentitäten vorhersehbare Aufgaben ausführen, agieren KI-Agenten dynamisch. Sie interpretieren Kontext, treffen Entscheidungen und passen ihr Verhalten in Echtzeit an. Genau das macht sie so wertvoll – und gleichzeitig so schwer kontrollierbar.

Drei Lücken, die Risiken schaffen

In der Praxis zeigen sich immer wieder drei zentrale Schwachstellen:

• Die Bestandslücke: Viele Organisationen wissen schlicht nicht, wie viele nicht-menschliche Identitäten in ihren Systemen existieren – geschweige denn, welche Rechte sie besitzen.
• Die Verantwortungslücke: Selbst wenn Identitäten erfasst sind, fehlt oft ein klarer Eigentümer. Zuständigkeiten verschwimmen, Wissen geht mit Personalwechseln verloren.
• Die Lebenszykluslücke: Einmal eingerichtet, bleiben viele Zugänge dauerhaft bestehen – unabhängig davon, ob sie noch benötigt werden oder nicht.

Diese Lücken sind kein technisches Detailproblem, sondern ein strukturelles. Denn klassische Identity-Governance orientiert sich an menschlichen Lebenszyklen: Eintritt, Rollenwechsel, Austritt. Maschinenidentitäten – und erst recht KI-Agenten – folgen diesen Mustern nicht.

Wenn Verhalten wichtiger wird als Zugriff

Mit KI verschiebt sich die zentrale Frage. Es geht nicht mehr nur darum, wer Zugriff hat, sondern was mit diesem Zugriff geschieht. KI-Agenten wählen eigenständig Werkzeuge, delegieren Aufgaben und handeln im Namen von Nutzern – ohne moralisches Korrektiv, aber mit hoher Effizienz.

Governance muss deshalb einen Schritt weitergehen: weg von statischen Berechtigungen, hin zur Kontrolle von Verhalten. Unternehmen müssen nachvollziehen können, welche Entscheidungen ein Agent trifft – und ob diese Entscheidungen legitim waren.

Regulierung erhöht den Druck

Parallel dazu ziehen regulatorische Anforderungen an. Initiativen wie NIS2, DORA und der EU AI Act fordern zunehmend Transparenz und Nachvollziehbarkeit – und zwar für alle Identitäten, nicht nur für menschliche. Die zentrale Frage lautet immer häufiger: Wer oder was hatte Zugriff – und warum?

Unternehmen, die darauf keine klare Antwort geben können, riskieren nicht nur Sicherheitsvorfälle, sondern auch Compliance-Probleme.

Die eigentlichen Kosten entstehen später

Die Folgen zeigen sich oft erst im Nachhinein: in aufwendigen forensischen Analysen, gescheiterten Audits oder regulatorischen Sanktionen. Fast immer führt die Spur zurück zu einem Governance-Modell, das nicht mehr zur Realität passt.

Die gute Nachricht: Wer die Kontrolle über nicht-menschliche Identitäten heute verbessert, schafft gleichzeitig die Grundlage für den sicheren Einsatz von KI-Agenten morgen. Die schlechte: Wer abwartet, lässt ein Problem wachsen, das sich zunehmend schwerer – und teurer – lösen lässt.