Insider-Bedrohung
Der Insider der Zukunft ist kein Mensch: Warum KI-Agenten zum Sicherheitsrisiko werden
KI-Agenten werden zur neuen Insider-Bedrohung
KI-Agenten entwickeln sich rasant zu einem festen Bestandteil der digitalen Belegschaft – doch ihre Sicherheitsrisiken werden vielerorts noch unterschätzt. Anders als klassische Maschinenidentitäten handeln sie autonom, greifen auf Systeme zu und treffen eigenständig Entscheidungen. Werden sie manipuliert oder kompromittiert, können sie damit Fähigkeiten eines privilegierten Insiders entwickeln – ohne dass ein Angreifer klassische Zugangsdaten stehlen muss.
Erich Kron, CISO Advisor bei KnowBe4 , zeigt, warum KI-Agenten das klassische Insider-Threat-Modell verändern.
Wenn digitale Identitäten selbstständig handeln
Wenn Unternehmen von digitalen Identitäten sprechen, geht es längst nicht mehr nur um Mitarbeiter, Dienstkonten, Automatisierungsplattformen oder Bots. Mit KI-Agenten ist eine neue Kategorie hinzugekommen, die sich grundlegend von klassischen Maschinenidentitäten unterscheidet.
Denn KI-Agenten folgen keiner starren Befehlsabfolge. Sie können planen, Tools auswählen, APIs aufrufen, Code generieren und Aufgaben an andere Systeme oder Agenten delegieren. Genau diese Autonomie macht sie für Unternehmen interessant – und gleichzeitig zu einem Sicherheitsrisiko mit erheblichem Schadenspotenzial.
Wie groß die Herausforderung inzwischen ist, zeigen aktuelle Untersuchungen. Laut einer Studie der Cloud Security Alliance werden in 82 Prozent der Unternehmen KI-Agenten eingesetzt, von deren Existenz die zuständigen Sicherheitsteams nichts wissen. Gleichzeitig verfügen laut Palo Alto Networks lediglich 32 Prozent der Unternehmen über Kontrollen zur Steuerung KI-bedingter Risiken.
Noch deutlicher fällt eine Untersuchung von Keyfactor aus: Nur 28 Prozent der befragten Unternehmen gehen davon aus, verhindern zu können, dass ein KI-Agent innerhalb ihres Ökosystems Schaden verursacht.
Manipulation statt gestohlener Zugangsdaten
Besonders kritisch wird es, wenn Angreifer einen KI-Agenten manipulieren. Prompt Injection, Goal Hijacking, Privilege Escalation oder Memory Poisoning haben sich innerhalb kurzer Zeit zu relevanten Angriffsvektoren entwickelt.
Das Problem: Für einen erfolgreichen Angriff müssen Cyberkriminelle nicht zwingend Zugangsdaten stehlen. Unter Umständen genügt es, jene Informationen zu manipulieren, anhand derer ein Agent seine Aufgaben interpretiert.
Präparierte E-Mails, Support-Tickets, Dokumente oder Websites können damit zum Ausgangspunkt eines Angriffs werden. Ein Agent verarbeitet die manipulierten Inhalte möglicherweise als legitime Anweisung und führt anschließend Aktionen aus, für die er technisch autorisiert ist.
Damit verändert sich das klassische Bedrohungsmodell. Nicht mehr allein die Frage, wer Zugriff besitzt, wird entscheidend, sondern zunehmend auch, wie ein autonom handelndes System diesen Zugriff verwendet.
Weitreichende Rechte verschärfen das Risiko
Erschwerend kommt hinzu, dass KI-Agenten häufig mit umfangreichen Berechtigungen ausgestattet werden. API-Schlüssel sind teilweise langfristig gültig, Zugriffsrechte großzügig vergeben und Aktivitäten nur eingeschränkt überwacht.
Damit entsteht eine gefährliche Kombination: hohe Autonomie trifft auf privilegierten Zugriff und begrenzte Transparenz.
Die möglichen Folgen sind erheblich. Fast zwei Drittel der von Keyfactor befragten Unternehmen berichteten von mindestens einem Sicherheitsvorfall im Zusammenhang mit KI-Agenten. 61 Prozent dieser Vorfälle führten demnach zu Datenlecks, 43 Prozent zu Betriebsunterbrechungen und 35 Prozent zu finanziellen Schäden.
KI-Agenten können damit Eigenschaften entwickeln, die bislang typischerweise mit Insider Threats verbunden wurden: Sie befinden sich bereits innerhalb der vertrauenswürdigen Umgebung, besitzen legitime Zugriffsrechte und können auf sensible Ressourcen zugreifen.
Ohne Agenten-Inventar bleibt Zero Trust Theorie
Unternehmen müssen deshalb zunächst Transparenz schaffen. Voraussetzung ist ein vollständiges Inventar aller KI-Agenten, die innerhalb der eigenen Infrastruktur eingesetzt werden – einschließlich ihrer Identitäten, Berechtigungen, Schnittstellen und Aufgaben. Anschließend muss Zero Trust konsequent auch auf autonome Systeme übertragen werden. Ein Agent, der beispielsweise Support-Tickets zusammenfasst, benötigt keinen Zugriff auf komplette Kundendatenbanken oder administrative Funktionen.
Ebenso wichtig ist die Abkehr von dauerhaft gültigen Berechtigungen. Temporäre Credentials, Just-in-Time-Zugriffe und konsequentes Least Privilege reduzieren das Schadenspotenzial erheblich. Doch Identitätskontrolle allein reicht nicht aus.
Verhalten wird zum neuen Sicherheitssignal
Bei autonomen Systemen gewinnt die kontinuierliche Überwachung des Verhaltens an Bedeutung. Sicherheitsteams müssen erkennen können, wenn ein Agent plötzlich andere Datenquellen abfragt, ungewöhnliche Tools verwendet oder Aktionen ausführt, die nicht zu seiner ursprünglichen Aufgabe passen.
Damit verschiebt sich der Fokus von der reinen Identitätsprüfung hin zu einer Kombination aus Identity Security und Behavioral Monitoring.
Lösungen wie KnowBe4s Agent Risk Manager adressieren diesen Ansatz, indem sie Unternehmen dabei unterstützen sollen, KI-Agenten sichtbar zu machen und deren Risiken zu bewerten.
Die digitale Belegschaft braucht neue Sicherheitsregeln
KI-Agenten sind keine experimentelle Randerscheinung mehr. Sie entwickeln sich zu einem festen Bestandteil der digitalen Belegschaft vieler Unternehmen.
Damit müssen sich auch die Sicherheitskonzepte verändern. KI-Agenten lassen sich weder wie menschliche Nutzer noch wie klassische Maschinenidentitäten behandeln. Ihre Autonomie, ihre Fähigkeit zur Interpretation von Informationen und ihre teilweise weitreichenden Berechtigungen schaffen ein eigenes Risikoprofil.
Unternehmen brauchen deshalb klare Policies, konsequentes Identity- und Access-Management sowie eine Digital Workforce Security, die menschliche Nutzer, Maschinenidentitäten und autonome Agenten gemeinsam berücksichtigt. Denn der nächste Insider muss kein Mensch sein.
