KI Governance
KnowBe4 bringt Agent Risk Manager auf Claude und erweitert die Kontrolle über autonome KI-Agenten
Claude-Agenten mit neuer Governance- und Sicherheitsebene überwachen
KI-Agenten übernehmen zunehmend eigenständig Aufgaben, greifen auf Anwendungen zu und verarbeiten sensible Unternehmensdaten. Klassische Sicherheitskontrollen können ihre Entscheidungen und Berechtigungen jedoch häufig nicht ausreichend nachvollziehen. KnowBe4 erweitert deshalb seinen Agent Risk Manager auf Claude von Anthropic und will Unternehmen damit mehr Transparenz und Kontrolle über autonome KI-Workflows geben.
KnowBe4 hat auf der Black Hat 2026 in Las Vegas die Unterstützung seines Agent Risk Managers für Claude von Anthropic angekündigt. Die Sicherheits- und Governance-Plattform soll Aktivitäten autonomer KI-Agenten in Echtzeit überwachen, potenzielle Bedrohungen erkennen und riskante Aktionen kontrollieren.
Die neue Integration ergänzt die bereits vorhandene native Unterstützung für Microsoft Copilot. Unternehmen sollen damit eine zentrale Governance-Ebene für unterschiedliche KI-Agenten und Plattformen erhalten, ohne die zugrunde liegenden KI-Modelle verändern zu müssen.
KnowBe4 erweitert seinen Agent Risk Manager auf Claude. Die Plattform überwacht autonome KI-Agenten, erkennt Risiken und visualisiert mögliche Angriffspfade
Ungeregelte KI-Agenten werden zum Sicherheitsrisiko
Der Einsatz autonomer KI-Systeme nimmt in Unternehmen deutlich zu. Laut dem KnowBe4-Report „2026 Agentic Risk to Human Wins “ geben 58 Prozent der befragten Cybersecurity-Führungskräfte an, dass KI-Agenten bereits eigenständig Aktionen innerhalb betrieblicher Workflows ausführen.
Gleichzeitig fehlt es vielerorts an verbindlichen Regeln und Sicherheitskontrollen. 52 Prozent der Befragten erklärten, dass der Einsatz von KI in ihrem Unternehmen entweder nicht genehmigt oder nicht ausreichend geregelt sei.
Damit entsteht eine neue Form von Schatten-KI. Mitarbeiter setzen Claude-basierte Agenten beispielsweise ein, um Daten zu analysieren, komplexe Aufgaben zu automatisieren oder Verbindungen zu Anwendungen und APIs von Drittanbietern herzustellen. Die dabei entstehenden KI-Identitäten bewegen sich jedoch häufig außerhalb etablierter Identity-, Security- und Compliance-Prozesse.
Agentenaktivitäten überwachen, ohne das Modell zu verändern
Der Agent Risk Manager soll diese Transparenzlücke durch eine zusätzliche Sicherheitsebene schließen. Die Lösung überwacht die Ausführung von KI-Agenten, analysiert ihre Aktionen und kontrolliert die Nutzung angebundener Tools und Dienste.
Dabei greift KnowBe4 nach eigenen Angaben nicht in das zugrunde liegende Sprachmodell ein. Stattdessen wird der risikobasierte Ansatz, den das Unternehmen bislang vor allem zur Bewertung menschlichen Sicherheitsverhaltens eingesetzt hat, auf autonome KI-Systeme übertragen.
„Die Branche hat Jahrzehnte damit verbracht, den menschlichen Faktor zu sichern, und steht nun vor der Herausforderung, die neuesten Mitglieder der digitalen Belegschaft – die KI-Agenten – zu schützen“, erklärt Matt Duren, Senior Vice President AI & Data bei KnowBe4.
Besonders kritisch seien Funktionen wie der sogenannte Skip-Permissions-Modus. Dieser kann es einem KI-Modell ermöglichen, Aktionen weitgehend selbstständig und ohne einzelne Freigaben durch den Nutzer auszuführen.
Der Agent Risk Manager konzentriere sich deshalb auf die Aktionen, Ergebnisse und die Tool-Nutzung der Agenten. Ziel sei es, zu verhindern, dass autonome Systeme zu einer unkontrollierten Hintertür für sensible Unternehmensressourcen werden.
Sechs Detection Engines prüfen Agenten in Echtzeit
Sicherheitsteams sollen Claude-Umgebungen über Claude.ai sowie über API-basierte Integrationen anbinden können. Nach der einmaligen Einrichtung erfasst die Plattform die relevanten Interaktionen und Agentenaktivitäten zentral.
Sechs spezialisierte Detection Engines analysieren unter anderem:
- verdächtige oder manipulierte Eingaben und Befehle
- die Offenlegung sensibler oder personenbezogener Daten
- eine unzulässige Ausweitung von Berechtigungen
- den Zugriff auf nicht genehmigte Anwendungen und Tools
- riskante Verbindungen zu externen APIs
- potenziell kompromittierte Agentenaktionen
Erkannte Risiken sollen in Echtzeit sichtbar gemacht und abhängig von den definierten Richtlinien kontrolliert oder blockiert werden können.
Netzwerkkarte zeigt mögliche Angriffspfade
Eine interaktive Tool-Netzwerkkarte visualisiert, auf welche APIs, Anwendungen, Zugangsdaten und Ressourcen ein KI-Agent zugreifen kann. Security-Operations-Teams erhalten dadurch einen Überblick über den potenziellen Ausbreitungsradius eines kompromittierten Agenten.
Risikoreiche Knotenpunkte lassen sich gezielt identifizieren. Unternehmen können so nachvollziehen, welche Systeme betroffen wären, falls ein Agent manipuliert wird, zu weitreichende Berechtigungen besitzt oder auf kompromittierte Tools zugreift.
Die Visualisierung soll insbesondere dabei helfen, komplexe Abhängigkeiten zwischen Agenten, Identitäten, APIs und Unternehmensanwendungen transparent zu machen.
Early Access für SAT-Advanced-Kunden
Der Agent Risk Manager für Claude befindet sich zunächst im Early Access und steht Kunden von KnowBe4 SAT Advanced zur Verfügung. Die Integration bestehender Claude-Umgebungen erfolgt über einen geführten Onboarding-Prozess. Mit der Erweiterung positioniert KnowBe4 den Schutz von KI-Agenten als Bestandteil der Sicherheit der digitalen Belegschaft. Unternehmen sollen dadurch nicht nur menschliche Nutzer, sondern auch autonome KI-Identitäten, deren Berechtigungen und deren Zugriff auf Unternehmensressourcen kontrollieren können.
