Agent Risk Manager
KnowBe4 stellt Agent Risk Manager vor: Sicherheit für die hybride Belegschaft aus Mensch und KI
KI-Agenten erhalten genügend Befugnisse, um produktiv zu sein, ohne Schaden anzurichten
Mit der zunehmenden Integration von KI-Agenten in den Arbeitsalltag verschieben sich auch die Anforderungen an die IT-Sicherheit. Unternehmen stehen vor der Herausforderung, autonomen Systemen genügend Freiheiten für produktives Arbeiten einzuräumen, ohne dabei neue Risiken zu schaffen. Genau hier setzt der neue Agent Risk Manager von KnowBe4 an.
Das in Tampa Bay ansässige Unternehmen erweitert damit seine HRM+-Plattform um ein spezialisiertes System zur Überwachung und Steuerung von KI-Agenten. Ziel ist es, nicht nur menschliche Risiken, sondern auch das Verhalten autonomer Systeme transparent zu machen und aktiv abzusichern.
Vom menschlichen Risiko zum „universellen Risiko“
Während klassische Sicherheitslösungen vor allem auf Code-Analysen oder API-Schutz setzen, verfolgt KnowBe4 einen anderen Ansatz: Der Fokus liegt auf dem tatsächlichen Verhalten von KI-Agenten im laufenden Betrieb. Denn mit dem Übergang von KI-gestützten zu agentengesteuerten Prozessen entstehen neue Angriffsflächen – etwa durch unautorisierte Datenweitergabe oder manipulierte Eingaben.
„Die Branche hat lange daran gearbeitet, den menschlichen Faktor abzusichern. Doch heute gehören KI-Agenten fest zur Belegschaft“, erklärt Greg Kras. Entscheidend sei daher nicht nur, was ein Agent „denkt“, sondern vor allem, was er tatsächlich tut.
Echtzeit-Kontrolle für autonome Systeme
Der Agent Risk Manager setzt genau an diesem Punkt an und ergänzt bestehende Sicherheitsmechanismen um eine operative Echtzeit-Ebene. Diese überwacht kontinuierlich die Aktionen von KI-Agenten und greift ein, wenn diese von definierten Sicherheitsparametern abweichen.
Zu den zentralen Funktionen gehören unter anderem:
- Verhaltensbasierter Schutz: Laufende Analyse von Agentenaktionen, um unerlaubte Aktivitäten oder Datenabflüsse zu verhindern
- Agentic Identity Governance: Transparenz über Zugriffsrechte und genutzte Tools
- Adversarial Simulation: Simulation moderner Angriffe wie Prompt-Injection oder Social Engineering
- Datenbasierte Risikoanalyse: Nutzung langjähriger Verhaltensdaten zur frühzeitigen Erkennung von Abweichungen
Schutz vor neuen Angriffsszenarien
Ein besonderer Fokus liegt auf der Abwehr moderner Angriffstechniken. Dazu zählen etwa:
- Prompt-Injection-Erkennung: Identifikation manipulierter Eingaben, die das Verhalten von KI-Agenten beeinflussen könnten
- Schutz sensibler Daten: Automatische Erkennung und Maskierung kritischer Informationen
- Kontrolle des Ressourcenverbrauchs: Verhinderung von „aus dem Ruder laufenden“ Agentenprozessen
- Zentrale Inventarisierung: Übersicht über alle eingesetzten Agenten und deren Aktivitäten
- Audit- und Compliance-Funktionen: Nachvollziehbare Protokollierung für forensische Analysen
- Integriertes Lifecycle-Management: Steuerung von Berechtigungen und Systemanbindungen
- Geführtes Onboarding: Schnelle Einrichtung ohne umfangreiche Implementierungsprojekte
Ein neuer Standard für die KI-Sicherheit
Mit dem Agent Risk Manager reagiert KnowBe4 auf eine Entwicklung, die viele Unternehmen aktuell beschäftigt: die Verschmelzung von menschlicher und künstlicher Belegschaft. Laut Kras gehe es dabei längst nicht mehr nur um einzelne Risiken, sondern um ein umfassendes Sicherheitsverständnis.
„Ob ein Mensch auf einen Deepfake hereinfällt oder ein KI-Agent durch eine manipulierte Eingabe gesteuert wird – beide Szenarien gehören heute zum gleichen Risikospektrum“, so Kras. Der Agent Risk Manager soll weltweit verfügbar sein und markiert einen weiteren Schritt hin zu einer ganzheitlichen Sicherheitsstrategie in Zeiten autonomer Systeme.
