Shadow-AI
Mondoo Shadow-AI-Management stoppt riskante KI-Agenten bevor sie Schaden anrichten
Mondoo macht Shadow AI im Unternehmen sichtbar
KI-Agenten entwickeln sich in vielen Unternehmen zu einer neuen Form der Schatten-IT. Sie laufen auf Arbeitsplatzrechnern, greifen auf Zugangsdaten zu und verbinden sich über MCP-Server mit internen Anwendungen – häufig ohne Wissen der IT-Sicherheitsabteilung. Mondoo erweitert deshalb seine Vulnerability-Management-Plattform um Funktionen, mit denen sich KI-Agenten, Skills, Modelle und zugehörige Dienste unternehmensweit inventarisieren, bewerten und kontrollieren lassen.
Mondoo erweitert seine Plattform für Continuous Threat Exposure Management (CTEM) um Sicherheits- und Governance-Funktionen für den Einsatz agentischer Künstlicher Intelligenz. Die neuen Werkzeuge sollen Unternehmen dabei unterstützen, genehmigte und nicht genehmigte KI-Anwendungen auf Endgeräten zu erkennen, deren Risiken zu bewerten und problematische Komponenten zu entfernen oder zu deaktivieren.
Im Mittelpunkt steht dabei die zunehmende Verbreitung sogenannter Shadow AI. Ähnlich wie bei klassischer Schatten-IT setzen Beschäftigte Anwendungen und Dienste ein, die nicht offiziell von der IT-Abteilung freigegeben wurden. Der entscheidende Unterschied: KI-Agenten können eigenständig Befehle ausführen, auf interne Systeme zugreifen und Aktionen über mehrere Anwendungen hinweg miteinander verknüpfen.
KI-Agenten werden zum Sicherheitsrisiko auf dem Endgerät
Nach Einschätzung von Mondoo verlagert sich das Risiko zunehmend von zentralen Cloud-Infrastrukturen auf die Arbeitsplatzrechner der Beschäftigten. Dort kommen unter anderem Coding-Agenten, Entwicklungsassistenten, Browser-Erweiterungen und Skills von Drittanbietern zum Einsatz.
Viele dieser Werkzeuge können über das Model Context Protocol (MCP) direkt mit internen Anwendungen, Datenbanken oder Cloud-Diensten kommunizieren. Abhängig von ihren Berechtigungen führen sie Shell-Befehle aus, verändern Quellcode oder greifen auf lokal gespeicherte Zugangsdaten zu.
„KI-Risiken waren früher in der Cloud angesiedelt – bei Modell-Endpunkten, APIs und Datenpipelines. Heute sitzen sie auf dem Arbeitsplatzrechner des Mitarbeiters“, erklärt Dominik Richter, Mitgründer von Mondoo.
Für Sicherheitsteams entsteht damit eine neue Herausforderung: Sie müssen nicht nur wissen, welche KI-Anwendungen genutzt werden, sondern auch, welche Fähigkeiten, Erweiterungen und Verbindungen diese besitzen.
Präventive Kontrolle statt reiner Laufzeitüberwachung
Viele Sicherheitslösungen konzentrieren sich darauf, Aktivitäten von KI-Agenten während der Ausführung zu überwachen. Probleme werden dadurch häufig erst sichtbar, wenn ein Agent bereits aktiv ist oder eine riskante Aktion ausgeführt hat.
Mondoo verfolgt nach eigenen Angaben einen präventiven Ansatz . Nicht freigegebene Agenten, riskante Skills oder unerwünschte Modelle sollen erkannt und blockiert werden, bevor sie auf Unternehmensdaten oder interne Systeme zugreifen können.
Grundlage dafür ist ein zentrales Inventar der im Unternehmen eingesetzten KI-Komponenten.
AI-BOM schafft Transparenz über eingesetzte KI
Die Plattform erstellt automatisch eine sogenannte AI Bill of Materials, kurz AI-BOM. Sie erfasst unternehmensweit:
- installierte KI-Agenten,
- geladene Skills und Plugins,
- konfigurierte MCP-Server,
- eingesetzte KI-Modelle,
- sowie weitere verbundene KI-Dienste.
Die Informationen werden direkt von den Unternehmensendgeräten erhoben. Dadurch sollen sowohl offiziell freigegebene Installationen als auch bislang unbekannte oder nicht genehmigte Anwendungen sichtbar werden.
Das Konzept orientiert sich an der aus der Software-Sicherheit bekannten Software Bill of Materials. Während eine SBOM die Bestandteile von Softwareprodukten dokumentiert, soll die AI-BOM Transparenz über die eingesetzten KI-Komponenten und deren Abhängigkeiten schaffen.
Kontinuierliche Bewertung von KI-Risiken
Alle erkannten Komponenten werden fortlaufend auf bekannte Sicherheitsrisiken geprüft. Dazu gleicht Mondoo Skills mit einer eigenen Sicherheitsdatenbank ab und untersucht die Konfiguration von Agenten anhand definierter Best Practices.
Auch die eingesetzten Softwareversionen werden mit öffentlich bekannten Schwachstellen verglichen. Anschließend prüft die Plattform, ob Agenten, Modelle oder Dienste gegen interne Governance- und Sicherheitsrichtlinien verstoßen.
Sicherheitsteams erhalten damit eine Übersicht darüber, welche KI-Komponenten im Unternehmen vorhanden sind, wie hoch deren Risiko einzuschätzen ist und wo konkreter Handlungsbedarf besteht.
Richtlinien für erlaubte und unerlaubte KI-Tools
Unternehmen können innerhalb der Plattform definieren, welche KI-Werkzeuge auf verwalteten Endgeräten eingesetzt werden dürfen. Abweichungen von diesen Vorgaben werden automatisch gekennzeichnet.
Auf diese Weise lassen sich beispielsweise nicht freigegebene Coding-Agenten, unbekannte MCP-Verbindungen oder riskante Erweiterungen identifizieren. Auch der Einsatz bestimmter KI-Modelle oder externer Dienste kann über Richtlinien eingeschränkt werden.
Die technische Durchsetzung erfolgt über bestehende Endgeräte- und Sicherheitsplattformen. Mondoo unterstützt unter anderem Microsoft Intune und CrowdStrike Falcon.
Sicherheitsteams können darüber unautorisierte Agenten entfernen, riskante Skills deaktivieren oder weitere Behebungsmaßnahmen unternehmensweit ausrollen. Die Bereitstellung soll dabei agentenlos erfolgen, sodass keine zusätzliche Softwarekomponente auf den Endgeräten installiert werden muss.
Endgeräte werden zur Kontrollinstanz für agentische KI
Mit der zunehmenden Verbreitung autonomer KI-Werkzeuge wird das Endgerät zu einer zentralen Steuerungs- und Kontrollinstanz. Viele kritische Interaktionen beginnen auf dem Arbeitsplatzrechner: von der Verarbeitung interner Daten über den Zugriff auf Entwicklungsumgebungen bis zur Kommunikation mit Cloud-Diensten.
Für Unternehmen reicht es daher nicht mehr aus, ausschließlich zentrale KI-Plattformen oder Cloud-APIs zu überwachen. Sie benötigen zusätzlich Transparenz über lokal installierte Agenten, deren Erweiterungen, Berechtigungen und Verbindungen.
Die Erweiterung von Mondoo zeigt, dass sich Vulnerability Management zunehmend über klassische Software-Schwachstellen hinausentwickelt. Künftig dürften auch Konfigurationen, Fähigkeiten und Datenzugriffe autonomer KI-Systeme zu einem festen Bestandteil des unternehmensweiten Exposure Managements werden.
Mondoo ist Silber-Sponsor des OWASP GenAI Security Project , das offene Leitlinien und Standards für die Absicherung generativer und agentischer KI entwickelt. Die neuen Funktionen sind nach Angaben des Unternehmens ab sofort verfügbar.
