Wie Unternehmen unkontrollierte KI-Nutzung eindämmen

KI-Tools verbreiten sich in Unternehmen schneller, als Sicherheits- und Governance-Prozesse Schritt halten können. Mitarbeiter nutzen Anwendungen, Fachbereiche beschaffen eigene Lösungen und zunehmend greifen autonome KI-Agenten auf Unternehmensdaten und Systeme zu – häufig außerhalb der offiziellen Kontrolle. Damit entwickelt sich Schatten-KI von einem Governance-Problem zu einer neuen Angriffsfläche, die Unternehmen technisch wie organisatorisch beherrschen müssen.

Wenn KI an der IT-Abteilung vorbeizieht

Erich Kron, CISO Advisor bei KnowBe4 , warnt vor einem wachsenden blinden Fleck in der Unternehmenssicherheit

Generative KI ist für viele Beschäftigte längst Teil des Arbeitsalltags. Texte zusammenfassen, Informationen recherchieren, Code erstellen oder Präsentationen vorbereiten: Für zahlreiche Aufgaben bieten KI-Anwendungen erhebliche Produktivitätsvorteile.

Genau darin liegt jedoch ein wachsendes Sicherheitsproblem. Mitarbeiter greifen längst nicht ausschließlich auf jene KI-Dienste zurück, die ihre Unternehmen offiziell freigegeben haben. Ist ein öffentlich verfügbares Tool schneller oder komfortabler, wird es häufig einfach genutzt – unabhängig davon, ob die IT- oder Sicherheitsabteilung davon weiß.

Damit wiederholt sich ein bekanntes Muster aus der Schatten-IT, allerdings mit einer zusätzlichen Dimension. Denn bei KI-Anwendungen geht es nicht nur um unbekannte Software, sondern auch darum, welche Unternehmensinformationen in externe Modelle oder Plattformen übertragen werden und was anschließend mit diesen Daten geschieht.

Ein Mitarbeiter verbindet beispielsweise sein privates Smartphone mit dem internen WLAN und nutzt darauf KI-Anwendungen. Eine Fachabteilung schließt eigenständig ein Abonnement für einen KI-Dienst ab, während ein externer Dienstleister ein KI-gestütztes Monitoring-System installiert. Jeder einzelne Vorgang mag zunächst unspektakulär erscheinen. Zusammengenommen entsteht jedoch eine Infrastruktur, deren tatsächlicher Umfang für die Sicherheitsorganisation kaum noch transparent ist.

KI-Agenten verschärfen das Risiko

Mit der zunehmenden Verbreitung von KI-Agenten gewinnt das Problem zusätzlich an Brisanz. Anders als klassische generative KI-Systeme beschränken sich Agenten nicht darauf, Fragen zu beantworten oder Inhalte zu erzeugen. Sie können selbstständig auf Daten zugreifen, Anwendungen verwenden, APIs aufrufen und Aktionen ausführen. Damit wächst auch das Schadenspotenzial kompromittierter Systeme.

Erhält ein Angreifer Kontrolle über einen Agenten oder dessen Zugangsdaten, kann aus einem vermeintlichen Produktivitätswerkzeug ein Einstiegspunkt in weitere Unternehmenssysteme werden. Besonders kritisch wird dies, wenn Agenten weitreichende Berechtigungen besitzen oder auf sensible Datenquellen zugreifen dürfen.

Schatten-KI ist deshalb nicht mehr lediglich eine Frage der Software-Governance. Sie berührt zunehmend klassische Themen der Cybersecurity wie Identitätsmanagement, Zugriffsrechte, Netzwerksegmentierung, Datenkontrolle und Angriffserkennung.

Sichtbarkeit wird zur Voraussetzung für KI-Sicherheit

Unternehmen benötigen deshalb eine mehrschichtige Verteidigungsstrategie. Ein wichtiger Baustein ist eine dynamische Netzwerksegmentierung. Wird ein bislang unbekanntes oder kompromittiertes KI-System entdeckt, lässt sich dadurch zumindest begrenzen, auf welche Bereiche der Infrastruktur es zugreifen kann.

Ergänzend sind Monitoring-Systeme notwendig, die ungewöhnliche Kommunikations- und Datenverkehrsmuster erkennen. Sicherheitsverantwortliche müssen nachvollziehen können, welche Anwendungen innerhalb des Unternehmens mit welchen externen Diensten kommunizieren und ob dabei sensible Informationen übertragen werden.

Besonders wichtig wird dabei das Cloud-Monitoring. Moderne Sicherheitsplattformen können dabei helfen, nicht genehmigte KI-Anwendungen und KI-Agenten aufzuspüren und zu inventarisieren. Lösungen für das Agent Risk Management sollen beispielsweise sichtbar machen, welche Dienste wie ChatGPT, Claude oder Gemini innerhalb der Organisation tatsächlich verwendet werden.

Das Ziel ist dabei nicht zwangsläufig, jede nicht freigegebene Anwendung sofort zu blockieren. Entscheidend ist zunächst, aus unbekannter KI-Nutzung bekannte KI-Nutzung zu machen. Erst wenn Unternehmen wissen, welche Systeme eingesetzt werden, können sie Risiken bewerten, Zugriffe kontrollieren und sinnvolle Regeln definieren.

Verbote allein treiben Schatten-KI weiter in den Untergrund

Technische Kontrollen lösen das Problem allerdings nur teilweise. Denn Schatten-KI entsteht häufig nicht aus böser Absicht, sondern aus einem sehr einfachen Motiv: Mitarbeiter wollen ihre Arbeit schneller oder besser erledigen.

Ein pauschales Verbot kann deshalb sogar kontraproduktiv sein. Sind die offiziellen Prozesse zu kompliziert oder fehlen geeignete freigegebene Werkzeuge, suchen Anwender nach Alternativen. Die KI-Nutzung verschwindet dadurch nicht – sie wird lediglich unsichtbarer.

Unternehmen sollten daher klare Leitplanken schaffen. Beschäftigte müssen wissen, welche KI-Anwendungen erlaubt sind, welche Daten darin verarbeitet werden dürfen und wo klare Grenzen bestehen. Besonders sensible Informationen wie Kundendaten, interne Dokumente, Zugangsdaten oder vertrauliches geistiges Eigentum benötigen eindeutige Schutzregeln.

KI-Sicherheit bleibt auch eine Frage der Sicherheitskultur

Damit rückt erneut der Faktor Mensch in den Mittelpunkt. Mitarbeiter müssen verstehen, dass die Eingabe von Informationen in ein KI-System sicherheitstechnisch nicht grundsätzlich anders zu bewerten ist als die Weitergabe von Daten an einen externen Dienstleister.

Kontinuierliche und praxisnahe Security-Awareness-Programme sollten deshalb erklären, wie Angreifer KI-Technologien missbrauchen können, welche Risiken unkontrollierte KI-Dienste verursachen und wie sensible Unternehmensinformationen geschützt werden müssen.

Dabei geht es nicht darum, Beschäftigte von der Nutzung künstlicher Intelligenz abzuhalten. Vielmehr müssen Unternehmen einen Rahmen schaffen, in dem produktiver KI-Einsatz und Sicherheitsanforderungen miteinander vereinbar sind.

Die zentrale Herausforderung lautet damit nicht, KI-Nutzung vollständig zu kontrollieren. Unternehmen müssen sie sichtbar, nachvollziehbar und steuerbar machen. Erst das Zusammenspiel aus technischer Transparenz, klaren Governance-Regeln und einer aufgeklärten Belegschaft kann verhindern, dass Schatten-KI zu einer dauerhaft unterschätzten Angriffsfläche wird.