Warum Führung, Kontrolle und Verantwortung neu definiert werden müssen

KI-Agenten verändern nicht nur IT-Prozesse – sie verschieben die Grenzen von Verantwortung, Kontrolle und Führung. Je autonomer digitale Akteure Aufgaben übernehmen, Entscheidungen vorbereiten und Aktionen ausführen, desto weniger reicht es aus, lediglich ihre Identität und ihren Zugriff zu kontrollieren. Unternehmen müssen neu definieren, welche Autorität sie Maschinen übertragen wollen – und wer am Ende die Verantwortung für deren Handlungen trägt.

Sam Curry, Global VP & CISO in Residence bei Zscaler zeigt, warum Autorisierung, klare Grenzen und nachvollziehbare Verantwortung zu zentralen Governance-Fragen im Agentic Enterprise werden.

Das Unbeherrschbare beherrschbar machen

Vor dem Übergang von generativer zu agentischer KI war die Rollenverteilung vergleichsweise eindeutig: Menschen trafen Entscheidungen, KI-Modelle führten Anweisungen aus. Mit KI-Agenten verändert sich dieses Verhältnis grundlegend. Sie können selbstständig Workflows anstoßen, Systeme miteinander verbinden und Ergebnisse beeinflussen.

Damit hält ein neues Maß an Unvorhersehbarkeit Einzug in IT-Umgebungen, die traditionell auf möglichst deterministische und kontrollierbare Abläufe ausgelegt sind.

KI-Agenten besitzen Eigenschaften, die in Teilen menschlichem Verhalten ähneln: Sie reagieren auf ihre Umgebung, verfolgen vorgegebene Ziele und wählen eigenständig Wege, um diese möglichst effizient zu erreichen. Gleichzeitig verfügen sie potenziell über enorme technische Reichweite. Sie können auf Anwendungen, Daten, APIs oder andere Agenten zugreifen und Aktionen in hoher Geschwindigkeit ausführen.

Für Unternehmen entsteht daraus eine zentrale Herausforderung: Sie müssen jederzeit nachvollziehen können, wo Agenten eingesetzt werden, welche Befugnisse sie besitzen und wann sie den vorgesehenen Handlungsspielraum verlassen.

Genau diese Transparenz fehlt bislang häufig. Dadurch wird auch die Bewertung des tatsächlichen Risikos schwieriger. IT- und Sicherheitsverantwortliche müssen ihr Risikomanagement deshalb an die neue Realität autonom handelnder Systeme anpassen.

Das Problem der Rechenschaftspflicht

Befugnisse lassen sich leichter übertragen als Verantwortung. Ein KI-Agent kann mit einem zweiten Agenten interagieren, der wiederum auf weitere Systeme oder Agenten zugreift. Entsteht aus einer solchen Handlungskette eine geschäftlich relevante Entscheidung oder sogar ein Schaden, wird die Frage nach der Verantwortung schnell komplex.

Wer hat die ursprüngliche Aufgabe ausgelöst? Wer hat die Entscheidung genehmigt? Wer autorisierte die Folgeaktion? Und wer trägt letztlich die Verantwortung für das Ergebnis?

Das eigentliche Problem besteht dabei nicht zwangsläufig darin, dass ein Agent auf dem Weg zur Zielerreichung eine falsche Entscheidung trifft. Kritischer ist, dass Authentizitäts- und Entscheidungsketten zunehmend schwer nachvollziehbar werden.

Je stärker Verantwortung auf Menschen, Maschinen und verschiedene Agenten verteilt wird, desto wichtiger wird deshalb eine präzise Steuerung ihrer jeweiligen Handlungsmöglichkeiten.

Erst definieren, dann delegieren

Authentifizierung beantwortet die Frage, ob ein Mensch oder eine Maschine tatsächlich die Identität besitzt, die sie vorgibt zu haben. Im Zeitalter agentischer KI wird jedoch die Autorisierung entscheidender: Was darf diese Identität tatsächlich tun?

Kontrolle darf sich daher nicht mehr darauf beschränken, einer vertrauenswürdigen Identität grundsätzlich Zugang zu gewähren. Unternehmen müssen kontinuierlich festlegen und durchsetzen können, welche Aktionen ein Mensch, eine Maschine oder ein KI-Agent innerhalb eines konkreten Kontextes ausführen darf. Je granularer diese Autorisierung gestaltet wird, desto besser lässt sich das Risiko begrenzen.

Eine zentrale Lehre aus bisherigen Experimenten mit autonomen Agentensystemen besteht darin, ihr individuelles und kollektives Verhalten deutlich besser verstehen zu müssen. Unternehmen benötigen Einblick in Ziele, Entscheidungswege und Ressourcennutzung ihrer Agenten, bevor sie ihnen geschäftskritische Aufgaben übertragen.

Genau hier beginnt strategische KI-Governance.

Viele Unternehmen starten ihre KI-Initiativen mit der Frage, welches Modell oder welche Plattform sie einsetzen sollen. Die wichtigere Frage lautet jedoch: Welches Ergebnis soll erreicht werden – und welche Entscheidungen ist das Unternehmen bereit, dafür an Maschinen zu delegieren?

Ebenso entscheidend ist die Gegenfrage: Welche Berechtigungen, Entscheidungen und Handlungsspielräume dürfen gerade nicht delegiert werden? Diese Grenzen müssen definiert sein, bevor die entsprechende Technologie produktiv eingesetzt wird.

Führungsaufgaben verändern sich

Dabei gibt es keine universelle Antwort. Zwei Unternehmen können dasselbe KI-Modell und dieselben technischen Sicherheitskontrollen einsetzen und dennoch zu völlig unterschiedlichen Governance-Entscheidungen gelangen.

Ausschlaggebend sind unter anderem Risikobereitschaft, Geschäftsmodell, regulatorische Anforderungen und strategische Ziele.

Nichtmenschliche Akteure könnten künftig zu einem selbstverständlichen Bestandteil der Belegschaft werden. Die entscheidende Führungsfrage lautet daher nicht mehr, ob Unternehmen mit KI-Agenten arbeiten wollen.

Sie lautet: Wo endet die Autorität des Agenten, wo beginnt die Verantwortung des Menschen – und wie lassen sich diese Grenzen dauerhaft durchsetzen?

Führung bedeutet im Zeitalter agentischer KI deshalb mehr als die Steuerung von Technologie. Unternehmen müssen Vorhersehbarkeit, Verantwortlichkeit und Rechenschaftspflicht auch dann sicherstellen, wenn Entscheidungen und Handlungen zunehmend von einer Belegschaft ausgeführt werden, die nicht mehr ausschließlich aus Menschen besteht.