Thales und Google Cloud ziehen neue Sicherheitsgrenzen

Mit autonomen KI-Agenten verschiebt sich die Sicherheitsfrage von „Was darf ein Nutzer?“ zu „Was darf ein Agent eigenständig entscheiden und ausführen?“. Je stärker Agenten auf Unternehmensdaten, Modelle, APIs und Geschäftssysteme zugreifen, desto größer wird die Gefahr unkontrollierter Aktionen. Thales und Google Cloud erweitern deshalb ihre Zusammenarbeit, um Sicherheit und Governance direkt in agentische KI-Workflows zu integrieren.

Thales baut die Zusammenarbeit mit Google Cloud aus und integriert seine AI Security Fabric enger mit Google Cloud Gemini Enterprise. Unternehmen sollen dadurch Interaktionen zwischen Nutzern, KI-Agenten, Modellen, Unternehmensdaten und Tools in Echtzeit überwachen und kontrollieren können.

Im Mittelpunkt steht die Frage, worauf KI-Agenten zugreifen dürfen, welche Informationen sie weitergeben können und welche Aktionen innerhalb eines Unternehmens zulässig sind. Die gemeinsame Architektur soll entsprechende Richtlinien unmittelbar innerhalb KI-gesteuerter Workflows durchsetzen.

Autonome Agenten verändern die Angriffsfläche

Während klassische Anwendungen innerhalb weitgehend festgelegter Prozesse arbeiten, können agentische KI-Systeme eigenständig planen, Entscheidungen treffen, Informationen kombinieren und Aktionen auslösen. Damit entstehen neue Sicherheitsrisiken, die über traditionelle Zugriffs- und Anwendungskontrollen hinausgehen.

Dazu gehören unter anderem Prompt Injection, Datenabfluss, unsichere Modellausgaben, unautorisierte Aktionen sowie komplexe Interaktionen zwischen mehreren Agenten.

„Unternehmen stellen derzeit von KI-Assistenten auf KI-Agenten um, die eigenständig Maßnahmen ergreifen, Entscheidungen treffen und mit wichtigen Geschäftssystemen interagieren können. Dies erfordert einen grundlegend anderen Sicherheitsansatz“, erklärt Eva Rudin, Senior Vice President for Cybersecurity Products bei Thales.

Die Herausforderung wächst insbesondere dann, wenn KI-Agenten Zugriff auf sensible Geschäftsdaten oder operative Systeme erhalten. Ein Agent zur Bearbeitung von Versicherungsansprüchen könnte beispielsweise Informationen aus nicht autorisierten Quellen einbeziehen oder Entscheidungen außerhalb seiner vorgesehenen Befugnisse treffen.

Damit wird Governance zu einer Laufzeitaufgabe: Sicherheitsmechanismen müssen nicht nur definieren, was ein Agent theoretisch darf, sondern auch kontrollieren, was er tatsächlich ausführt.

Sicherheitskontrollen direkt im KI-Workflow

Die Thales AI Security Fabric soll deshalb als übergeordnete Kontrollschicht innerhalb agentischer Prozesse fungieren. Sie überwacht Interaktionen zwischen Agenten, Modellen, Datenquellen und Anwendungen und kann Aktionen außerhalb definierter Richtlinien blockieren.

Unternehmen sollen dadurch unter anderem:

• Zugriffe von KI-Agenten auf sensible Daten begrenzen,
• unzulässige Aktionen erkennen und stoppen,
• KI-spezifische Bedrohungen identifizieren,
• Agentenverhalten nachvollziehbar machen,
• Governance- und Compliance-Vorgaben zentral durchsetzen.

Damit verschiebt sich der Sicherheitsansatz weg von isolierten Kontrollen einzelner KI-Anwendungen hin zu einer durchgängigen Absicherung des gesamten Agentic-Workflows.

Governance wird zur Voraussetzung für skalierbare Agentic AI

Mit dem Übergang von Pilotprojekten zum produktiven Einsatz autonomer Agenten steigt gleichzeitig der Bedarf an nachvollziehbarer Kontrolle. „Da Agenten immer leistungsfähiger werden und zunehmend mit kritischen Daten und Systemen vernetzt sind, benötigen Kunden Sicherheits- und Governance-Maßnahmen, die fest in ihre Betriebsabläufe integriert sind“, sagt Vineet Bhan, Director of Security and Identity Partnerships bei Google Cloud.

Die Zusammenarbeit mit Thales soll Unternehmen zusätzliche Möglichkeiten geben, agentische KI-Workflows in Google Cloud abzusichern.

Der entscheidende Punkt liegt dabei weniger in der Absicherung einzelner Modelle als in der Kontrolle der gesamten Handlungskette. Sobald KI-Agenten eigenständig auf Daten zugreifen, Systeme ansprechen und Prozesse verändern können, werden Identität, Berechtigung, Datenzugriff und Laufzeitkontrolle zu zentralen Sicherheitsfaktoren.

Agentic AI verändert damit nicht nur die Automatisierung von Geschäftsprozessen. Sie verändert auch die Sicherheitsarchitektur: Unternehmen müssen künftig nicht mehr ausschließlich Menschen, Anwendungen und Maschinenidentitäten kontrollieren, sondern zunehmend auch autonome digitale Akteure.