Zwei Drittel der Unternehmen sehen KI-Agenten als größeres Sicherheitsrisiko als Menschen

Autonome KI-Agenten halten mit rasantem Tempo Einzug in Unternehmen. Doch die Sicherheitskonzepte halten nicht Schritt. Das ist das zentrale Ergebnis des aktuellen „Digital Trust Digest: The AI Identity Edition “ von Keyfactor, einem führenden Anbieter für digitale Vertrauenslösungen. Die Studie wurde gemeinsam mit Wakefield Research durchgeführt und beleuchtet die wachsende Kluft zwischen dem Einsatz agentenbasierter KI und der Fähigkeit von Unternehmen, diese Systeme sicher zu identifizieren, zu kontrollieren und ihnen zu vertrauen.

KI-Agenten agieren zunehmend eigenständig: Sie treffen Entscheidungen, greifen auf Systeme zu und interagieren mit anderen Agenten – oft ohne direkte menschliche Kontrolle. Klassische Sicherheitsmodelle sind dafür nicht ausgelegt. Viele Unternehmen setzen bereits hochautonome KI ein, ohne über die nötigen Identitätsgrundlagen zu verfügen, um eindeutig festzulegen, wer oder was handelt, welche Rechte bestehen und wie eingegriffen werden kann, wenn etwas schiefläuft.

Diese Vertrauenslücke entwickelt sich schnell zu einem ernsthaften Sicherheitsproblem. 69 Prozent der befragten Cybersicherheitsexperten sind überzeugt, dass Schwachstellen in KI-Agenten und autonomen Systemen eine größere Bedrohung für Sicherheits- und Identitätsinfrastrukturen darstellen als der Missbrauch von KI durch Menschen.

Identität als Kern des Problems

Der zentrale Schwachpunkt liegt in der Identität. 86 Prozent der Sicherheitsexperten sind sich einig: KI-Agenten und autonome Systeme sind ohne eindeutige, dynamische digitale Identitäten nicht wirklich vertrauenswürdig. Dennoch fehlt vielen Organisationen die nötige Identitätsinfrastruktur und Governance, um KI-Agenten sicher und skalierbar zu verwalten. Dabei wächst der Handlungsdruck: 85 Prozent der Befragten erwarten, dass digitale Identitäten für KI-Agenten innerhalb der nächsten fünf Jahre genauso selbstverständlich sein werden wie Identitäten für Menschen oder Maschinen.

Erkenntnis da – Umsetzung fehlt

Obwohl die Risiken bekannt sind, klaffen Erkenntnis und Umsetzung weit auseinander. Nur etwa die Hälfte der Unternehmen hat Governance-Frameworks eingeführt, um KI-Agenten gezielt abzusichern. Lediglich 28 Prozent glauben, dass sie tatsächlich in der Lage sind, einen fehlgeleiteten KI-Agenten rechtzeitig zu stoppen, bevor Schaden entsteht. Zwar ist agentenbasierte KI inzwischen ein Thema auf Vorstandsebene, doch 55 Prozent der Sicherheitsverantwortlichen geben an, dass das Top-Management die Risiken noch immer unterschätzt. Diese Lücke macht Unternehmen zunehmend angreifbar.

„Unternehmen treiben die Einführung autonomer KI-Systeme mit Hochdruck voran, während die Sicherheitsinfrastruktur gefährlich hinterherhinkt“, sagt Jordan Rackie, CEO von Keyfactor . „Die Führungsebene muss Sicherheitsteams die Ressourcen und Rückendeckung geben, die sie brauchen, um KI-Handlungen nachvollziehbar zu machen, zu überprüfen und bei Bedarf zu stoppen. Digitale Identität wird darüber entscheiden, wer im KI-Zeitalter langfristig erfolgreich ist.“

Die Identitätskrise der Unternehmens-KI

Auch wenn weitgehend Einigkeit darüber besteht, dass KI-Agenten künftig eigene digitale Identitäten benötigen, beginnt die eigentliche Herausforderung jetzt. Ohne klare Identitätskontrollen können KI-Systeme ihr Potenzial nicht sicher entfalten. „Unsere heutigen Identitäts- und Sicherheitsmodelle stammen aus einer Zeit, in der Software nicht autonom gehandelt hat“, erklärt Ellen Boehm, SVP IoT & AI Identity Innovation bei Keyfactor. „Das Ergebnis ist eine Identitätskrise im Kern der Unternehmens-KI. Autonome Agenten ohne klare Rückverfolgbarkeit und Kontrolle sind ein enormes Risiko. Unternehmen müssen jetzt handeln, sonst drohen gravierende Sicherheitsfolgen.“

Vibe-Coding: Produktivität mit Sicherheitslücke

Ein weiteres Risiko zeigt sich beim sogenannten Vibe-Coding. Zwar beschleunigen KI-Assistenten die Softwareentwicklung erheblich, doch 68 Prozent der Unternehmen haben keine vollständige Transparenz oder Kontrolle über KI-generierten Code. Damit wächst das Risiko, dass kritische Softwarebestandteile entstehen, deren Herkunft und Vertrauenswürdigkeit nicht nachvollziehbar sind. „Vibe-Coding kann DevSecOps-Teams enorm entlasten – aber nur, wenn Sicherheit von Anfang an mitgedacht wird“, so Boehm weiter. „Jeder KI-Beitrag braucht einen kryptografischen Fingerabdruck, jeder Codepfad eine überprüfbare Herkunft und jeder Commit eine eindeutig zuordenbare Identität. Ohne Identität, kryptografische Herkunft und Governance wird niemand sicher sagen können, wer – oder was – geschäftskritischen Code geschrieben hat.“

Studienhintergrund

Die Studie wurde von Wakefield Research im Auftrag von Keyfactor durchgeführt und basiert auf den Antworten von 450 Cybersicherheitsexperten aus Nordamerika und Europa. Alle teilnehmenden Unternehmen beschäftigen mindestens 1.000 Mitarbeitende.