Studie
KnowBe4-Studie zeigt zunehmende Sicherheitsrisiken durch autonome KI-Agenten und Deepfakes
Cyberrisiken: KI-Agenten, Deepfakes und Schatten-KI
Autonome KI-Agenten sind längst in deutschen Unternehmen angekommen – doch viele laufen ohne klare Kontrolle. Genau darin liegt der Gamechanger: Was Effizienz bringen soll, kann zur neuen Einfallstür für Cyberangriffe werden. Eine neue KnowBe4-Studie zeigt, wie groß das Risiko durch Schatten-KI, Deepfakes und fehlende Sicherheitskultur bereits ist.
Deutsche Unternehmen stehen vor einer neuen Phase der Cybersicherheit. Während Künstliche Intelligenz immer tiefer in Arbeitsprozesse integriert wird, entstehen zugleich neue Angriffsflächen. Besonders kritisch: Viele KI-Agenten handeln bereits autonom, ohne dass Sicherheitsverantwortliche ihre Nutzung vollständig kontrollieren oder regulieren.
Das zeigt der neue Forschungsbericht „From Agentic Risk to Human Wins: Building a Culture of Security in the Era of Agentic AI “ von KnowBe4. Demnach setzen 48 Prozent der deutschen Unternehmen KI-Anwendungen ein, die nicht genehmigt oder nicht ausreichend geregelt sind. Diese sogenannte Schatten-KI entwickelt sich damit zu einem unsichtbaren Risikofaktor im Unternehmensalltag.
KI-Agenten handeln autonom – oft ohne ausreichende Governance
Laut Studie nutzen alle befragten deutschen Cybersicherheitsverantwortlichen inzwischen KI. Besonders relevant ist dabei der Einsatz sogenannter Agentic AI: also KI-Systeme, die nicht nur Inhalte generieren, sondern eigenständig Aufgaben ausführen, Entscheidungen vorbereiten oder innerhalb von Unternehmensprozessen aktiv werden.
78 Prozent der deutschen Unternehmen haben bereits KI-Agenten im Einsatz, die in Arbeitsabläufen konkrete Maßnahmen ergreifen. 62 Prozent dieser KI-Agenten agieren sogar autonom. Damit verschiebt sich die Sicherheitsfrage: Unternehmen müssen nicht mehr nur menschliches Verhalten absichern, sondern auch digitale Akteure, die mit Daten, Systemen und Prozessen interagieren.
Fehlt dafür eine klare Governance, entstehen erhebliche Risiken. Unkontrollierte KI-Agenten können sensible Unternehmensinformationen verarbeiten, interne Prozesse beeinflussen oder im schlimmsten Fall durch Angreifer manipuliert werden – etwa über Prompt-Injections oder andere KI-spezifische Angriffsmethoden.
Deepfakes werden zur realen Gefahr im Arbeitsalltag
Neben unkontrollierten KI-Agenten sieht die Studie eine zweite zentrale Bedrohung: Deepfakes. Die Technologie ist inzwischen so realistisch, dass viele Beschäftigte ihr eigenes Urteilsvermögen infrage stellen.
87 Prozent der deutschen Beschäftigten sagen, dass Deepfake-Stimmen und -Videos mittlerweile so überzeugend sind, dass man kaum noch weiß, wem man vertrauen kann. Besonders alarmierend: 55 Prozent geben zu, dass sie sich am Arbeitsplatz wahrscheinlich von einem Deepfake-Betrug täuschen lassen könnten.
Für Unternehmen bedeutet das eine neue Eskalationsstufe im Social Engineering. Angreifer können Stimmen von Führungskräften imitieren, Videobotschaften fälschen oder täuschend echte Kommunikationssituationen erzeugen. Klassische Sicherheitsregeln reichen hier oft nicht mehr aus, wenn Mitarbeitende unter Zeitdruck handeln und scheinbar vertrauenswürdige Signale erhalten.
Zeitdruck, Ablenkung und fehlende Richtlinien erhöhen das Risiko
Die Studie macht deutlich, dass Cyberrisiken nicht allein durch Technologie entstehen. Auch Arbeitsbedingungen und Unternehmenskultur spielen eine entscheidende Rolle.
62 Prozent der deutschen Cybersicherheitsverantwortlichen nennen mangelndes Bewusstsein oder unklare Sicherheitsrichtlinien als größten Einflussfaktor auf die Cybersicherheit ihres Unternehmens in den vergangenen zwölf Monaten. Gleichzeitig sagen 64 Prozent der Beschäftigten, dass Zeitdruck und Ablenkungen sie dazu verleiten können, sicherheitskritische Fehler zu machen – selbst dann, wenn sie die Regeln kennen.
Das ist besonders relevant, weil KI-gestützte Angriffe immer überzeugender werden. Phishing, Deepfakes und manipulierte KI-Interaktionen treffen auf Arbeitsumgebungen, in denen Mitarbeitende schnelle Entscheidungen treffen müssen. Genau diese Kombination macht Angriffe wirksam.
KI-gestützte Angriffe rücken in den Fokus der Sicherheitsverantwortlichen
Auch der Blick nach vorn zeigt, wie stark KI die Bedrohungslage verändert. 46 Prozent der deutschen Cybersicherheitsverantwortlichen sehen KI-gestützte Angriffe als einen der wichtigsten Faktoren für zukünftige, vom Menschen verursachte Cyberrisiken.
Hinzu kommt der Einsatz nicht genehmigter Software und KI-Apps. 42 Prozent der Sicherheitsverantwortlichen berichten, dass solche Anwendungen ihre Sicherheitslage in den vergangenen zwölf Monaten am stärksten beeinträchtigt haben. Damit wird deutlich: Schatten-IT wird durch Schatten-KI noch komplexer.
Dr. Martin Krämer, CISO-Advisor bei KnowBe4 , warnt entsprechend vor einer volatilen Sicherheitslage.
Unternehmen müssten heute eine hybride Belegschaft aus Menschen und KI absichern, die sich schneller verändert, als viele Sicherheitsteams reagieren können. Angreifer nutzten Deepfakes, um Mitarbeitende zu täuschen, und Prompt-Injections, um KI-Agenten zu kapern. Fast die Hälfte der KI-Nutzung unkontrolliert zu lassen, sei eine massive Einladung an Angreifer.
Der KnowBe4-Bericht zeigt jedoch auch, wo Unternehmen ansetzen können. Fortschritte erzielen vor allem Organisationen, die Cybersicherheit nicht als reine IT-Aufgabe betrachten, sondern als Teil der Unternehmenskultur.
Dazu gehört, sicheres Verhalten möglichst nahtlos in den Arbeitsalltag zu integrieren. Mitarbeitende müssen Sicherheitsrisiken erkennen, aber auch ohne Angst vor Schuldzuweisungen melden können. Entscheidend ist ein Umfeld, in dem Fehler transparent angesprochen und positive Sicherheitsentscheidungen verstärkt werden.
In der Ära von Agentic AI muss dieser Ansatz erweitert werden. Unternehmen sollten nicht nur Menschen schulen, sondern auch KI-Agenten kontrollieren, Regeln für deren Einsatz definieren und klare Verantwortlichkeiten schaffen. Eine Security-First-Denkweise muss künftig für beide gelten: für Mitarbeitende und für autonome KI-Systeme.
Fazit: KI braucht Kontrolle, Kultur und klare Regeln
Die Studie zeigt: KI-Agenten und Deepfakes verändern die Cybersicherheitslage deutscher Unternehmen grundlegend. Autonome Systeme können Produktivität steigern, gleichzeitig aber neue Risiken schaffen, wenn sie ohne Governance eingesetzt werden.
Für Unternehmen wird es deshalb entscheidend, Schatten-KI sichtbar zu machen, KI-Agenten in bestehende Sicherheitsprozesse einzubinden und Mitarbeitende gezielt auf neue Täuschungsmethoden wie Deepfakes vorzubereiten. Wer KI sicher nutzen will, braucht nicht nur bessere Tools, sondern eine belastbare Sicherheitskultur.
Studienbasis: Die Untersuchung wurde von Vanson Bourne durchgeführt. Weltweit nahmen 4.000 Fachkräfte teil, darunter 800 Sicherheitsentscheider und 3.200 Mitarbeitende. Aus Deutschland wurden 250 Personen befragt. Berücksichtigt wurden Unternehmen mit mindestens 250 Beschäftigten.
