Deepfake
Verteidigung gegen Deepfake-Attacken
Von Camellia Chan, CEO und Co-Founder, X-PHY
Cyberangreifer nutzen zunehmend Deepfakes als wirkungsvolle Technik, um ihre Opfer auszutricksen. Die digitalen Täuschungen kommen bereits in unterschiedlichsten Bereichen zum Einsatz, von Finanzbetrug bis hin zu politischer Desinformation. Einer der besorgniserregendsten Trends sind Betrügereien, bei denen sich Angreifer mithilfe von synthetischen Audio- oder Videodateien zum Beispiel als CEO eines Unternehmens ausgeben.
Ein solcher Vorfall ereignete sich 2020 in Hongkong. Ein Bankmanager wurde dazu gebracht, 35 Millionen Dollar zu überweisen, nachdem er einen Anruf von einem vermeintlichen Unternehmensdirektor erhalten hatte. Der Betrüger nutzte eine per künstlicher Intelligenz (KI) geklonte Stimme, um die Stimme des Geschäftsführers perfekt nachzuahmen. Zusätzlich untermauerte er seine Anfrage mit überzeugenden E-Mails und Unterlagen. Dieser Fall war eines der ersten und bekanntesten Beispiele für den Betrug mit gefälschten Stimmen im Finanzsektor.
Natürlich ist es nicht bei einem einzelnen Vorfall geblieben. In letzter Zeit gibt es immer wieder Berichte, dass Unternehmen durch gefälschte Videoanrufe etwa zur Zahlung großer Geldsummen verleitet wurden. Solche Angriffe sind auch in Deutschland längst nicht mehr nur ein hypothetisches Problem. Denn die Tools, um sie zu erstellen, werden für Cyberkriminelle immer leichter zugänglich.
Die KI-basierten Taktiken sind so wirksam, weil sie das nahezu unbegrenzte Vertrauen der Nutzer in ihre visuelle und auditive Wahrnehmung ausnutzen. Solange die Opfer das, was sie sehen und hören, nach dem Motto „Sehen ist Glauben“ für echt halten, werden Deepfake-Angriffe weiter effektiv bleiben – und ohne die richtigen Werkzeuge schwer zu erkennen sein.
KI hilft bei der Abwehr von Deepfakes
Dabei kann KI sowohl das Problem als auch die Lösung sein. Auf der einen Seite ermöglicht sie die Erstellung synthetischer Inhalte. Auf der anderen Seite ist sie aber auch die beste Verteidigungstaktik. Denn fortgeschrittene maschinelle Lernmodelle, insbesondere multimodale KI, werden immer besser darin, subtile, ausgeklügelte Anzeichen von Manipulationen zu erkennen – vom unnatürlichen Blinzeln über Ungereimtheiten im Gesicht bis hin zu unpassenden audiovisuellen Hinweisen.
Besonders wertvoll ist die Fähigkeit von KI-gestützten Lösungen, eine Abwehr in Echtzeit zu bieten, mit besserem Datenschutz und schnelleren Reaktionszeiten. Dies ist entscheidend, weil die Bedrohungen immer gezielter und gleichzeitig dynamischer werden.
Einige vielversprechende KI-Modelle, die in der Verteidigung gegen Deepfakes zum Einsatz kommen, sind Convolutional Neural Networks (CNNs), Long-Short-Term-Memory-Netze (LSTMs) und Gated Recurrent Units (GRUs). CNNs werden eingesetzt, um kleinste Details in visuellen Daten zu analysieren. LSTMs und GRUs sind speicherbasierte KI-Modelle zur Verfolgung audiovisueller Synchronisationen.
Die Deepfake-Erkennung wird zunehmend auch in umfassendere Sicherheits-Ökosysteme integriert, bei denen jede Ebene von der Hardware über die Daten bis hin zu den Inhalten als Prüfpunkt für die Authentizität fungiert. Das schafft eine wichtige Vertrauensbasis. Mit einer Kombination aus Deepfake-Erkennung und robuster Endgerätesicherheit lässt sich zudem sicherstellen, dass jedes Gerät in der Lage ist, die Integrität digitaler Kommunikation schnell und vertraulich zu überprüfen, auch ohne dass sensible Inhalte in die Cloud übertragen werden müssen.
Unternehmen müssen gut vorbereitet sein
Unternehmen sollten Deepfakes wie jede andere Cyber-Bedrohung behandeln und eine Zero-Trust-Mentalität anwenden. Das bedeutet, nichts für echt zu halten, nur weil es überzeugend aussieht oder klingt.
Eine wichtige Maßnahme ist, bestehende Incident-Response-Pläne zur Reaktion auf Deepfake-Vorfälle zu aktualisieren. Jeder Notfallplan sollte klare Schritte zur Überprüfung von Video- oder Audioinhalten vorsehen, insbesondere wenn diese zur Aufforderung sensibler Aktionen verwendet werden. Dazu gehört auch die Erstellung eines Risikomodells, das berücksichtigt, wie Akteure mit Deepfakes kritische Geschäftsprozesse wie die Kommunikation von Führungskräften, finanzielle Genehmigungen oder Kundeninteraktionen angreifen könnten.
Spezielle Erkennungstools sind heute in der Lage, Medien in Echtzeit zu scannen und markierte Inhalte zur Überprüfung zu speichern. Je schneller ein Unternehmen Täuschungen erkennt und entsprechend handelt, desto mehr Schaden lässt sich verhindern. In der aktuellen Bedrohungslandschaft ist es deshalb sicherer, alles zunächst zu hinterfragen und Inhalten erst nach gründlicher Überprüfung zu vertrauen. Wird ein Deepfake vermutet, sollte der Incident-Response-Plan auch regeln, wie die Eskalation, Beweissicherung und Kommunikation gehandhabt wird.
Mitarbeiter entsprechend schulen
Darüber hinaus ist es wichtig, dass alle Mitarbeiter wissen, wie sie verdächtige Inhalte erkennen, wen sie alarmieren und wie sie den Vorfall dokumentieren können. Unternehmen sollten dazu klare Richtlinien zur Überprüfung, Erkennung und Eskalation von Verdachtsfällen einführen. Alle sensiblen Anfragen, bei denen es um Geld, Zugangsdaten oder vertrauliche Daten geht, sollten außerdem einen zusätzlichen Überprüfungsschritt erfordern, beispielsweise einen Rückruf oder eine zweite Genehmigung.
Die Sensibilisierung für Deepfakes kann in regelmäßige Sicherheits-Schulungen integriert werden, damit Mitarbeiter Warnzeichen schon frühzeitig erkennen können. KI-Erkennungstools können menschliche Nutzer wirkungsvoll bei der Entscheidungsfindung unterstützen, indem sie verdächtige Medien in Echtzeit scannen und bereits als solche kennzeichnen. Letztendlich muss das Hinterfragen ungewöhnlicher Kommunikationsversuche zur Norm werden, nicht zur Ausnahme.
Das Thema Compliance beachten
Werden durch einen Deepfake-Angriff Daten oder Geld gestohlen, kann das durchaus auch ein Compliance-Verstoß sein. Denn die Regulierungsbehörden erwarten, dass Unternehmen angemessene Maßnahmen ergreifen, um diese Art von Betrug zu verhindern. Laut Richtlinien wie dem Digital Operational Resilience Act (DORA) sind Firmen verpflichtet, personenbezogene Daten zu schützen und die betriebliche Widerstandsfähigkeit gegen Cyber-Bedrohungen sicherzustellen. Werden Deepfake-Angriffe nicht vorhergesehen oder abgewehrt, erhöht sich das Risiko von Haftungsansprüchen, Geldstrafen und Reputationsschäden.
Deshalb ist es unabdingbar, dass Unternehmen Deepfakes in ihre Cybersicherheits- und Risikoplanung mit einbeziehen. Die IT- und Sicherheitsteams sollten dabei auch mit der Rechtstabteilung zusammenarbeiten, Unternehmensprozesse entsprechend aktualisieren und sicherstellen, dass Systeme und Mitarbeiter auf einen versuchten Angriff vorbereitet sind. Denn im Ernstfall müssen sie nachweisen können, dass sie die Bedrohung ernst genommen haben.
