Deepfake
Desinformationen durch falsche Zitate deutscher Prominenter
2022 waren es noch Webseiten von Tageszeitungen und Webseiten, nun sind es Prominente wie Musiker und Schauspieler, die angeblich von der russischen Doppelgänger Kampagne für Desinformationen missbraucht werden. Über Facebook, vor allem über deren Werbeanzeigen, wurden Zitate von Til Schweiger oder Till Lindemann verbreitet, deren Inhalte auf die Unterstützung für die Ukraine abzielen. Teilweise sehr erfolgreich, denn einige der Zitate erzielten wohl mehr als 190.000 Klicks.
Zuvor hatte die Gruppe bereits andere Social Media-Kanäle wie TikTok, Instagram und YouTube für sich genutzt, um die Reichweite zu erhöhen und möglichst viele Schichten und Altersgruppen zu erreichen. Bekannt auch unter dem Namen Recent Reliable News (RRN) sind die Beteiligten bekannt dafür bereits Deepfakes zur Verbreitung von falschen Informationen eingesetzt zu haben. Die aktuelle Kampagne über Facebook ist nur Teil einer bereits seit mindestens Mitte April durchgeführten Aktivität.
Sergey Shykevich, Group Manager Threat Intelligence bei Check Point erklärt: „Im Zuge der Europawahl vom 6. bis 9. Juni war mit Desinformationskampagnen zu rechnen. Die DoppelGänger-Bande hat bereits zu Beginn des Jahres mit einer Kampagne über X für Aufmerksamkeit gesorgt. Deutsche Behörden hatten 50.000 gefälschte Nutzerkonten, unzählige gefälschte Webseiten und mehr als eine Million Tweets mit falschen Informationen gefunden. Doch nicht nur Deutschland ist betroffen, auch in anderen EU-Ländern wurden ähnliche Kampagnen aufgedeckt. Ziel ist die Manipulation der Wähler und die Beeinflussung des Ausgangs der Wahlen für das EU Parlament.“
Für bösartige Akteure wird es mit den Mitteln der künstlichen Intelligenz, vor allem der GenKI-Tools, immer einfacher ihre Kampagnen vorzubereiten und im großen Stil auszuspielen. Eine korrekte Ansprache durch fehlerfreies Deutsch ist nur einer von vielen Vorteilen, die neue Technologien bieten. Zu den besorgniserregendsten Bedrohungen zählen „Deepfake“-Dienste, die äußerst realistische, aber gefälschte Audio- oder Bildinhalte erstellen können. Dieses Material kann von inländischen politischen Parteien und Kandidaten oder ausländischen Agenten verwendet werden, um die Wahlchancen eines bestimmten Kandidaten oder einer Partei zu erhöhen, Konkurrenten zu schaden oder ganz allgemein das öffentliche Vertrauen in den gesamten demokratischen Prozess der Wahl zu untergraben. Die Automatisierung der Inhaltserstellung und die Fähigkeit, riesige Netzwerke von fiktiven Online-Personen zu verwalten, ermöglichen ein bisher unvorstellbares Ausmaß an Einflussnahme und erschweren die Bemühungen um faire und transparente Wahlen.
In diesem Blogbeitrag hat Check Point Research (CPR) wurden 36 Parlaments-, Regional- und Präsidentschaftswahlen untersucht, die in den sechs Monaten zwischen September 2023 und Februar 2024 stattfanden. In mindestens 10 Fällen wurden umfangreiche Berichte über KI-generiertes Material gefunden, das für Desinformationskampagnen eingesetzt wurde.
