Deepfake
Deepfakes im Netz: Wenn KI Realität manipuliert - warum neue Hilfsangebote dringend nötig sind
Neues Forschungsprojekt des Karlsruher Institut für Technologie (KIT) – DEEP-PRISMA
Künstliche Intelligenz kann heute Dinge, die noch vor wenigen Jahren wie Science-Fiction wirkten. Mit wenigen Klicks lassen sich aus echten Fotos, Videos oder Sprachaufnahmen täuschend echte Medien erzeugen. Diese sogenannten Deepfakes sind so überzeugend, dass selbst Fachleute manchmal Schwierigkeiten haben, sie von realen Aufnahmen zu unterscheiden. Was technisch faszinierend wirkt, hat jedoch eine dunkle Seite. Immer häufiger werden Deepfakes missbräuchlich eingesetzt – und besonders junge Menschen geraten dabei ins Visier. Genau hier setzt ein neues Forschungsprojekt des Karlsruher Institut für Technologie (KIT) an: Es untersucht, wie Betroffene mit Deepfake-Missbrauch umgehen und entwickelt konkrete Hilfsangebote .
Wenn Gesichter missbraucht werden
Deepfakes können für verschiedene Zwecke genutzt werden – etwa für Betrugsversuche, bei denen gefälschte Stimmen oder Videos eingesetzt werden, um Passwörter, Kontodaten oder Unternehmensinformationen zu erschleichen. Doch ein Großteil der Inhalte im Netz hat eine andere, besonders problematische Form. Studien gehen davon aus, dass rund 98 Prozent aller Deepfakes pornografischer Natur sind – und in 99 Prozent der Fälle Frauen darstellen. Dr. Jutta Jahnel vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) des KIT beschäftigt sich seit Jahren mit digitaler Bildmanipulation und deren gesellschaftlichen Folgen. Sie weist darauf hin, dass die tatsächlichen Zahlen schwer zu ermitteln sind. Der Grund: Viele Fälle werden nie öffentlich bekannt, während sich die Technologie gleichzeitig rasant weiterentwickelt.
Warum soziale Medien Deepfakes beschleunigen
Ein entscheidender Faktor für die Verbreitung solcher Inhalte sind soziale Netzwerke. Plattformen bieten enorme Reichweiten – und oft auch relativ niedrige Hürden für das Hochladen und Teilen von Inhalten. Ein Deepfake kann deshalb innerhalb kürzester Zeit tausendfach verbreitet werden. Für Betroffene bedeutet das häufig massive Konsequenzen: Rufschädigung, Mobbing, psychische Belastungen oder sogar reale Nachteile im Alltag. Besonders Schülerinnen, Schüler und junge Erwachsene sind gefährdet, weil sie einen großen Teil ihres sozialen Lebens online verbringen.
Ein Forschungsprojekt mit Betroffenen im Mittelpunkt
Um diese Probleme besser zu verstehen, startete im Februar 2026 das Forschungsprojekt DEEP-PRISMA. Der Name steht für „Privatheit und weitere Rechte der Bürgerinnen und Bürger schützen vor Missbrauch durch Deepfakes“. Ziel ist es, herauszufinden, wie Menschen tatsächlich reagieren, wenn sie Opfer eines Deepfakes werden.
Bislang gibt es dazu kaum belastbare Daten. Forschende wissen nur wenig darüber,
- ob Betroffene rechtliche Schritte einleiten
- ob sie psychologische Hilfe suchen
- oder ob sie ihr Verhalten im Internet verändern.
Das Projekt will diese Wissenslücke schließen – unter anderem durch umfangreiche Umfragen unter Jugendlichen und jungen Erwachsenen.
Ein „Action-Kit“ gegen Deepfake-Missbrauch
Auf Basis dieser Erkenntnisse entwickelt das Forschungsteam konkrete Hilfsangebote. Gemeinsam mit jungen Menschen werden Handlungsempfehlungen erarbeitet, die später etwa in Schulen oder in der Jugendarbeit eingesetzt werden können. Eine zentrale Idee ist ein praktisches „Action-Kit“.
Dieses soll Betroffenen Schritt für Schritt zeigen:
- wie sie Beweise sichern können
- an welche Beratungsstellen sie sich wenden können
- welche rechtlichen Möglichkeiten es gibt.
Ein Beispiel: Wird eine Schülerin mit einem sexualisierten Deepfake konfrontiert, könnte das Action-Kit sofortige Orientierung bieten – und verhindern, dass Betroffene mit der Situation allein bleiben.
Auch die Rechtslage wird überprüft
Neben der sozialen Perspektive untersucht das Projekt auch die juristische Seite. Bestehende Regelwerke wie der Digital Services Act oder die EU-KI-Verordnung enthalten zwar Vorschriften zum Umgang mit digitalen Inhalten und KI-Systemen. In der Praxis seien diese jedoch häufig zu allgemein formuliert, um Deepfake-Missbrauch effektiv zu ahnden. Hinzu kommt ein weiteres Problem: Täter bleiben im Internet oft anonym, und viele Fälle werden gar nicht gemeldet. Die Forschenden wollen deshalb Empfehlungen entwickeln, wie bestehende Gesetze verbessert und besser umgesetzt werden können.
Ein gemeinsames Projekt mehrerer Forschungseinrichtungen
Das dreijährige Projekt wird vom Bundesministerium für Forschung, Technologie und Raumfahrt gefördert. Neben dem KIT sind mehrere Partner beteiligt:
- das Fraunhofer-Institut für System- und Innovationsforschung
- das Internationales Zentrum für Ethik in den Wissenschaften der Universität Tübingen
- sowie das Fachgebiet Öffentliches Recht, IT-Recht und Umweltrecht der Universität Kassel.
Parallel dazu liefert ein Bericht des Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag einen Überblick über Deepfake-Technologien und ihre gesellschaftlichen Auswirkungen. Der Bericht wurde Ende 2025 im Bundestag vorgestellt und analysiert mögliche Handlungsstrategien für Politik, Wirtschaft und Zivilgesellschaft.
Deepfakes zeigen exemplarisch, wie schnell sich digitale Technologien entwickeln – oft schneller als gesellschaftliche Regeln und Schutzmechanismen. Während KI enorme Chancen bietet, wächst gleichzeitig das Risiko für Missbrauch. Projekte wie DEEP-PRISMA versuchen daher, genau diese Lücke zu schließen: mit Forschung, mit konkreten Hilfsangeboten – und mit neuen Ideen für besseren Schutz im digitalen Raum. Denn eines wird immer klarer: Der Kampf gegen Deepfake-Missbrauch ist nicht nur eine technische Herausforderung, sondern vor allem eine gesellschaftliche.
