NEWS

Deepfakes im Netz:
KIT entwickelt Hilfsangebote für potenziell Betroffene

Online verbreiten sich zunehmend gefälschte, oft sexualisierte Medieninhalte –
Forschende entwickeln im Projekt DEEP-PRISMA Schutzstrategien für junge Menschen

KI-basierte Tools erzeugen heute aus realen Aufnahmen von Menschen täuschend echte Bilder, Videos und Audios – oft mit gravierenden Folgen, besonders für Schülerinnen und Schüler oder junge Erwachsene. Expertinnen für Technikfolgenabschätzung des Karlsruher Instituts für Technologie (KIT) erforschen im Projekt DEEP-PRISMA, wie Betroffene mit missbräuchlichen Fakes umgehen und entwickeln gemeinsam mit ihnen Strategien gegen Deepfake-Missbrauch. Das vom Bundesministerium für Forschung, Technologie und Raumfahrt geförderte Projekt stellt auch die geltende Rechtslage auf den Prüfstand.

Die Zahl online geteilter Deepfakes wächst rasant. KI-gestützte Tools erzeugen inzwischen Medieninhalte, die selbst Expertinnen und Experten kaum noch von echten Videos oder Audios unterscheiden können. Häufig dienen solche Fakes betrügerischen Zwecken – etwa, um an Passwörter, Kontodaten oder Firmengeheimnisse zu gelangen. „Der überwiegende Teil besteht jedoch aus sexualisierenden oder pornografischen Inhalten.

Studien gehen davon aus, dass rund 98 Prozent aller Deepfakes pornografisch sind – und 99 Prozent davon weibliche Personen zeigen“, sagt Dr. Jutta Jahnel vom Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) des KIT, die sich seit vielen Jahren mit den Folgen digitaler Bildmanipulation beschäftigt. Genaue Zahlen seien aber aufgrund der hohen Dunkelziffer und der rasanten technologischen Entwicklung schwierig zu ermitteln.

Soziale Medien als Multiplikator für Deepfakes

„Soziale Medien sind aufgrund ihrer großen Reichweite und der oft geringen Moderationshürden besonders anfällig für die Verbreitung solcher Inhalte – mit teils schwerwiegenden Konsequenzen für diejenigen, deren Bildmaterial zu Unrecht verwendet wird“, erklärt Jahnel. Sie leitet das im Februar 2026 gestartete Projekt „Privatheit und weitere Rechte der Bürgerinnen und Bürger schützen vor Missbrauch durch Deepfakes“, kurz DEEP-PRISMA.

Das Forschungsvorhaben stellt junge Menschen in den Mittelpunkt, die von solchen missbräuchlichen und Persönlichkeitsrechte verletzenden Fakes betroffen sind. „Bislang ist kaum bekannt, wie Betroffene konkret mit Deepfake-Missbrauch umgehen – ob sie rechtliche Schritte einleiten, psychologische Unterstützung suchen oder ihr Online-Verhalten verändern“, so Jahnel.

Belastbare Daten als Basis für konkrete Hilfestellungen

Ziel der Forschenden ist es, mithilfe breit angelegter Umfragen unter Schülerinnen und Schülern sowie jungen Erwachsenen eine belastbare Datenbasis zum Umgang Betroffener mit Deepfakes zu schaffen. Darauf aufbauend laden die Projektbeteiligten Vertreterinnen und Vertreter dieser besonders betroffenen Gruppen zu moderierten Diskussionen ein.

Gemeinsam entwickeln sie dann ein praxisnahes Maßnahmenpaket, das zielgruppengerechte Handlungsempfehlungen sowie Informationen zu Initiativen und Anlaufstellen bereitstellt – beispielsweise für den Einsatz an Schulen oder in der Jugendarbeit. „Ein solches ‚Action-Kit‘ könnte etwa einer Schülerin helfen, die mit einem sexualisierten Deepfake konfrontiert ist: Es zeigt erste Schritte zur Beweissicherung, verweist auf Beratungsstellen und erklärt die rechtlichen Möglichkeiten“, sagt ITAS-Wissenschaftlerin Dr. Dana Mahr aus dem Projektteam.

Juristische Regeln auf dem Prüfstand

Gemeinsam mit den Projektpartnern bewertet DEEP-PRISMA auch bestehende juristische Regelungen und deren Durchsetzung, wie beispielsweise den Digital Services Act oder die KI-Verordnung der Europäischen Union. „Es gibt zwar eine ganze Reihe verschiedener Regularien zur Erstellung und Verbreitung von Deepfakes. Für eine strafrechtliche Ahndung von Missbrauch sind diese in der Praxis jedoch oft zu allgemein formuliert und nicht ausreichend”, erklärt Jahnel.

Erschwerend komme hinzu, dass Täterinnen und Täter im digitalen Raum häufig anonym bleiben und viele missbräuchliche Nutzungen gar nicht erst gemeldet werden. Ziel von DEEP-PRISMA ist es daher, Empfehlungen zu erarbeiten, um bestehende Regelungen weiterzuentwickeln.

Das Bundesministerium für Forschung, Technologie und Raumfahrt fördert das Projekt für drei Jahre. Projektpartner sind das Fraunhofer-Institut für System- und Innovationsforschung (ISI), das Internationale Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen und das Fachgebiet Öffentliches Recht, IT-Recht und Umweltrecht der Universität Kassel.

Deepfake-Studie für den Deutschen Bundestag

Einen kompakten Überblick über Deepfake-Technologien, ihre gesellschaftlichen Auswirkungen und rechtliche Herausforderungen bietet das vom ITAS betriebene Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB). Der im Dezember 2025 im Bundestag vorgestellte und jetzt erschienene Bericht beschreibt Handlungsansätze für Politik, Wirtschaft und Zivilgesellschaft.

https://www.kit.edu/kit/pi_2026_015_deepfakes-im-netz-
kit-entwickelt-hilfsangebote-fuer-potenziell-betroffene.php

https://www.itas.kit.edu/projekte_jahn26_deepprisma.php