Weil der Fall Collien Fernandes kein Einzelfall ist, demonstrierten Tausende in Deutschland gegen digitale Gewalt. Nun sollen Gesetzeslücken zu KI-Tools, mit denen sexualisierte Fotos und pornografische Videos samt Stimme generiert werden können, geschlossen werden.
Seit Jahren wurde digitale Gewalt gegen Frauen von Politik und Zivilgesellschaft immer wieder diskutiert, auch im Bundestag. Die Verabschiedung eines geplanten Gesetzentwurfes schaffte die Ampel nicht mehr. Nun plant die neue Koalition ein Gesetz gegen digitale Gewalt. Es soll Strafbarkeitslücken zu nicht einvernehmlichen pornografischen Deepfakes schließen, aber auch zu anderen Formen digitaler Gewalt, die nicht nur, aber vor allem Frauen betreffen, wie nicht einvernehmliche Aufnahmen in der Sauna oder die heimliche Installation von Überwachungs-Apps auf dem Smartphone.
Bundesjustizministerin Stefanie Hubig (SPD) und Bundesfrauenministerin Karin Prien (CDU) kooperierten dabei und würden zumindest nach dem bisher öffentlich gewordenen Entwurf erstmalig viele Forderungen der Zivilgesellschaft umsetzen.
Die Bundesregierung kündigte auch die Einführung einer neuen Version der umstrittenen Vorratsdatenspeicherung an, deren Vorgängervarianten in den letzten 20 Jahren mehrfach durch Gerichte kassiert wurden. Kritikerinnen und Kritiker lehnen sie mit Verweis auf ihre leichte Umgehung, den „Chilling- Effekt“ flächendeckender Überwachung aller Internetkommunikationen, aber vor allem mit der Existenz grundrechtsfreundlicherer Alternativen wie einer Login- Falle oder einem „Quickfreeze“ ab, während Ermittlungsbehörden sich von ihr einen Nutzen erwarten.
Frauen fünf Mal häufiger von digitaler Gewalt betroffen
Die Dunkelfeldstudie des BKA (LeSuBiA) von Februar 2026 zeigt das erschreckende Ausmaß digitaler Gewalt, die sowohl Männer als auch Frauen betrifft – Frauen aber fünf Mal häufiger als Männer, in anderer Form und mit gravierenderen Folgen. Vor allem junge Mädchen sind mehrheitlich mit digitaler Gewalt konfrontiert: 60 Prozent der 16- bis 17-Jährigen waren in den letzten fünf Jahren digitaler Gewalt ausgesetzt, bei Jungen waren es 33 Prozent. Die Studie The State of Deepfakes (2023) zeigte, dass mehr als 90 Prozent der Deepfake-Videos nicht vom Typus „Papst im weißen Wattemantel“ sind, sondern Pornos. Auf den größten Deepfake-Videoplattformen stellen 99 Prozent aller Porno- Deepfake-Videos Frauen dar. Als Elon Musk auf seiner Plattform X im Januar 2026 mit seiner KI Grok ermöglichte, beliebige Fotos von Menschen per Deepfake zu verändert, entstanden innerhalb von elf Tagen drei Millionen sexualisierte Bilder, in denen überwiegend Frauen nackt ausgezogen oder mit einem ‚Bikini aus Zahnseide‘ oder auch mit ‚Zuckerguss‘ im Gesicht bekleckert abgebildet wurden. Auch 23.000 Kinder waren betroffen. Nach Klageandrohungen und Ermittlungen stellte Musk diesen Dienst hinter eine Bezahlschranke, das Problem wurde damit für die Öffentlichkeit unsichtbar.
Handy-Apps machen Deepfakes kinderleicht
„Das erreicht inzwischen eine Dimension, die in monströser Form eine Erniedrigung von Frauen darstellt, dass wir nicht umhinkommen, für den bildbasierten Missbrauch im Netz bis hin zur Deepfake-Pornografie strafrechtliche Antworten zu finden“, begründet Karin Prien den Handlungsbedarf auf dem DBBBundesfrauenkongress im März. Ihre Kabinettskollegin Stefanie Hubig äußerte sich dort zu den Folgen digitaler Gewalt: „Es sind vor allem Frauen, die von Hass betroffen sind und das besonders oft im digitalen Raum. Hass, der unter die Gürtellinie geht, mit der Folge, dass Frauen sich aus dem demokratischen Geschäft zurückziehen.“
Das liegt auch daran, dass viele große digitale Plattformen die digitale Erniedrigung von Frauen tolerieren. So gibt es unzählige ‚Face Swapp‘-Apps in den gängigen App-Stores, mit denen man auf beliebigen Bildern oder in Videos das Gesicht austauschen kann. Andere Apps fallen in die Kategorie „Nudifier“.
Mit ihnen kann man auf Fotos abgebildete Menschen per KI nackt ausziehen. Mit solchen Apps ist das kinderleicht, was dazu führt, dass inzwischen selbst 13-Jährige von ihren Mitschülerinnen Nacktbilder mit KI generieren und online teilen.
An Deepfakes als Geschäftsmodell verdienen viele mit
An diesem perfiden System verdienen viele mit. Deepfake-Plattformen bezahlen Hosting-Unternehmen, App-Stores bekommen Prozente von App-Herstellern, die wiederum Kasse damit machen, dass sie Daten sammeln und weiterverkaufen – auch biometrische Daten, mit denen KI-Systeme trainiert werden, wozu Betroffene natürlich nie ihr Einverständnis erteilten.
Deshalb gab es viel Zustimmung für die öffentliche Forderung von Prien, dass es nicht reiche, strafrechtliche Lücken zu schließen, sondern dass man auch an die Plattformen ranmüsse. Tatsächlich nehmen deren Geschäftsmodelle wenig Rücksicht auf die Würde des Menschen.
Mit dem Digital Services Act (DSA) und der KI-Verordnung (KI-VO) gibt es zwar eine rechtliche Handhabe, aber Gesetze müssen angewendet werden, um Wirkung zu entfalten. Dafür braucht in Deutschland die für die nationale Aufsicht beider EU-Richtlinien zuständige Bundesnetzagentur (BNetzA) ausreichende Ressourcen, sonst kann sie diese Aufgabe nicht sinnvoll ausüben – das fordern unter anderem Mitglieder des Bundestags im Beirat der BNetzA seit Langem. Für Sanktionen gegen große Plattformen sind aber andere Stellen in der EU zuständig, die das EU-Recht auch gegen die Drohgebärden eines Donald Trump durchsetzen müssen. Frauenverbände fordern außerdem, dass Opfer besser geschützt, Beratungs- und Hilfesysteme ausgebaut werden und es mehr Prävention, Aus- und Weiterbildung, insbesondere bei Ermittlungsbehörden und in der Justiz braucht. Laut Dunkelfeldstudie erstatten nur 2,4 Prozent der von digitaler Gewalt betroffenen Frauen überhaupt eine Anzeige.
Nicht nur Frauenverbände verlangen darüber hinaus, dass Deutschland kein Paradies für digitale Gewalttäter mehr sein darf, egal ob es um heimliches Tracking per Handy- App oder per Mini-Tracker geht, um Vergewaltigungsdrohungen im Netz, Deepfake-Pornos, Manipulation von smarten Geräten, Überwachung mit versteckten Minikameras in Kleiderhaken (die man sogar auf Amazon kaufen kann) oder um andere Formen.
Dafür braucht es jedoch eine gesamtgesellschaftliche Anstrengung, es braucht Täterarbeit und Haushaltsmittel für ein ausreichend ausgestattetes Hilfesystem, das auch in der Fläche verfügbar ist, und eine effektive Aufsicht digitaler Plattformen durch die Bundesnetzagentur und die EU.
Es braucht einen Kulturwandel, der, wie nicht nur Prien forderte, insbesondere in den Köpfen von Männern stattfinden muss, aber auch gute Gesetze, die klar und wirksam sind und von gut ausgebildeten Fachkräften bei Polizei und Justiz konsequent angewendet werden.
Es geht schließlich um nicht mehr und nicht weniger als um den Schutz der Würde von Frauen in der digitalen Gesellschaft.
