Entschlossen gegen digitale Gewalt: Deepfakes und Pornfakes stoppen!

I. Ausgangslage

Digitalisierung und zunehmend Anwendungen sog. Künstlicher Intelligenz (KI) unterstützen Menschen in allen gesellschaftlichen Bereichen. Es ist zu beobachten, dass ebenfalls zunehmend Deepfakes, also künstlich erstellte audio-visuelle Medien verbreitet werden. Deepfake ist ein Kompositum aus „deep learning“ und „fake“ (Fälschung) und wird heute insbesondere in Massenmedien als Oberbegriff für all jene Videos und Bilder verwendet, die mit Hilfe von KI erstellt oder verändert wurden. Der überwiegende Teil solcher Deepfakes ist pornografischer Natur und verfolgt missbräuchliche Zwecke.

KI wird in diesem Fall verwendet, um realistisch aussehende Videos und Bilder zu erzeugen, die oft ohne die Zustimmung der abgebildeten Personen erstellt werden. Die oft täuschend echten Ergebnisse sind geeignet, Meinungen und Einschätzungen zu prägen mit Auswirkungen auf unsere Gesellschaft. Ihre Verbreitung hat in den letzten Jahren erheblich zugenommen; es ist beispielsweise von einer „Demokratisierung der Desinformationserstellung“ die Rede. Durch den zunehmend einfacher werdenden Zugang zu einer wachsenden Zahl von KI-Software und Anwendungen ist die Erstellung von Deepfakes inzwischen ohne IT-Kenntnisse quasi für „jedermann“ möglich.

Ein Teilphänomen von Deepfakes sind sogenannte Pornfakes, also mit Hilfe von KI erstellte oder manipulierte Medien, in denen Gesichter und Körper nicht einvernehmlich in pornografische Bilder oder Videos eingefügt werden. Laut einer aktuellen Studie der Sicherheitsagentur „Security Hero“ sind 98 Prozent der Deepfake-Videos im Internet Pornfakes und in 99 Prozent dieser Fälle Frauen die Ziele dieser Fälschungen. Prominente Opfer sind insbesondere Künstlerinnen wie zum Beispiel Taylor Swift oder Scarlett Johansson. Es sind aber nicht allein Prominente betroffen: Motive für die Erstellung von Pornfakes können beispielsweise die Rache
an Ex-Partnerinnen oder, wie in einem Fall von spanischen Schülerinnen, Cybermobbing sein.

Laut der Studie von „Security Hero“ dauere es weniger als 25 Minuten, um kostenfrei ein einminütiges Pornfake-Video zu erstellen. Für die Erstellung werde lediglich ein Foto des Gesichts in guter Auflösung benötigt. Wird diese Manipulationen dann verbreitet, z.B. in sozialen Medien und auf pornografischen Websites, werden die Opfer dadurch massiv geschädigt.

Die Folgen solcher Pornfakes können erheblich sein. Studien zeigen, dass diese Form der digitalen Gewalt zu Angstzuständen, Depressionen und einem Gefühl des Kontrollverlustes führen kann. Zudem erleben viele Betroffene soziale Stigmatisierung und Schwierigkeiten im beruflichen Umfeld. Das Phänomen ist insbesondere in den USA bereits weit verbreitet: 48 Prozent der in der Studie befragten US-Männer gaben an, dass sie mindestens einmal Deepfake-Pornografie angesehen haben; 74 Prozent der Pornfake-Konsumenten empfänden dabei keine Schuldgefühle.

Die Verbreitung von Deepfakes und insbesondere Pornfakes ist geeignet, das Vertrauen in digitale Medien zu untergraben und Persönlichkeitsrechte massiv zu verletzen.

In Deutschland gibt es bisher keine spezifischen Gesetze, die die Erstellung und Verbreitung von Deepfakes und Pornfakes verbieten. Aktuell werden sie als „Verletzung des höchstpersönlichen Lebensbereichs und von Persönlichkeitsrechten durch Bildaufnahmen“ geahndet. Die Verbreitung von Pornfakes kann zudem als Verbreitung pornografischer Inhalte gemäß
Paragraf 184 Strafgesetzbuch strafbar sein. Die aktuellen rechtlichen Rahmenbedingungen sind oft unzureichend, um diesen Formen digitaler Gewalt effektiv zu begegnen. Die Behandlung als Bagatelldelikte führt zu einer Grauzone, in der Täter häufig straflos ausgehen. Andere Länder, wie die USA und Großbritannien, haben bereits spezifische Gesetze eingeführt oder beraten diese aktuell, um die Verbreitung von Deepfakes zu bekämpfen. Die Einführung solcher Gesetze in Deutschland könnte helfen, klare rechtliche Grundlagen zu schaffen und den Opfern von Deepfakes und Pornfakes mehr Schutz zu bieten.

II. Beschlussfassung

Der Landtag stellt fest:

• Nicht einvernehmliche Deepfakes und Pornfakes sind Formen digitaler Gewalt, die schwerwiegende Auswirkungen auf die betroffenen Persönlichkeiten – besonders betroffen Frauen – haben.
• Es ist notwendig, die rechtlichen Rahmenbedingungen zu überprüfen und anzupassen, um diese manipulativen Technologien wirksam zu bekämpfen.
• Öffentliche Sensibilisierung und Bildung sind entscheidend, um das Bewusstsein für die Risiken und Folgen von Deepfakes und Pornfakes zu schärfen.

Der Landtag beauftragt die Landesregierung,

• die Bundesratsinitiative, Drs. 222/24, konstruktiv zu begleiten. Dabei soll diese Initiative um detaillierte Vorschriften zur Kennzeichnung und Regulierung von Deepfakes erweitert werden, einschließlich spezifischer Anforderungen an die Sicherheit und den Schutz von Betroffenenrechten. Aufgrund der Häufigkeit sollte dabei ein Fokus auf Recht und Würde von Frauen und Mädchen gelegt werden.
• Deepfakes und Pornfakes als Straftaten systematisch für Nordrhein-Westfalen zu erfassen, damit ein umfassendes Bild über Häufigkeit und Verbreitung entstehen kann.
• Fortbildungsmaßnahmen für die Polizei und Justiz im Bereich der KI-Straftaten zu etablieren, die auch Deepfakes und Pornfakes einbeziehen.
• eine Kampagne zur Aufklärung der Öffentlichkeit über die Gefahren von Deepfakes und Pornfakes zu starten, mit besonderem Fokus auf den Schutz der Rechte und Würde von Frauen.
• an den Schulen in Nordrhein-Westfalen über Deepfakes und Pornfakes als Instrumente des Mobbings, der Manipulation und der Desinformation aufzuklären. Dazu sollen Konzepte der Landesanstalt für Medien NRW aufgegriffen und ggfs. entsprechend erweitert
• werden.
• psychologische und rechtliche Unterstützungsangebote für Betroffene von Deepfakes und Pornfakes auszubauen.
• in Zusammenarbeit mit Technologieunternehmen und Plattformbetreibern die Forschung zur Erkennung und Bekämpfung von Deepfakes und Pornfakes zu stärken und den Wissenstransfer zu fördern.
• bei der Opferschutzbeauftragten des Landes besondere Expertise zu Deepfakes und Pornfakes zu bündeln und dort entsprechende Beratungsangebote für Betroffene digitaler Gewalt anzubieten.
• die Staatsanwaltschaft in Nordrhein-Westfalen zu stärken, um zeitnahe strafrechtliche Verfolgung zu gewährleisten, und zum Beispiel Täter-Opfer-Ausgleichverfahren einzuleiten.