Manipulierte KI-Bilder: Pornografische Deepfakes bald strafbar?

Jetzt hat es auch Italiens Ministerpräsidentin Giorgia Meloni getroffen: Eine Porno-Plattform teilte manipulierte Aufnahmen von ihr, die mithilfe von Künstlicher Intelligenz (KI) erstellt wurden. Auch andere Spitzenpolitikerinnen sollen betroffen sein.

Das Problem sogenannter Deepfakes - täuschend echt wirkender Bilder oder Videos - ist seit Jahren bekannt. Insbesondere Frauen sind von den Manipulationen betroffen. Sie werden häufig mithilfe von KI sexualisiert dargestellt.

• Foto-Skandal in Italien - Opfer wehren sich
• Deepfake-Pornos: Prominente wehren sich

Mit fortschreitenden technischen Möglichkeiten bekommt das Problem ein ganz neues Ausmaß, denn KI kann Deepfakes wesentlich schneller generieren. Außerdem ist die Technologie heutzutage niedrigschwellig verfügbar. So können Nutzer:innen per App verfälschte Aufnahmen erzeugen.

Die weit überwiegende Anzahl dieser Deepfakes zeigt sexualisierte Inhalte. Dabei werden die Aufnahmen so manipuliert, dass es wirkt, als sei die Person nackt oder nehme sexuelle Handlungen vor.

Von sexualisierten Deepfakes sind insbesondere Frauen betroffen. Laut Josephine Ballon, Geschäftsführerin von HateAid, sind einige Apps, mit denen sexualisierte Deepfakes erstellt werden können, sogar so programmiert, dass sie nur Frauen erkennen. Die NGO HateAid hilft Betroffenen digitaler Gewalt.

Für Frauen sind Deepfake-Pornos besonders schambehaftet. Ballon zufolge wird die Nacktheit von Frauen bewusst genutzt, um sie in der Öffentlichkeit bloßzustellen:

Dadurch würden Frauen aus dem öffentlichen Raum gedrängt. "Um die Kompetenz eines Mannes in Frage zu stellen, muss man sich schon mehr überlegen", so Ballon. Betroffene können zudem Schlafstörungen und Angstzustände entwickeln.

Auch der Deutsche Juristinnenbund beschäftigt sich schon länger mit der Thematik. Dilken Çelebi, die Vorsitzende der Strafrechtskommission, weist auf "gesamtgesellschaftliche und individuelle Auswirkungen der massiven digitalen Gewalt" hin.

Strafbarkeit sexualisierter Deepfakes

Bislang gibt es keine Regelung, die explizit das Herstellen oder Verbreiten von Deepfakes bestraft. Auf Initiative von Bayern hin will der Bundesrat künftig das Teilen persönlichkeitsverletzender Deepfakes mit Geldstrafe oder bis zu fünf Jahren Haft bestrafen.

Am vergangenen Mittwoch übersandte Bundeskanzler Friedrich Merz (CDU) den Gesetzentwurf des Bundesrates an den Bundestag.

Doch zivilgesellschaftlichen Verbänden geht der Vorschlag nicht weit genug. HateAid fordert, bereits die Erstellung solcher Deepfakes, und nicht erst ihre Verbreitung unter Strafe zu stellen. Im digitalen Zeitalter seien gespeicherte Aufnahmen nur ein Datenleck davon entfernt, an die Öffentlichkeit zu gelangen, sagt Geschäftsführerin Josephine Ballon.

Dazu kommt: Auch die Strafverfolgung im Netz hat ihre Grenzen. Wenn die Täter anonym sind, können sie kaum strafrechtlich belangt werden. Entscheidend ist daher auch die Haftung von Internet-Plattformen, die in der Lage sind, die Inhalte wieder zu löschen.

Einen ganz anderen Weg schlägt der Schriftsteller Marc-Uwe Kling vor. In einer Petition fordert er, Deepfakes von Menschen, die ohne deren Einwilligung erstellt wurden, gänzlich zu verbieten. Dem Anliegen haben sich mittlerweile mehr als 350.000 Menschen angeschlossen.

Louisa Hadadi arbeitet in der Fachredaktion Recht und Justiz des ZDF.