Petition beim Digitalministerium: Kampf gegen Deepfake Pornos
Hate Aid und weitere Organisationen fordern einen wirksamen Schutz vor Deepfake-Pornos: Apps stoppen, Gesetze schärfen.
(Bild: M-Production/Shutterstock.com)
Gibt man Deepfake-Porn in die Google-Suche ein, erscheinen Dutzende Treffer. Es sind vor allem Seiten, die mit gefälschten Videos werben, vornehmlich von Prominenten. Und auch Privatpersonen geraten immer häufiger mit ihren Gesichtern in derartige Videos. Dank KI und einiger Apps ist es inzwischen ein Leichtes, Deepfakes herzustellen. Als Betroffener ist es hingegen gar nicht so einfach, dagegen vorzugehen. Einige Organisationen haben sich deshalb zusammengetan, und dem Digitalministerium und damit Volker Wissing eine Petition überreicht.
Gefordert wird, dass Anbieter von Apps, mit denen Deepfakes erstellt werden können, eine Art Nacktfilter integrieren müssen. Sie sollen die Erstellung von pornografischem Material und Nacktbildern blockieren. Die gängigen Bildgeneratoren wie Midjourney und Dall-E machen genau das, sie geben keine Bilder aus, die zu viel nackte Haut zeigen. Zudem fordern die Unterschreiber, dass die App-Stores in die Pflicht genommen werden und Anbieter sperren, die Apps für Deepfake-Porn im Programm haben.
Die Politik soll zudem Gesetze verschärfen, verlangen die etwa 76.000 Unterzeichner. Denn in der Regel handelt es sich rechtlich bei den Deepfakes um Beleidigungen, Verleumdungen oder Verletzungen des Rechts am eigenen Bild. "Diese Delikte werden als minder schwere Straftaten nur unzureichend verfolgt und zu oft auf den Privatklageweg verwiesen", heißt es in der Petition. Wenn die Bilder jedoch öffentlich im Netz auftauchen, seien sie keine Privatsache mehr. Deshalb wird gefordert, sie als relative Antragsdelikte zu sehen, die allein aufgrund des öffentlichen Interesses verfolgt werden können. Die Bundesregierung arbeitet derzeit an einem Digitalen Gewaltschutzgesetz.
Verbreitung von Nacktbildern unter Strafe
Die Geschäftsführerin von HateAid, Anna-Lena von Hodenberg, sagt: "Deepfake-Pornos sind eines der perfidesten Instrumente, um Frauen und Mädchen im Netz zu erniedrigen." Besonders junge Mädchen seien gefährdet. Sind gefälschte Videos einmal verbreitet, sind sie kaum wieder zu löschen. "Digitalminister Wissing könnte jetzt Millionen von ihnen vor sexualisierter Gewalt schützen."
Zu den Unterstützern der Petition gehört auch Collien Ulmen-Fernandes, die selbst Opfer geworden ist. Von ihr kursieren, wie von zig anderen bekannten Frauen, pornografische Bilder und Videos im Internet. Sie sagt, dass zahlreiche Frauen dadurch bereits in Misskredit gebracht worden seien.
Lesen Sie auch
KI-Update kompakt: NXAI, Zeitzeugen, OpenAIs Suchmaschine, KI im Wahlkampf
Dank KI: Wenn der bekannte, aber tote Vater Wahlwerbung für den Sohn macht
KI-Update kompakt: Multi-Token-Prediction , OpenAI, Air Head, Asteroiden
KI-Update kompakt: ChatGPT, BSI-Warnung, Nudify-Apps, Bären-Erkennung
KI-Update kompakt: Deepfakes, Reka Core, Wissenskollaps, Atlas
In Spanien hat es einen regelrechten Skandal gegeben, als Deepfake-Bilder von Schülerinnen eines Ortes kursierten. Seither wird auch dort über neue Gesetze diskutiert. In Mexiko-Stadt soll ein Student tausende Nacktbilder von Frauen mittels Künstlicher Intelligenz erstellt haben. Besonders perfide: Er hat sie in privaten Gruppen und über Telegram verkauft. Auf dem Tablet des Mannes sollen mehr als 20.000 manipulierte Fotos gefunden worden sein. Tatsächlich steht das Verbreiten von Bildern mit sexuellen Inhalten ohne die Zustimmung der abgebildeten Person in Mexiko bereits unter Strafe.
Das EU-Parlament betrachtet bereits die Risiken, die durch Deepfakes entstehen können. Das bezieht sich allerdings nicht nur auf pornografisches Material, sondern auch auf Videos, bei denen beispielsweise Menschen Worte in den Mund gelegt werden würden. Eine Studie geht davon aus, dass es zu einem enormen gesellschaftlichen und finanziellen Schäden durch Deepfakes kommen kann. Schon seit Jahren verbieten soziale Netzwerke Deepfakes auf ihren Plattformen – die Umsetzung ist freilich schwierig, gerade da dank der neuesten Entwicklungen im Bereich KI Bildmanipulationen kaum zu erkennen sind.
(emw)