Tausende pornografische Deepfake-Videos von Prominenten aufgedeckt
Mehr als 4000 Deepfakes von Prominenten hat der britische Nachrichtensender Channel 4 im Netz gefunden. Die Gesamtzahl der Videos sei 2023 nahezu explodiert.
Die Zahl der pornografischen Deepfake-Videos hat massiv zugenommen. Nun wurden Videos von mehr als 4000 Promis entdeckt.
(Bild: Skorzewiak/shutterstock.com)
Rund 4000 Prominente sind Opfer von Deepfake-Pornografie geworden. Die Entwicklung habe allein im vergangenen Jahr massiv zugenommen, berichtet der britische Sender Channel 4. Ein Investigativ-Team des Nachrichtensenders hat die meistbesuchten Deepfake-Websites im Netz analysiert.
Allein die Vorstellung ist für viele ein Albtraum: das eigene Gesicht in einem Pornofilm zu sehen. Mit der Verbreitung Künstlicher Intelligenz ist die Zahl der ohne Konsens konstruierten Deepfakes massiv gestiegen, berichtet Channel 4. Das Investigativ-Rechercheteam hat die meistbesuchten Deepfake-Websites analysiert und rund 4000 prominente Opfer gefunden. Eines davon ist Cathy Newman, Moderatorin von Channel 4 News. "Es ist ziemlich unheimlich, dass irgendjemand da draußen ist, der das zusammengesetzt hat. Ich kann sie nicht sehen, aber sie sehen diese erfundene Version, diese falsche Version von mir."
Massiver Anstieg im vergangenen Jahr
2016 sei nur ein einziges Deepfake-Porno-Video aufzufinden gewesen, hat die Recherche ergeben. Doch allein in den ersten drei Quartalen von 2023 seien 143.733 neue manipulierte pornografische Filme ins Netz gelangt – mehr als in allen vorherigen Jahren zusammen. Die Verbreitung solcher Fälschungen wirkt sich massiv auf die psychische Gesundheit der Betroffenen aus und kann diese ein Leben lang verfolgen, warnen Experten.
Die Videos der 40 meistbesuchten Deepfake-Pornografie-Seiten hätten laut einer unabhängigen Analyse 4,2 Milliarden Klicks gesammelt. Mehr als 70 Prozent des Traffics der fünf meistbesuchten Seiten kämen über Suchmaschinen wie Google.
Gesetzliche Regelungen finden nur langsam ihren Weg
Zuletzt hatten Deepfakes der Sängerin Taylor Swift für Aufsehen gesorgt. Auch politisch ist das Thema Umgang mit Künstlicher Intelligenz ein Thema. Erst vor wenigen Tagen hat das EU-Parlament die Verordnung für Künstliche Intelligenz, besser bekannt als AI Act, beschlossen. Damit soll es künftig zumindest eine Kennzeichnungspflicht von KI-generierten Darstellungen geben.
In Bezug auf Deepfakes und die ungewollte Weitergabe von intimen Bildern hat das Europäische Parlament Anfang Februar einen weiteren Schritt im Kampf gegen Gewalt gegen Frauen angestoßen: Die Einigung über den ersten EU-Rechtsakt zu Gewalt gegen Frauen und häuslicher Gewalt beinhaltet unter anderem, die nicht einvernehmliche Weitergabe von intimen Bildern, Cyberstalking, Cybermobbing und die Aufstachelung zu Gewalt oder Hass im Internet in der EU unter Strafe zu stellen. Die Vertreter der Mitgliedstaaten im Rat müssen die Einigung noch billigen und der endgültige Rechtsakt muss durch Rat und Parlament angenommen werden.
Lesen Sie auch
KI-Update Deep-Dive: Gewalt durch Deepfakes
Das Ende der Dickpics: EU-Richtlinie soll Frauen vor digitaler Gewalt schützen
KI-Update kompakt: Deepfakes, Reka Core, Wissenskollaps, Atlas
Mittwoch: US-Spionage nach Stasi-Methoden, Meta-Untersuchung wegen KI-Deepfakes
KI-Nacktbilder: Großbritannien will Erschaffung von Deepfakes separat verbieten
Die gemeinnützige Organisation HateAid, die sich unter anderem für Menschenrechte im digitalen Raum einsetzt, hat mit weiteren Akteuren und Akteurinnen Ende 2023 eine Petition im Kampf gegen Deepfake-Pornos beim Digitalministerium gestartet und begrüßt die Einigung. "Durch frauenfeindliche digitale Gewalt sollen Frauen erniedrigt, eingeschüchtert und aus dem öffentlichen Diskurs verdrängt werden. Mit der neuen Richtlinie als Mindeststandard für künftige Gesetzgebung in Europa erkennt die EU an, dass Angriffe gegen Frauen unsere Gesellschaft als Ganzes bedrohen", sagt Josephine Ballon, Geschäftsführerin von HateAid in einer Pressemitteilung.
(are)