Die mittels künstlicher Intelligenz gefälschten Promi-Pornos werden von ersten Plattformbetreibern gezielt gelöscht. Auch die bekannte Pornoplattform Pornhub will die Videos nicht auf den eigenen Servern sehen.

Zehntausende Nutzer generieren und schauen bei Reddit gefälschte Pornos, in denen die Gesichter prominenter Frauen sehr glaubhaft jene der Pornodarstellerinnen ersetzen. Medienberichte im Dezember brachten der sogenannten Deepfake-Gruppe reichlich Öffentlichkeit.

Seitdem wächst die Sexfälscher-Gemeinschaft flott: Rund 90.000 Mitglieder umfasst sie schon, zum Teil sind 10.000 Nutzer gleichzeitig online. Stündlich werden neue Fake-Pornos veröffentlicht, die die Nutzer in Eigeninitiative generieren.

Umfassende Programmierkenntnisse brauchen sie dafür nicht: Die Entwickler hinter den Porno-Fakes bemühen sich, die Bedienung der Software einfach zu halten. Entsprechend verteilen sich die Fake-Pornos auf immer mehr Internetplattformen.

Fake-Pornos als digitaler Missbrauch

Die bekannte Pornoseite Pornhub positioniert sich gegen diese Fake-Pornos und löscht sie von den eigenen Servern – obwohl die Sex-Szenen dem Durchschnitt der Pornobranche entsprechen, also nicht unbedingt außergewöhnlichen Praktiken zeigen, die gegen die Nutzungsbedingungen der Plattform verstoßen würden.

Pornhub begründet die Löschaktion damit, dass die KI-Fakes nicht einvernehmlich seien. Anders ausgedrückt: Die Plattform bewertet die gefälschten Videos als digitale Vergewaltigung. Mit der gleichen Begründung löschte die Chat-Plattform Discord eine Deepfake-Gruppe von den eigenen Servern und verbannte die Nutzer, die sich in ihr aufhielten, dauerhaft vom eigenen Service.

Auch Twitter geht gegen die Fake-Pornos vor, ebenso wie der GIF-Service Gfycat, mit dem viele Reddit-Fälscher kurze Ausschnitte ihrer Videos online präsentieren. Reddit selbst löscht offenbar selektiv, zumindest berichten Nutzer der Deepfake-Untergruppe über verschwundene Beiträge. Die Gruppe an sich gedeiht allerdings prächtig.

Kriegt das Internet KI-Fakes in den Griff?

Besonders effizient ist Pornhub beim Löschen der Videos nicht: Auf der Plattform finden sich unter dem Suchwort “Deepfake” noch immer zahlreiche der gefälschten Promi-Pornos. Einige der Videos haben hunderttausende Aufrufe.

Das wiederum wirft eine wichtige Frage auf: Sind Online-Plattformen dafür gerüstet, einer neuen Generation Multimedia-Fakes entgegenzutreten – nicht nur bei Pornos? Die Diskussionen rund um Fake-News und dass große soziale Netzwerke wie Facebook und Twitter bis heute nicht in der Lage sind, einfache Chat-Bots in den Griff zu kriegen, die zum Beispiel als Personen-Fakes politische Stimmung machen, sorgt nicht für große Zuversicht.


Bitte unterstütze unsere Arbeit mit einem Steady-Abo ab nur 1,50 Euro pro Monat. Danke!
VRODO-Podcast: Rückblick Google I/O, Facebook Reality Labs | Alle Folgen


Unsere Artikel enthalten vereinzelt sogenannte Affiliate-Links. Bei einem Kauf über einen dieser Links erhalten wir eine kleine Provision. Der Kaufpreis bleibt gleich.