Auch pädophile Inhalte: Falsche Nacktbilder von mehr als 100'000 Frauen veröffentlicht
Publiziert

Auch pädophile InhalteFalsche Nacktbilder von mehr als 100'000 Frauen veröffentlicht

Telegram ist ein Hotspot für Nacktbilder: Mit dem russischen Messenger wurden Tausende Social-Media-Profilbilder von Frauen in Fake-Nacktbilder verwandelt. Nun warnt eine niederländische IT-Sicherheitsfirma vor den Gefahren.

von
Tobias Bolzern
1 / 9
Nutzer von Telegram haben mit einem Bot im Messenger gefälschte Nacktbilder fabriziert. Das zeigt eine Analyse einer Sicherheitsfirma.

Nutzer von Telegram haben mit einem Bot im Messenger gefälschte Nacktbilder fabriziert. Das zeigt eine Analyse einer Sicherheitsfirma.

Sensity.ai
Die Telegram-Gruppe hat mehr als 40’000 Mitglieder. 

Die Telegram-Gruppe hat mehr als 40’000 Mitglieder.

Sensity.ai
In den letzten Monaten wurden über 100’000 Fake-Nacktbilder erzeugt. Es ist nicht das erst Mal, dass solche Technologie im Umlauf ist. 

In den letzten Monaten wurden über 100’000 Fake-Nacktbilder erzeugt. Es ist nicht das erst Mal, dass solche Technologie im Umlauf ist.

Sensity.ai

Darum gehts

  • Ein Telegram-Bot macht aus Profilbildern Fake-Nacktfotos.

  • Die Kleider der Person werden dabei digital wegretuschiert.

  • Mehr als 100’000 Fotos wurden mit dem Bot verarbeitet.

  • Nun warnt eine IT-Sicherheitsfirma von den Gefahren.

Kleider verschwinden per Knopfdruck: Via Telegram haben Nutzer in den letzten Monaten mehr als 100’000 gefälschte Nacktbilder erstellt. Das zeigt eine Analyse der IT-Sicherheitsfirma Sensity.ai. Als Grundlage diente in 70 Prozent der Fälle Bilder, die von Social-Media-Sites geklaut wurden.

Die Technologie dahinter nennt sich Deepfake. Das sind computergenerierte Bilder oder Videos, die auf einer realen Vorlage basieren. In der Vergangenheit sorgten Deepfakes schon mehrfach für Aufsehen, da sie genutzt wurden, um pornografische Inhalte von prominenten Personen zu erstellen. Dass nun Fotos von Privatpersonen in Fake-Nacktbilder umgewandelte werden, sei relativ neu, sagt Giorgio Patrini, CEO von Sensity, zur BBC. «Ein Social-Media-Profil mit Fotos, die öffentlich sind, reicht aus, um zur Zielscheibe zu werden», warnt er.

Pädophile Inhalte

Laut Sensity.ai wurden im Zeitraum von Juli 2019 bis Juli 2020 total 104’852 Bilder verarbeitet. Die Analyse zeigte, dass einige Fotos Minderjährige zeigten. «Das deutet darauf hin, dass Nutzer den Bot verwenden, um pädophile Inhalte zu erstellen», heisst es im Bericht. Sensity hat die Ergebnisse der Studie an Telegram und an die entsprechenden Polizeibehörden weitergeleitet.

Die BBC konnten den Telegram-Bot mit eigenen Bildern testen. Alle Personen, die zu sehen waren, hatten der Datenverarbeitung zuvor zugestimmt. «Keines der Fake-Nacktbilder war überzeugend realistisch. So war auf einem Bilder etwa ein Bauchnabel auf der Höhe des Brustkorbs zu sehen», heisst es im Artikel.

«Gesetz zu langsam»

Das könnte sich in Zukunft ändern: «Es ist nur eine Frage der Zeit, bis diese Art von Inhalt ausgereifter wird. Die Zahl der Deepfake-Porno-Videos verdoppelt sich etwa alle sechs Monate», erklärt Nina Schick, Autorin des Buches «Deepfakes and the Infocalypse» gegenüber der BBC.

Das Problem sei, dass das Justizsystem zu langsam sei. «Die Gesellschaft verändert sich aufgrund des schnellen technologischen Fortschritts schneller, als wir uns vorstellen können», so Schick. Sie warnt ausserdem von den weitreichenden Folgen für die Opfer. «Es kann ihr Leben völlig durcheinanderbringen, weil sie sich verletzt und gedemütigt fühlen», sagt Schick.

Digital-Push

Wenn du den Digital-Push abonnierst, bist du über News und Gerüchte aus der Welt von Whatsapp, Snapchat, Instagram, Samsung, Apple und Co. informiert. Auch erhältst du Warnungen vor Viren, Trojanern, Phishing-Attacken und Ransomware als Erster. Weiter gibt es Tricks, um mehr aus deinen digitalen Geräten herauszuholen.

So gehts: Installiere die neuste Version der 20-Minuten-App. Tippe unten rechts auf «Cockpit», dann «Einstellungen» und schliesslich auf «Push-Mitteilungen». Beim Punkt «Themen» tippst du «Digital» an – et voilà!

Deine Meinung