Über den Messenger Telegram werden sogenannte „Deepnudes“ verbreitet.

Telegram-Bot erstellt gefälschte Nacktbilder von Tausenden Frauen

Die IT-Sicherheitsfirma Sensity ist innerhalb der Telegram-Umgebung auf ein Netzwerk gestoßen, das gefälschte Nacktbilder Tausender unwissender Frauen verbreitet hat. Insgesamt sollen bis Ende Juli mehr als 100.000 solcher Fotos über mehrere Telegram-Gruppen geteilt worden sein, heißt es in einem Bericht. „Die Zahl dieser Bilder ist in den letzten drei Monaten um 198 Prozent gestiegen“, schreiben die Sicherheitsforscher.

Um ein gefälschtes Nacktfoto zu erhalten, schicken Nutzer private Bilder an einen Telegram-Bot. Dieser manipuliert die Bilder mithilfe sogenannter Generative Adversial Netzworks (GANs), einem Machine-Learning-System, das selbstständig lernt, Fotos zu erstellen. Dabei ersetzt das Programm die Kleidung durch entsprechende nackte Körperteile, die Vorlage bieten dabei größtenteils pornografische Inhalte aus dem Netz. Nach kurzer Zeit wird das fertige Fake-Bild an den Nutzer zurückgeschickt. Der Dienst ist kostenlos. Nur wer ein Bild ohne Wasserzeichen erhalten möchte, muss zahlen. Laut den Sicherheitsforschern von Sensity funktioniert der Bot nur bei Fotos von Frauen. Diese stammen meist aus dem privaten Umfeld der Einsender.

Gefälschte Nacktfotos zeigen auch Minderjährige

Die gefälschten Bilder, die mitunter auch Minderjährige zeigen, werden anschließend in mehreren einschlägigen Telegram-Gruppen weit geteilt. Mehr als 100.000 Nutzer versammeln sich in den Kanälen, um die Fake-Nacktbilder zu teilen. Hier verbreiteten Nutzer zudem Ratschläge für bessere Ergebnisse. Laut Sensity stammen 70 Prozent der Nutzer aus Russland und osteuropäischen Ländern. Der Bot wurde über das russische Social-Media-Netzwerk VK zudem mehrfach beworben.

Für Frauen, die der Maschinerie zum Opfer fallen, können die entblößenden Deepfakes existenzbedrohend sein. Die Sensity-Forscher befürchten etwa, dass die Bilder genutzt werden, um Betroffene zu erpressen, zu demütigen und bloßzustellen. „Basierend auf der Analyse der mit dem Bot verbundenen Kanäle ist unklar, inwieweit die Bilder in dieser Weise auch außerhalb von Telegram verwendet werden“, heißt es in dem Bericht.

Bei der verwendeten Software handelt es sich offenbar um das Programm Deepnudes. Die App, mit der sich die Kleidung von Frauen digital entfernen lässt, wurde im Sommer dieses Jahres veröffentlicht. Nach kurzer Zeit nahmen die Entwickler ihr Programm wegen heftiger Kritik wieder vom Markt. Unbekannten ist es jedoch gelungen, den Quellcode offenzulegen und ihn in Form eines Telegram-Bots zu bringen. Der Messenger selbst hat sich bisher nicht zu den Erkenntnissen geäußert.

RND/mkr