Herausforderungen durch KI-gestützte Erstellung nicht-konsensualer intimer Bilder

Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat nicht nur transformative Potenziale in Wirtschaft und Wissenschaft offengelegt, sondern auch neue und besorgniserregende Formen des Missbrauchs ermöglicht. Eine dieser Entwicklungen ist der Einsatz von KI zur Erstellung und Verbreitung nicht-konsensualer intimer Bilder, insbesondere über Messaging-Dienste wie Telegram. Dieses Phänomen hat sich zu einem komplexen, monetarisierten Ökosystem entwickelt, das weitreichende ethische, rechtliche und soziale Implikationen hat.

KI-gestützte Erstellung und Verbreitung von Missbrauchsinhalten

Im Zentrum dieses Ökosystems stehen sogenannte "Nudify-Bots" und Deepfake-Technologien. Diese KI-Anwendungen sind in der Lage, aus normalen Fotos synthetische Nacktbilder zu generieren. Die technische Barriere für die Erstellung solcher Inhalte wurde durch diese Tools erheblich gesenkt, was dazu führt, dass potenziell Millionen von Menschen zu Opfern werden können.

Eine Analyse von 2,8 Millionen Telegram-Nachrichten in italienischen und spanischen Gruppen durch AI Forensics dokumentierte, wie diese Bots massenhaft eingesetzt werden. Der Begriff "Bot" tauchte in diesen Nachrichten über 16.000 Mal auf. Fast die Hälfte der geteilten Links führte zu KI-Freundinnen-Generatoren, und ein erheblicher Anteil verwies auf Nudify-Bots. Darüber hinaus wurde beobachtet, wie Nutzer Anweisungen für kommerzielle Chatbots wie Grok oder Gemini teilen, um Bilder zu manipulieren. Unter Hashtags wie #PornoTok werden gezielt synthetische Inhalte von Influencerinnen erstellt, teilweise sogar mit gefälschten Audio-Clips ihrer Stimmen.

Das Geschäftsmodell hinter dem Missbrauch

Dieser Missbrauch ist eng mit monetären Anreizen verknüpft. Archive mit nicht-konsensualen intimen Bildern werden für Einmalzahlungen von 20 bis 50 Euro oder über monatliche Abonnements ab fünf Euro verkauft. Die Zahlungen erfolgen über verschiedene Kanäle, darunter PayPal, Kryptowährungen und lokale Dienste wie Bizum in Spanien. Einige Nutzer agieren als Affiliates für Nudify-Bots und sollen bis zu 40 Prozent Provision verdienen. Die Forscher identifizierten über 24.000 aktive Nutzer in Gruppen mit bis zu 27.000 Mitgliedern, wobei ein Großteil der Inhalte sich über Sprachgrenzen hinweg verbreitete.

Telegram wird von Experten als eine Plattform angesehen, die durch ihre Architektur dieses Ökosystem begünstigt. Premium-Funktionen, die Organisation von Kanälen in Ordnern, automatisierte Zugangskontrollen durch Bots und die schnelle Wiedereröffnung geschlossener Gruppen unter ähnlichen Namen tragen dazu bei. Die Plattform generierte Berichten zufolge im Jahr 2024 Einnahmen von 292 Millionen US-Dollar aus Premium-Abonnements und ist seit dem Aufkommen dieser Technologien ein Zentrum für solche Bots.

Regulatorische Herausforderungen und Reaktionen

Die Reaktion der Regulierungsbehörden und Plattformbetreiber gestaltet sich komplex und oft verzögert. Obwohl Telegram Deepfake-Pornografie in seinen Nutzungsbedingungen untersagt, verlassen sich die Maßnahmen hauptsächlich auf reaktive Entfernung. Entdeckte Bots erscheinen oft unter leicht abgewandelten Namen wieder, was die Moderationsbemühungen erschwert.

Weltweit befassen sich Regulierungsbehörden mit diesem Problem. Südkorea hat Untersuchungen gegen Telegram wegen nicht-konsensualer Deepfakes eingeleitet, und das Vereinigte Königreich hat im Rahmen des Online Safety Act neue Straftaten gegen synthetische intime Bilder eingeführt. Auch in den USA werden Forderungen nach einheitlichen Bundesgesetzen laut, um Jurisdiktionslücken zu schließen. Der EU-Gesetzgeber diskutiert im Rahmen des AI Act verpflichtende Schutzmaßnahmen gegen synthetische, nicht-konsensuale intime Bilder, einschließlich Wasserzeichen, obwohl deren Wirksamkeit umstritten ist.

Technische und menschliche Gegenmaßnahmen

Experten schlagen eine Reihe von Maßnahmen vor, um den Missbrauch einzudämmen:

• Wasserzeichen und Provenance-Metadaten: Diese Technologien könnten die unbefugte Verbreitung von nicht-konsensualen Bildern erschweren.
• Koordinierte App-Store-Audits: Eine engere Zusammenarbeit zwischen App-Store-Betreibern und schnellen Reaktionsteams könnte die Verbreitung von Nudify-Apps eindämmen.
• Automatisierte Erkennung: Der Einsatz von KI zur Erkennung und Blockierung missbräuchlicher Inhalte, auch auf verschlüsselten Plattformen, ohne die Privatsphäre der Nutzer zu untergraben.
• Transparenzberichte: Plattformen sollen detaillierte Berichte über die Anzahl der entfernten Inhalte und die Reaktionszeiten veröffentlichen.
• Bildungsprogramme: Aufklärung über die Risiken synthetischer Bilder, insbesondere für junge Menschen.
• Grenzüberschreitende Ermittlungen: Eine verstärkte internationale Zusammenarbeit zur Bekämpfung monetarisierter Bot-Netzwerke.

Fazit und Ausblick

Das Phänomen der KI-gestützten Erstellung und Verbreitung nicht-konsensualer intimer Bilder stellt eine ernsthafte Bedrohung für die Privatsphäre und das Wohlergehen von Individuen dar. Die Kombination aus zugänglicher Technologie, einem monetarisierten Missbrauchsökosystem und den Herausforderungen der Moderation und Regulierung führt zu einer komplexen Situation. Eine koordinierte Anstrengung von Gesetzgebern, Plattformbetreibern, Technologieentwicklern und der Zivilgesellschaft ist erforderlich, um wirksame Strategien zur Eindämmung dieses Missbrauchs zu entwickeln und umzusetzen. Dies beinhaltet sowohl technische Lösungen als auch rechtliche Rahmenbedingungen und präventive Bildungsmaßnahmen.

Bibliographie

- AI Forensics. (2026). *Harassment As Infrastructure: An analysis of AI-powered deepfake abuse on Telegram*. - AI CERTs News. (2026, Februar 6). *Regulators grapple with Telegram Deepfake Surge*. - AI CERTs News. (2026, Januar 30). *Telegram Probe Reveals Global AI Deepfakes Distribution Network*. - Burgess, M. (2024, Oktober 15). *Millions of People Are Using Abusive AI ‘Nudify’ Bots on Telegram*. WIRED. - Patrini, G. (2020, Oktober 20). *Automating Image Abuse: Deepfake Bots on Telegram*. - The Gaming Boardroom. (2026, Januar 26). *Deepfake ‘Nudify’ Technology Is Getting Darker—and More Dangerous*. - The Verge. (2020, Oktober 20). *Deepfake bots on Telegram make the work of creating fake nudes dangerously easy*.