EU-Parlament plant Regulierung gegen KI-generierte sexualisierte Inhalte

EU-Parlament strebt Verbot von KI-generierten Nacktbildern an

Das Europäische Parlament hat einen bedeutenden Schritt im Kampf gegen digitale Gewalt und den Missbrauch künstlicher Intelligenz unternommen. Mit großer Mehrheit stimmten die Abgeordneten in Brüssel für ein Verbot von KI-Systemen, die in der Lage sind, ohne die Zustimmung der betroffenen Personen sexualisierte Bilder und Videos zu generieren. Diese Anwendungen, oft als "Nudifier-Apps" bezeichnet, sollen künftig innerhalb der EU untersagt werden.

Gründe für das Verbot und die rechtliche Einordnung

Die Notwendigkeit eines solchen Verbots wird im Gesetzentwurf klar begründet: Derartige Inhalte schädigen die Opfer erheblich und verletzen fundamentale Grundrechte auf Würde und Privatsphäre. Ein explizites Verbot wird daher als "dringend geboten" erachtet. Das Verbot zielt auf KI-Anwendungen ab, die Bilder und Videos so manipulieren oder erstellen können, dass sie "sexuell eindeutige Aktivitäten oder intime Körperbereiche einer bestimmbaren Person ohne deren Einwilligung" zeigen.

Diese Entscheidung des EU-Parlaments ist Teil einer umfassenderen Überarbeitung des 2024 verabschiedeten KI-Gesetzes. Während in anderen Bereichen der KI-Regulierung, etwa für Sicherheitsbehörden oder Gesundheitssysteme, Lockerungen oder zeitliche Verschiebungen vorgesehen sind, wird der Bereich der digitalen sexualisierten Gewalt nun nachgeschärft. Um wirksam zu werden, muss die endgültige Ausgestaltung des Verbots noch mit dem Rat der EU-Mitgliedstaaten abgestimmt werden, die sich bereits grundsätzlich für eine ähnliche Regelung ausgesprochen haben.

Hintergrund und konkrete Fälle digitaler Gewalt

Die Initiative des EU-Parlaments ist eine direkte Reaktion auf eine Zunahme von Vorfällen, bei denen KI-Technologien für die Erstellung und Verbreitung von Deepfakes missbraucht wurden. Ein prominenter Fall Anfang des Jahres betraf den Chatbot Grok, über den Nutzer massenhaft sexualisierte KI-Bilder von Frauen und Kindern generierten und online verbreiteten. Dies führte zu Ermittlungen der EU-Kommission und in einigen Ländern sogar zur Sperrung des Chatbots.

Neben solchen Vorfällen wird auch die öffentliche Debatte in Deutschland durch Fälle wie den der Schauspielerin Collien Fernandes beeinflusst, die mit Vorwürfen digitaler sexualisierter Gewalt an die Öffentlichkeit ging. Ihr Fall verdeutlicht die realen Auswirkungen und das Leid, das Deepfakes verursachen können. Expertinnen und Experten betonen, dass es Hunderte von Apps gibt, die sich ausschließlich auf die Erstellung sexualisierter Bilder spezialisiert haben. Die grüne Europaabgeordnete Alexandra Geese äußerte die Erwartung, dass der Markt durch das Verbot klar eingegrenzt wird und die Branche versteht, dass Investitionen in die Entwicklung solcher Systeme sich nicht lohnen.

Parallele Entwicklungen in Deutschland

Unabhängig von der EU-Gesetzgebung arbeitet die Bundesregierung in Deutschland an eigenen Maßnahmen zur Bekämpfung digitaler Gewalt. Bundesjustizministerin Stefanie Hubig hat einen Gesetzentwurf angekündigt, der darauf abzielt, die Herstellung und Verbreitung pornografischer Deepfakes unter Strafe zu stellen. Dies soll bestehende Gesetzeslücken schließen, da das bloße Erstellen solcher Aufnahmen hierzulande bisher nicht explizit strafbar war. Geplant sind Haftstrafen von bis zu zwei Jahren für die Erstellung und Verbreitung solcher Inhalte. Betroffene sollen zudem die Möglichkeit erhalten, Accounts sperren zu lassen, von denen derartige Inhalte ausgehen, wobei IP-Adressen hierfür bis zu drei Monate gespeichert werden könnten.

Das Vorgehen in Brüssel konzentriert sich auf die Regulierung der Technologie, während die deutschen Pläne die Strafbarkeit der Täter in den Vordergrund rücken. Beide Initiativen ergänzen sich im Ziel, den Schutz vor digitaler sexualisierter Gewalt zu verbessern.

Die psychologischen Auswirkungen auf Betroffene

Die psychischen Folgen von Deepfakes mit sexuell expliziten Darstellungen sind weitreichend und können gravierende Schäden verursachen. Elena Heber, Mitgründerin einer Online-Therapieplattform, bezeichnete diese Inhalte als eine Form sexueller Gewalt im digitalen Raum. Betroffene erleben oft einen erheblichen Kontrollverlust und ein starkes Schamgefühl, selbst wenn sie rational wissen, dass sie keine Schuld tragen. Der emotionale Schaden kann dem der unerlaubten Verbreitung realer Nacktbilder ähneln, wobei bei Deepfakes der Bezug zur Realität vollständig fehlt, was die Verarbeitung für die Opfer zusätzlich erschweren kann.

Ausblick

Die Abstimmung des EU-Parlaments markiert einen wichtigen Schritt in Richtung einer strengeren Regulierung von KI-Anwendungen, die für digitale Gewalt missbraucht werden können. Die weitere Entwicklung wird von den Verhandlungen zwischen Parlament und EU-Rat sowie der nationalen Umsetzung in den Mitgliedstaaten abhängen. Ziel ist es, einen umfassenden rechtlichen Rahmen zu schaffen, der die Grundrechte der Bürgerinnen und Bürger im digitalen Raum schützt und Täter zur Rechenschaft zieht.

Bibliography: - t3n. (2026, 27. März). Deepfakes und digitale Gewalt: Diese Software will die EU jetzt verbieten. - tagesschau.de. (2026, 27. März). EU-Parlament will KI für Nacktbilder verbieten. - ZDFheute. (2026, 27. März). Fake-Porno-Software: EU-Parlament beschließt Verbot. - heise online. (2026, 27. März). EU-Parlament will Nudifier-Apps verbieten. - DIE ZEIT. (2026, 26. März). EU will KI-Systeme für Porno-Deepfakes verbieten. - DER SPIEGEL. (2026, 26. März). Deepfakes: EU-Parlament stimmt für Verbot von bestimmter Software. - Handelsblatt. (2026, 27. März). Künstliche Intelligenz: EU-Parlament will KI für Nacktbilder verbieten. - CHIP. (2026, 26. März). Bei Verstoß könnten Haftstrafen drohen: EU-Parlament stimmt für Verbot von KI-Deepfakes. - taz.de. (2026, 26. März). EU-Parlament stimmt für Verbot von KI-Anwendungen für Porno-Deepfakes. - Tagesspiegel. (2026, 26. März). Künstliche Intelligenz: EU-Parlament will KI für Nacktbilder verbieten.