# taz.de -- Digitalisierte Gewalt: EU will KI für Missbrauch-Deepfakes verbieten
       
       > Laut EU-Ratspräsidentschaft gibt es eine Einigung auf eine Anpassung des
       > KI-Gesetzes. Die Reform könnte Anfang Dezember wirksam werden.
       
 (IMG) Bild: Im Netz werden viele manipulierte pornografische Bilder geteilt
       
       dpa/rtr | KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten
       Deepfakes sollen in der EU künftig verboten sein. Vertreter der
       Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine
       entsprechende Anpassung des KI-Gesetzes, wie die zyprische
       EU-Ratspräsidentschaft mitteilte. Zugleich sollen andere KI-Regeln
       vereinfacht werden, um das wirtschaftliche Potenzial von künstlicher
       Intelligenz in Europa auszuschöpfen.
       
       Bevor die Änderungen in Kraft treten können, muss die Einigung noch vom
       Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten
       bestätigt werden. In der Regel gilt das als Formalie. Geht die Reform
       durch, würde das Verbot ab 2. Dezember 2026 federführend vom KI-Amt der EU
       durchgesetzt werden, das vor zwei Jahren geschaffen wurde.
       
       Bei sogenannten Deepfakes wird etwa das Gesicht einer Frau in ein anderes
       Video – etwa eine Porno-Sequenz – eingefügt oder die Stimme künstlich
       nachgeahmt, sodass es wirkt, als würde sie Dinge tun oder sagen, die
       tatsächlich nie passiert sind. Durch die Entwicklung von KI ist die
       Erstellung täuschend echter Inhalte sehr viel einfacher geworden.
       
       Das neue Verbot soll explizit auch auf das Erstellen von Inhalten abzielen,
       die sexuellen Kindesmissbrauch darstellen. Die FDP-Europaabgeordnete Svenja
       Hahn begrüßte die Einigung: „KI darf kein Werkzeug für sexualisierte Gewalt
       gegen Kinder sein“, teilte sie nach den bis tief in die Nacht andauernden
       Verhandlungen mit.
       
       „Bis Ende dieses ‌Jahres werden ‌alle, insbesondere jedoch Frauen und
       Mädchen, vor schrecklichen Nacktbild-Apps sicher sein, ⁠die auf dem
       EU-Markt weit verbreitet sind“, sagte die niederländische EU-Abgeordnete
       Kim van Sparrentak. Ab diesem Datum soll auch eine obligatorische
       Kennzeichnung für ‌KI-generierte Inhalte gelten.
       
       ## Grok-Skandale und deutsche Debatte über digitale Gewalt
       
       Auf EU-Ebene rückte das Thema Ende vergangenen Jahres durch den KI-Chatbot
       Grok in den Fokus: Bis die von Tech-Milliardär Elon Musk geführte US-Firma
       hinter der Software diese Funktion einschränkte, befahlen Menschen der KI
       immer wieder, Frauen in von ihnen ausgewählten Bildern zu entkleiden. An
       Silvester entschuldigte sich der Chatbot selbst dafür, ein Bild von zwei
       Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt zu haben.
       
       In Deutschland bekam die Debatte über sexualisierte digitale Gewalt Ende
       März neue Dringlichkeit, als Collien Fernandes mit Vorwürfen gegen ihren
       Ex-Mann Christian Ulmen an die Öffentlichkeit ging. Bei diesen Vorwürfen
       geht es nicht um Deepfakes. Fernandes wirft ihm vor, Fake-Profile in ihrem
       Namen erstellt und darüber pornografische Inhalte verbreitet zu haben. Für
       Ulmen gilt die Unschuldsvermutung. Seit Bekanntwerden der Vorwürfe gibt es
       bundesweit eine große Diskussion über digitale und sexualisierte Gewalt
       gegen Frauen – und breite Medienberichterstattung darüber. Tausende
       Menschen zogen für Demonstrationen auf die Straße und forderten mehr Schutz
       für Opfer. Im Zusammenhang mit dieser Debatte ging es auch immer wieder um
       sexualisierte Deepfakes und Deepfake-Pornografie. Material dieser Art
       kursiert schon seit Jahren im Netz.
       
       7 May 2026
       
       ## TAGS
       
 (DIR) Deepfake
 (DIR) Digitale Gewalt
 (DIR) Digitalisierung
 (DIR) Sexualisierte Gewalt
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) CDU Niedersachsen
 (DIR) Schwerpunkt Pressefreiheit
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) KI-Fakes von Giorgia Meloni: Ein antifeministischer Kampf gegen die Wahrheit
       
       Italiens rechte Premierministerin wehrt sich zu recht gegen KI-generierte
       Bilder von ihr. Doch das Problem geht weit über bekannte Politikerinnen
       hinaus.
       
 (DIR) Deepfake-Affäre in der CDU Niedersachsen: Die CDU steckt den Elefantenpimmel einfach wieder weg
       
       Die CDU Niedersachsen hat am Rande ihrer Klausurtagung die Deepfake-Affäre
       für beendet erklärt. Also ist jetzt alles wie immer? Na ja, nicht für alle.
       
 (DIR) Fake News und Manipulation: Mit KI-Pornografie gegen journalistische Integrität
       
       Kritische Journalist*innen werden mit sexualisierten Deepfakes mundtot
       gemacht. Betroffen sind vor allem Frauen.