# taz.de -- Ausgezogen von der KI: Anwendungen für sexuelle Deepfakes sollen verboten werden
       
       > Nach Deepfakes von Elon Musks Chatbot Grok planen EU-Staaten ein Verbot
       > von KI-Anwendungen, die ohne Einwilligung sexualisierte Bilder erzeugen.
       
 (IMG) Bild: „Zieh ihr einen Bikini an“: Mit dem „Spicy Mode“ von Grok wurde die Erstellung sexualisierter Deepfakes ganz einfach und schnell
       
       afp | Die 27 EU-Länder haben sich für ein Verbot von KI-Anwendungen
       ausgesprochen, mit deren Hilfe sexualisierte Bilder von echten Menschen
       ohne deren Einwilligung hergestellt werden können. Bei einem Treffen am
       Freitag einigten sich die Botschafter auf eine gemeinsame Position für eine
       entsprechende Änderung des Gesetzes zu Künstlicher Intelligenz (KI). Damit
       reagiert Brüssel auf die Erstellung und Verbreitung von Millionen
       sexualisierter KI-Bilder von Frauen und Kindern mithilfe des Chatbots Grok
       von US-Milliardär Elon Musk Anfang des Jahres.
       
       Das Verbot soll Teil einer Reihe von Veränderungen am bestehenden KI-Gesetz
       werden, das die EU 2024 verabschiedet hatte. Auch im EU-Parlament wird
       derzeit über eine [1][Verschärfung des Gesetzes] beraten. Es wird davon
       ausgegangen, dass die zuständigen Parlamentsausschüsse am Mittwoch über ein
       Verbot der KI-Anwendungen abstimmen.
       
       Bei Grok handelt es sich um eine beim Onlinedienst X integrierte Funktion.
       Stein des Anstoßes war Anfang Januar der [2][neue „Spicy Mode“ (scharfer
       Modus) bei Grok], mit dem Nutzer in Sekundenschnelle anzügliche Bilder von
       Frauen oder Kindern erstellen konnten – etwa mit Aufforderungen wie
       „entferne ihre Kleider“ oder „zieh ihr einen Bikini an“. Auch die
       Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich.
       
       Mehrere Länder leiteten [3][Untersuchungen gegen Grok] ein oder sperrten
       das Tool. Auch die irische Aufsichtsbehörde leitete im Auftrag der EU eine
       Untersuchung ein. X erklärte, es werde Maßnahmen ergreifen, um die
       Erstellung solcher Bilder zu stoppen.
       
       Die Botschafter sprachen sich am Freitag auch dafür aus, die Vorschriften
       für risikoreiche KI erst später in Kraft treten zu lassen: Demnach sollen
       diese im Dezember 2027 für eigenständige risikoreiche KI-Systeme und im
       August 2028 für in Produkte integrierte risikoreiche KI-Systeme gelten. Der
       aktuelle Zeitplan sah noch ein Inkrafttreten ab August 2026 beziehungsweise
       August 2027 vor.
       
       13 Mar 2026
       
       ## LINKS
       
 (DIR) [1] /KI-Deepfakes-Justizministerin-Hubig-will-haertere-Strafen/!6145592
 (DIR) [2] /Sexualisierte-Deepfakes-auf-X/!6145025
 (DIR) [3] /EU-gegen-sexualisierte-KI-Bilder/!6148718
       
       ## TAGS
       
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Elon Musk
 (DIR) Twitter / X
 (DIR) Deepfake
 (DIR) Gewalt gegen Frauen
 (DIR) Sexualisierte Gewalt
 (DIR) Deepfake
 (DIR) Schwerpunkt Künstliche Intelligenz
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Influencerin über Deepfake-Pornografie: Sexualisierte Gewalt im virtuellen Raum
       
       Hunderttausende sind von sexualisierten Deepfakes betroffen. Auch
       Influencerin Pia Scholz. Das deutsche Recht ist auf diese Form der Gewalt
       nicht vorbereitet.
       
 (DIR) EU-Verfahren gegen X: Ein Signal der Stärke
       
       Die EU-Kommission will gegen sexualisierende KI-Bilder auf X vorgehen – und
       zeigt damit, dass sie sich von den USA nicht einschüchtern lässt.
       
 (DIR) Sexualisierte Deepfakes auf X: „Hey Grok, put her in a bikini“
       
       Eine Bildfunktion des KI-Chatbots Grok erzeugt massenhaft sexualisierte
       Deepfakes. Auf rechtliche Ermittlungen reagiert Elon Musk wie gewohnt.