# taz.de -- KI-Deepfakes von Frauen auf X: Sexualisierte Gewalt als Feature
       
       > Elon Musks Chatbot Grok erstellt auf X sexualisierte Bilder realer Frauen
       > – und von Kindern. Dahinter steckt ein neues System digitaler Gewalt.
       
 (IMG) Bild: Grok manipuliert Bilder realer Frauen, um aus ihnen fotorealistische Szenarien sexualisierter Gewalt zu erzeugen
       
       Es ist eine neue Infrastruktur der Gewalt, die gerade auf X entsteht:
       Nutzer verwenden Elon Musks Chatbot Grok, [1][um Bilder realer Frauen zu
       manipulieren und Szenarien sexualisierter Gewalt zu erzeugen].
       Vergewaltigungsdarstellungen, Entführungen, Tötungsfantasien. Diese Gewalt
       wird öffentlich produziert, geteilt, kommentiert, in einer Atmosphäre
       spielerischer Normalität.
       
       [2][Eine Untersuchung der europäischen Organisation AI Forensics] belegt:
       Es handelt sich nicht um Einzelfälle, sondern um ein strukturelles
       Phänomen. Über 80 Prozent der identifizierten Accounts waren männlich. Mehr
       als die Hälfte der Bilder, die Grok generierte, zeigten Menschen in
       freizügiger Kleidung, rund 80 Prozent davon Frauen. Sexualisierung ist kein
       Nebeneffekt, sondern systematische Praxis.
       
       Während die deutsche Justizministerkonferenz im November selbst
       mehrheitlich ablehnte, heimliche voyeuristische Aufnahmen bekleideter
       Körperpartien unter Strafe zu stellen – [3][das Strafrecht sei keine
       „Supermoralinstanz“, erklärte Sachsens Justizministerin Constanze Geiert
       (CDU)] – ist die technologische Realität längst weiter. Auf X braucht es
       keine heimlichen Aufnahmen mehr. Frauen werden einfach mit KI-Assistenz
       vergewaltigt, gefoltert, ermordet. In hochauflösender Qualität. Auf
       Bestellung.
       
       Das ist keine Deepfake-Pornografie im herkömmlichen Sinn. Die KI wirkt als
       aktive Assistenz bei der Visualisierung von Gewalt. Nutzer formulieren
       präzise Anweisungen: verängstigte Gesichtsausdrücke, sichtbare
       Verletzungen, Zwangssituationen. Und Grok liefert.
       
       ## Gewalt inszeniert als Kreativakt
       
       Der [4][Sozialpsychologe Rolf Pohl hat in „Feindbild Frau“ (2004) einen
       männlichen Gewalthabitus beschrieben] – die strukturelle Verfügungsgewalt
       über weibliche Körper als Grundlage männlicher Identität. Was er
       theoretisch analysierte, wird hier technologisch perfektioniert und
       industrialisiert.
       
       Gewaltfantasien gegen Frauen wirken laut Pohl für viele Männer
       identitätsstiftend. Der spielerische Ton, in dem diese Gewalt auf X
       verhandelt wird, ist kein Widerspruch. Die digitale Arena verwandelt
       Fantasien in kollektive Praxis. Nutzer überbieten sich in der Brutalität
       ihrer Prompts, inszenieren Gewalt als Kreativakt.
       
       Besonders alarmierend: Diese Gewalt macht nicht vor Kindern halt. In zwei
       Prozent der von AI Forensics untersuchten Fälle erzeugte Grok Bilder von
       Personen, die als minderjährig eingeschätzt wurden. 30 Bilder zeigten
       sexualisierte Darstellungen von Kindern, darunter Mädchen unter fünf
       Jahren. Grok ist damit faktisch ein Werkzeug offen zugänglicher
       Pädokriminalität.
       
       Noch absurder: Nachdem Grok sexualisierte Bilder minderjähriger Mädchen
       erzeugt hatte, [5][entschuldigte sich der Chatbot selbst]. Nicht Elon Musk,
       nicht die Entwickler, nicht die Plattform X, sondern die Software. Diese
       Entschuldigung ist Ausdruck systematischer Verantwortungsdiffusion. Die KI
       wird als handelndes Subjekt inszeniert, um menschliche Verantwortung zu
       verschleiern.
       
       ## EU-Kommission zwischen Untätigkeit, Verharmlosung und Weigerung
       
       Am 5. Januar 2026 erklärte die EU-Kommission, man nehme die Beschwerden
       sehr ernst und verwies auf Digital Services Act und EU AI Act. [6][Einige
       Tage später leitete sie eine Untersuchung] ein und wies die Plattform an,
       Dokumente zu Grok bis zum Jahresende aufzubewahren. Ansonsten bleibt es
       bislang bei Stellungnahmen. Keine Sanktionen, keine Abschaltung, keine
       Konsequenzen. Die Gewalt findet jetzt statt, die Regulierung reagiert im
       Konjunktiv.
       
       So entsteht eine gefährliche Lücke zwischen normativer Ablehnung und
       faktischer Duldung. Plattformen lernen, dass selbst schwerste Formen
       digitaler Gewalt keine unmittelbaren Folgen haben. Regulierung ohne
       Durchsetzung ist keine Regulierung, sondern politische Untätigkeit.
       
       Was hier entsteht, ist keine Fehlfunktion einzelner Tools. Es ist eine
       bewusst geschaffene Gewaltinfrastruktur, die durch KI skalierbar,
       automatisiert und niedrigschwellig verfügbar wird. Die Frage ist, wann die
       EU-Kommission und die nationalen Regulierungsbehörden begreifen, dass sie
       längst Teil des Problems sind – durch Untätigkeit, durch Verharmlosung,
       durch die Weigerung, digitale Gewalt als das zu behandeln, was sie ist:
       Gewalt.
       
       11 Jan 2026
       
       ## LINKS
       
 (DIR) [1] https://www.theguardian.com/technology/2026/jan/08/grok-x-nonconsensual-images
 (DIR) [2] https://aiforensics.org/work/grok-unleashed?utm_source=chatgpt.com
 (DIR) [3] /Debatte-um-digitalen-Voyeurismus/!6128162
 (DIR) [4] https://www.mabuse-buchversand.de/offizin-verlag-hannover/mabuse-buchversand/feindbild-frau-partnerschaft-sexualitaet_pid_870_52515.html
 (DIR) [5] https://www.theguardian.com/technology/2026/jan/08/grok-x-nonconsensual-images
 (DIR) [6] https://www.deutschlandfunk.de/eu-startet-untersuchungen-zum-ki-tool-grok-102.html
       
       ## AUTOREN
       
 (DIR) Jessica Ramczik
       
       ## TAGS
       
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Elon Musk
 (DIR) Sexualisierte Gewalt
 (DIR) Twitter / X
 (DIR) Gewalt gegen Frauen
 (DIR) Social-Auswahl
 (DIR) Sexualisierte Gewalt
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Elon Musk
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Big Tech
 (DIR) Schwerpunkt Künstliche Intelligenz
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) KI-Chatbot auf X: Sperre soll Nacktbilder von Grok verhindern
       
       User*innen konnten mit der KI Grok Nacktbilder von anderen Menschen
       erstellen. Mit Geoblocking will X diese sexualisierte Gewalt beenden.
       
 (DIR) Sexualisierte Deepfakes auf X: „Hey Grok, put her in a bikini“
       
       Eine Bildfunktion des KI-Chatbots Grok erzeugt massenhaft sexualisierte
       Deepfakes. Auf rechtliche Ermittlungen reagiert Elon Musk wie gewohnt.
       
 (DIR) Künstliche Intelligenz Grok: Malaysia und Indonesien sperren Musks Chatbot
       
       Als weltweit erstes Land hat Indonesien den Chatbot Grok gesperrt.
       Grund:Verbreitung pornografischer Bilder. Malaysia folgte am Sonntag
       nach.
       
 (DIR) Wegen Holocaust-Leugnung: Frankreich geht gegen Musks Chatbot Grok vor
       
       Frankreich geht hart gegen Holocaust-Leugnung vor. Nun hat Grok in einem
       Beitrag behauptet, Gaskammern seien nur zur Typhus-Desinfektion gedacht
       gewesen.
       
 (DIR) Grokipedia startet: Musk bringt Konkurrenz für Wikipedia an den Start
       
       Die Online-Enzyklopädie Wikipedia ist Elon Musk ein Dorn im Auge. Nun
       startet er eine „Alternative“, die von seiner KI-Firma entwickelt wurde.
       
 (DIR) Grok-KI von Elon Musk: Adolf Hitler als Lösung
       
       Der Chatbot Grok wirft Menschen mit jüdischem Nachnamen „Hass auf Weiße“
       vor und lobt Hitler. Die Entwicklerfirma xAI muss eingreifen.