# taz.de -- KI-Chatbot auf X: Sperre soll Nacktbilder von Grok verhindern
       
       > User*innen konnten mit der KI Grok Nacktbilder von anderen Menschen
       > erstellen. Mit Geoblocking will X diese sexualisierte Gewalt beenden.
       
 (IMG) Bild: Protest gegen Elon Musks KI-Werkzeug Grok auf den Straßen von London
       
       taz/afp | Mit wenigen Worten haben User*innen [1][die KI Grok auffordern
       können, anderen Menschen die Kleidung auszuziehen, oder sie in Bikinis zu
       stecken]. Damit soll jetzt Schluss sein. Der Onlinedienst X hat seinen
       KI-Chatbot Grok eigenen Angaben zufolge bei der Erstellung gefälschter
       Nacktbilder eingeschränkt. In Ländern, in denen solche Handlungen illegal
       sind, wurde die Funktion, Menschen in „Bikinis, Unterwäsche und ähnlicher
       Kleidung“ darzustellen, für alle Grok- und X-Nutzer*innen „geografisch
       blockiert“, wie der Onlinedienst am Mittwoch erklärte.
       
       Das Sicherheitsteam von X erklärte, es seien „technische Maßnahmen“
       ergriffen worden, „um zu verhindern, dass über das Grok-Konto Bilder von
       realen Personen in freizügiger Kleidung wie Bikinis bearbeitet werden
       können“. Diese Einschränkung gelte für „alle Nutzer*innen, einschließlich
       zahlender Abonnent*innen“.
       
       Wenige Stunden vor der Stellungnahme hatte der US-Bundesstaat Kalifornien
       eine Untersuchung gegen Grok eröffnet. Kalifornien will laut
       Generalstaatsanwalt Rob Bonta klären, ob die KI-Firma xAI, die dem rechten
       Milliardär Elon Musk gehört, gegen Gesetze des Bundesstaats zum Schutz vor
       Belästigung verstoßen hat. Zuvor hatten bereits die Europäische Union und
       Großbritannien den KI-Chatbot ins Visier genommen. [2][In Deutschland plant
       Justizministerin Stefanie Hubig (SPD) Strafen für Deepfakes].
       
       Grund dafür ist eine Untersuchung der gemeinnützigen Organisation AI
       Forensics. Forscher*innen haben 20.000 [3][Bilder ausgewertet, die Grok
       auf Anfrage von User*innen generiert hat]. 53 Prozent der Bilder haben
       Menschen in freizügiger Kleidung gezeigt – in vier von fünf Fällen Frauen.
       Die Befehle an die KI kamen in rund 80 Prozent der Fälle, wie so oft, wenn
       es darum geht, Frauen zu sexualisieren, von Männern. Einige der Bilder
       zeigten sogar Jugendliche und Kinder, manche von ihnen jünger als fünf
       Jahre.
       
       ## EU-Kommission noch nicht zufrieden
       
       Die EU-Kommission und die britische Aufsichtsbehörde Ofcom hatten Musks
       Unternehmen deshalb aufgefordert, Maßnahmen zum Schutz der Menschen zu
       ergreifen, die auf den Bildern dargestellt werden. Sie reagierten am
       Mittwoch zurückhaltend auf die Ankündigung des Unternehmens, mit den
       europäischen Behörden zusammenarbeiten zu wollen. Wenn die geplanten
       Änderungen nicht effektiv seien, werde sich die EU-Kommission nicht
       scheuen, ihr ganzes juristisches Arsenal zu nutzen, erklärte ein Sprecher
       in Brüssel.
       
       Am Samstag hatte Indonesien als weltweit erstes Land Grok vollständig
       gesperrt. Malaysia ergriff die gleiche Maßnahme am Sonntag. Anderswo wurde
       die Nutzung des Tools auf zahlende Kund*innen beschränkt.
       
       15 Jan 2026
       
       ## LINKS
       
 (DIR) [1] /Sexualisierte-Deepfakes-auf-X/!6145025
 (DIR) [2] /KI-Grok-von-Elon-Musk/!6145544
 (DIR) [3] /KI-Deepfakes-von-Frauen-auf-X/!6144230
       
       ## TAGS
       
 (DIR) Sexualisierte Gewalt
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Twitter / X
 (DIR) Elon Musk
 (DIR) GNS
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Stefanie Hubig
 (DIR) Schwerpunkt Künstliche Intelligenz
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) KI „Grok“ von Elon Musk: Sagt endlich Tschüss zu X
       
       Bei der KI von Elon Musk grassiert sexualisierte Gewalt. Es braucht ein
       Gesetz dagegen – und den Widerstand der User*innen.
       
 (DIR) Sex-Bilder mit KI: Justizministerin will härtere Strafen für Deepfakes
       
       Ministerin Hubig plant, sexualisierte KI-Bilder realer Personen unter
       Strafe zu stellen. Eine Reaktion auf die Bikini-Fakes auf X sei das aber
       nicht.
       
 (DIR) KI-Deepfakes von Frauen auf X: Sexualisierte Gewalt als Feature
       
       Elon Musks Chatbot Grok erstellt auf X sexualisierte Bilder realer Frauen –
       und von Kindern. Dahinter steckt ein neues System digitaler Gewalt.