# taz.de -- EU-Verfahren wegen KI-Bildern: Die x-te Warnung für X
       
       > Das Pöbel-Portal von Elon Musk lässt seiner KI freien Lauf. Die
       > EU-Kommission leitet deswegen nun ein Verfahren gegen den US-Konzern X
       > ein.
       
 (IMG) Bild: Protestplakat in London, 14. Januar: Der britische Premierminister Keir Starmer nannte die Erzeugnisse der KI „widerlich“
       
       dpa | Nach dem Skandal um sexualisierte KI-Bilder von Elon Musks Chatbot
       Grok [1][leitet die EU-Kommission ein Verfahren gegen den US-Konzern X
       ein.] Die Brüsseler Behörde verdächtigt das Unternehmen des
       Tech-Milliardärs laut Mitteilung, die Risiken bei der Einführung seiner
       künstlichen Intelligenz auf der Onlineplattform nicht richtig bewertet und
       reduziert zu haben.
       
       X war in den vergangenen Wochen in die Kritik geraten, weil zunächst alle
       Nutzerinnen und Nutzer den KI-Chatbot Grok [2][auffordern konnten],
       gepostete Bilder zu sexualisieren. Immer wieder befahlen Menschen der KI
       etwa, Fotos zu manipulieren und Frauen in Bikinis zu kleiden.
       
       An Silvester entschuldigte sich Grok dafür, ein Bild von zwei Mädchen im
       Teenager-Alter „in sexualisierten Outfits“ erstellt und geteilt zu haben.
       Bei der Untersuchung geht es laut EU-Kommission daher auch um Bilder, die
       als Kindesmissbrauch gelten könnten. Im Sommer hatte Grok bereits mit
       [3][Lobpreisungen für Adolf Hitler] schockiert.
       
       EU-Kommissionspräsidentin Ursula von der Leyen teilte mit, die EU werde die
       Verantwortung für Konsens und Kinderschutz nicht an Tech-Unternehmen
       abgeben. „In Europa werden wir unvorstellbares Verhalten wie das digitale
       Entkleiden von Frauen und Kindern nicht tolerieren“, fügte die deutsche
       Politikerin hinzu.
       
       ## Endlich konsequent gegen X?
       
       Nach der Deeskalation im Grönland-Konflikt nimmt die Brüsseler Behörde mit
       diesem Schritt das Risiko in Kauf, die US-Regierung von Donald Trump erneut
       zu verärgern. In Anbetracht der teilweise seit Jahren andauernden
       Ermittlungen – auch gegen X – halten Kritiker der EU gleichzeitig schon
       länger vor, ihre Digitalregeln nicht konsequent genug durchzusetzen.
       
       Gegen Musks Onlineplattform laufen auf der Grundlage europäischer
       Digitalgesetze ohnehin bereits mehrere Untersuchungen – etwa wegen der
       Moderation und des Risikomanagements illegaler Inhalte. Erst Anfang
       Dezember hatte die EU gegen X eine Str[4][afe von 120 Millionen Euro] wegen
       Transparenzmängeln verhängt.
       
       Washington reagierte damals scharf, sprach von Zensur und verhängte
       Einreiseverbote gegen einen der Architekten der Digitalgesetze sowie andere
       Europäer. Die heftige Reaktion konnte auch als Drohung in Richtung Brüssel
       verstanden werden, keine weiteren Maßnahmen gegen die US-Tech-Riesen zu
       ergreifen.
       
       Außenminister Marco Rubio schrieb zur Begründung der Einreisesperren auf X,
       es würden gezielt US-amerikanische Plattformen attackiert. Man sei bereit,
       die Liste zu erweitern, wenn es keine Kurskorrektur gebe. Elon Musk selbst
       sprach sich dafür aus, die EU abzuschaffen.
       
       ## Warum die EU-Kommission Grok nicht sperren will
       
       Das nun eröffnete Verfahren konzentriert sich laut Mitteilung darauf, ob X
       das Risiko für „geschlechtsspezifische Gewalt und schwerwiegende negative
       Folgen für das körperliche und geistige Wohlbefinden“ genügend
       eingeschränkt hat. Die Internetwächter in Brüssel kündigten neben der neuen
       Ermittlung zudem an, eine seit Ende 2023 laufende Untersuchung zu
       erweitern.
       
       Von einer Strafe oder Sperre des Dienstes sah man aber zunächst ab: Eine
       Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der
       EU-Kommission und eher ein letztes Mittel, hatte ein Sprecher der Brüsseler
       Behörde in der Vergangenheit gesagt. Indonesien und [5][Malaysia hatten
       Grok als erste Länder weltweit Mitte Januar vorübergehend gesperrt.]
       
       Die Einleitung des Verfahrens auf Grundlage des Gesetzes über digitale
       Dienste (Digital Services Act, kurz DSA) bedeutet noch keinen Nachweis
       eines Verstoßes. Sollte X aber nicht einlenken oder entlastende Beweise
       liefern, könnten Strafen durch die Europäische Kommission drohen. Sie wacht
       in der EU über die Einhaltung der Digitalregeln. Wie lange das Verfahren
       dauern wird, ist offen.
       
       Unter zunehmendem Druck wegen der übergriffigen Bilder – etwa von Schwedens
       stellvertretender Ministerpräsidentin Ebba Busch – hatte die US-Firma ihren
       Chatbot zuletzt eingeschränkt. „Die Bilderzeugung und Bearbeitung ist
       derzeit auf zahlende Abonnenten beschränkt“, antwortet der Chatbot
       inzwischen. Von Abonnenten erstellte Bilder lassen sich aber auch weiterhin
       für alle öffentlich anzeigen.
       
       Der EU-Kommission und auch anderen Aufsichtbehörden auf der Welt reichte
       dieser Schritt nicht. Es folgten weitere Einschränkungen. So seien
       „technologische Maßnahmen“ eingeführt worden, die die Bearbeitung von
       Bildern realer Personen mit leichter Bekleidung wie Bikinis verhindern
       sollen, teilte X mit. Diese Beschränkung gelte sowohl für kostenlose
       Accounts als auch für zahlende Nutzer.
       
       Auch die britische Medienaufsichtsbehörde [6][Ofcom] hatte Mitte Januar
       eine offizielle Untersuchung gegen Musks Onlineplattform eingeleitet. Als
       Grund gab die Behörde ebenfalls die von Grok sexualisierten Bilder an. Dies
       könne mitunter als Missbrauch gewertet werden, hieß es in einer Mitteilung.
       Der britische Premierminister Keir Starmer nannte die Erzeugnisse der KI
       „widerlich“.
       
       Die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X. Die
       ursprüngliche Ermittlung dreht sich um den Vorwurf, dass Algorithmen in dem
       sozialen Netzwerk verändert worden sein sollen, um rechtsextremen Inhalten
       mehr Aufmerksamkeit zu bescheren. Neu sind jetzt auch Vorwürfe wegen
       Holocaustleugnung und sexueller Abbildungen.
       
       26 Jan 2026
       
       ## LINKS
       
 (DIR) [1] /EU-geht-gegen-X-vor/!6135776
 (DIR) [2] /KI-Chatbok-Grok/!6145829
 (DIR) [3] /Wegen-Holocaust-Leugnung/!6131762
 (DIR) [4] /Organisation-gegen-Hass-im-Netz/!6141191
 (DIR) [5] https://www.tagesanzeiger.ch/malaysia-sperrt-grok-ki-bilder-loesen-internationale-krise-aus-218539656048
 (DIR) [6] https://www.ofcom.org.uk/online-safety/illegal-and-harmful-content/ofcom-launches-investigation-into-x-over-grok-sexualised-imagery
       
       ## TAGS
       
 (DIR) Elon Musk
 (DIR) EU-Kommission
 (DIR) Sexualisierte Gewalt
 (DIR) Twitter / X
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Sexualisierte Gewalt
 (DIR) Elon Musk
 (DIR) Schwerpunkt Künstliche Intelligenz
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Musks Social-Media-Plattform X: Büros in Frankreich durchsucht
       
       Die Pariser Staatsanwaltschaft hat Büros von Elon Musks Online-Plattform X
       durchsuchen lassen. Durchsucht wurde wegen mutmaßlicher Straftaten.
       
 (DIR) EU-Verfahren gegen X: Ein Signal der Stärke
       
       Die EU-Kommission will gegen sexualisierende KI-Bilder auf X vorgehen – und
       zeigt damit, dass sie sich von den USA nicht einschüchtern lässt.
       
 (DIR) KI-Chatbot auf X: Sperre soll Nacktbilder von Grok verhindern
       
       User*innen konnten mit der KI Grok Nacktbilder von anderen Menschen
       erstellen. Mit Geoblocking will X diese sexualisierte Gewalt beenden.
       
 (DIR) Nach Millionenstrafe für X: Schlagabtausch zwischen Musk und EU
       
       Die EU-Kommission kann keine Anzeigen mehr auf X schalten, nachdem sie der
       Firma eine Strafe verpasst hat. X-Chef Musk fordert, die EU abzuschaffen.
       
 (DIR) Wegen Holocaust-Leugnung: Frankreich geht gegen Musks Chatbot Grok vor
       
       Frankreich geht hart gegen Holocaust-Leugnung vor. Nun hat Grok in einem
       Beitrag behauptet, Gaskammern seien nur zur Typhus-Desinfektion gedacht
       gewesen.