«Ich wurde unfreiwillig von Elon Musks Grok auf X ausgezogen», sagt die stellvertretende Ministerpräsidentin Schwedens, Ebba Busch. «Meine Tochter ist neun. Ich möchte nicht, dass ihr jemals so etwas passiert.»
Busch ist eine von vielen Betroffenen, die mit Hilfe von Elon Musks Künstlicher Intelligenz auf der Online-Plattform X gegen ihren Willen in wenig Kleidung dargestellt wurde. Ein Nutzer hatte dem KI-Chatbot Grok auf X zu einem Foto von Busch am Rednerpult geschrieben: «@Grok Bikini jetzt».
Grok folgt dem Befehl, manipuliert das Foto und tauscht das blaue Kleid der Amtsträgerin gegen einen Bikini aus. Zunächst für alle sichtbar, verbreitet sich das Bild schnell. Inzwischen ist es verschwunden. Stattdessen heißt es an gleicher Stelle: «Dieser Post verstößt möglicherweise gegen die X-Regeln zu Missbrauch.»
Posts wie dieser alarmieren zahlreiche Behörden in aller Welt: Die EU droht, in Großbritannien starten Untersuchungen und in Indonesien sowie Malaysia wird der Dienst sogar gesperrt.
Auch sexualisierte Bilder von Kindern erstellt
Als X noch Twitter hieß, testeten Comedians dort Pointen und Politiker verteilten Seitenhiebe. Fotos waren selten, Posts auf 140 Zeichen begrenzt. Wer lange nicht auf X war und nun dort scrollt, dürfte überrascht sein: Viele Bilder von wenig bekleideten Frauen und viele Beispiele offenbar männlicher Übergriffigkeit.
Immer wieder weisen Nutzer die KI an, Frauen bildlich auszuziehen. Lange gehorcht der KI-Chatbot den Befehlen, präsentiert freizügige Bilder von Menschen – auch von Kindern. An Silvester entschuldigt sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu haben. Es sei ein «Versagen unserer Sicherheitsvorkehrungen» gewesen, schreibt Grok.
Inzwischen hat das US-Unternehmen reagiert. Bittet man Grok auf X, ein Bild zu generieren oder zu bearbeiten, antwortet der Bot: «Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt.» Von Abonnenten erstellte Bilder lassen sich aber auch weiterhin für alle öffentlich anzeigen.
London leitet Untersuchung ein
Die Kritik und der Druck aus Europa auf das US-Unternehmen des Milliardärs Musk wachsen daher weiter. Die britische Medienaufsichtsbehörde (Ofcom) leitete wegen sexualisierter Bilder – unter anderem von Kindern – eine offizielle Untersuchung gegen X ein, wie sie am Montag mitteilte. Der britische Premierminister Keir Starmer hatte die KI-generierten Bilder zuvor als «widerlich» bezeichnet.
Am Wochenende schoss Musk daraufhin gegen London. Er warf der britischen Regierung etwa Zensur vor und nannte sie in einem Beitrag «faschistisch». Sollte X tatsächlich gegen die britischen Digitalgesetze verstoßen haben, könnte es laut Ofcom eine Geldstrafe geben – im äußersten Fall auch eine gerichtlich angeordnete teilweise oder komplette Sperrung.
Europa vs. USA? Brüssel droht, auch Paris ermittelt
Zwar verurteilt die EU-Kommission die Möglichkeiten, die X Nutzenden lässt. Von einer Sperre des Dienstes sah man aber zunächst ab: Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel, hatte ein Sprecher der Brüsseler Behörde gesagt.
Ausschließen wollen die europäischen Internetwächter gleichzeitig nichts. EU-Kommissionspräsidentin Ursula von der Leyen hatte dem «Spiegel» am Sonntag gesagt: «Wir werden den Schutz von Kindern und die Frage der Einwilligung nicht an das Silicon Valley auslagern. Wenn sie nicht handeln, werden wir es tun.»
Gegen Musks Plattform X laufen auf Grundlage europäischer Digitalgesetze ohnehin mehrere Untersuchungen und Verfahren. Erst Anfang Dezember hatte die EU gegen Musks Online-Plattform eine Strafe von 120 Millionen Euro wegen Transparenzmängeln verhängt. Der US-Firma könnten weitere Strafen etwa wegen illegaler Inhalte drohen.
Auch die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X. Die ursprüngliche Ermittlung dreht sich um den Vorwurf, rechtsextreme Inhalte seien gefördert worden. Neu sind jetzt auch Vorwürfe wegen Holocaustleugnung und sexueller Abbildungen.
Indonesien und Malaysia sperren Grok
Als erste Länder weltweit ziehen Indonesien und Malaysia am Wochenende strikte Konsequenzen: Sie sperren den KI-Chatbot. Die indonesische Digitalministerin Meutya Hafid erklärte, der Schritt diene dem Schutz von Frauen, Kindern und der breiten Öffentlichkeit vor der Verbreitung gefälschter pornografischer Inhalte, die mit Hilfe von KI generiert würden. Am Sonntag hatte auch die malaysische Kommunikations- und Multimedia-Kommission (MCMC) angekündigt, den Zugang zu Grok vorübergehend zu sperren.
Musk selbst schrieb am Montag auf seiner Plattform: «Im Vergleich zu anderen KI-Systemen ist Grok absolut zuverlässig. Und es wird noch viel besser werden.» Ziel der KI sei es, stets neugierig nach der tieferen Wahrheit zu suchen und Schönheit zu schätzen.
EU-Digitalgesetze sorgen für Spannungen mit den USA
In Anbetracht der seit Jahren andauernden Ermittlungen halten Kritiker der EU seit längerer Zeit vor, ihre Digitalregeln nicht konsequent genug durchzusetzen. Gleichzeitig behaupten die US-Regierung von Präsident Donald Trump wie auch Musk, Brüssel betreibe Zensur.
Washington verhängte kurz vor Weihnachten als Reaktion auf europäische Maßnahmen Einreiseverbote gegen mehrere Europäer. Die Sanktionen könnten auch als Warnung an die EU-Kommission von Ursula von der Leyen verstanden werden, keine weiteren Maßnahmen zu ergreifen.
Schwedens Ministerin: Welt braucht weniger «Arschlöcher»
Die schwedische Politikerin Busch nimmt in einem Statement besonders die Nutzer in die Verantwortung: «Wie wäre es, wenn wir zweimal überlegen, bevor wir KI auf diese Weise einsetzen, und darauf achten, was wir online teilen?», fragt sie in dem Video, das sie auf X nach dem Eklat postet. «Die Welt braucht mehr gute Männer und Frauen und weniger Arschlöcher», fügt sie hinzu.
© dpa-infocom, dpa:260112-930-534055/1