Schranken für anzügliche KI-Bilder bei Musk-Chatbot Grok 15.01.2026, 10:39 Uhr von dpa-AFX Jetzt kommentieren: 0

AUSTIN (dpa-AFX) - Nach heftiger internationaler Kritik hat Elon Musks KI-Firma xAI neue Schranken für anzügliche KI-Bilder bei ihrem Chatbot Grok eingezogen. So seien "technologische Maßnahmen" eingeführt worden, die die Bearbeitung von Bildern realer Personen mit leichter Bekleidung wie Bikinis verhindern sollen, teilte die zu xAI gehörende Online-Plattform X mit. Diese Beschränkung gelte sowohl für kostenlose Accounts als auch für zahlende Nutzer.

Auch werde in Regionen, wo dies illegal sei, per Geoblocking verhindert, dass mit Künstlicher Intelligenz Bilder realer Personen in Bikinis, Dessous oder ähnlicher Bekleidung erzeugt werden können. Grundsätzlich werden nur noch zahlende Kunden künftig Bilder mit Grok bei X erzeugen oder bearbeiten können, hieß es.

Empörung über sexualisierte Bilder

Grok ist Musks KI-Chatbot, der unter anderem mit dem Vorreiter ChatGPT der Entwicklerfirma OpenAI konkurrieren soll. Die Software ist an X gekoppelt, hat aber auch eine eigenständige App. Grok und X befinden sich beide unter dem Dach von xAI.

In den vergangenen Tagen gerieten Musk und xAI in die Kritik, weil Nutzer mit Grok zum Beispiel Kleidung von Frauen durch Bikinis ersetzen konnten. Behörden leiteten Ermittlungen ein. Malaysia sperrte Grok und kündigte rechtliche Schritte gegen X ein. Wenige Stunden vor der X-Ankündigung startete auch Kalifornien eine Untersuchung. Die britische Aufsichtsbehörde Ofcom teilte mit, sie begrüße den Schritt, setze ihre Ermittlungen jedoch fort, um herauszufinden, wie es dazu gekommen sei und wie dagegen vorgegangen werde, meldete die britische Nachrichtenagentur PA.

Musk: Keine Nacktbilder

Besonders schwer wog in den vergangenen Tagen der Vorwurf, dass per Grok auch Bilder Minderjähriger sexualisiert worden seien. Musk schrieb am Donnerstag bei X, ihm seien keine Fälle bekannt, in denen Grok Nacktbilder Minderjähriger generiert habe. Bei der Kritik ging es allerdings eher um eine sexualisierte Darstellung in freizügiger Bekleidung - worauf Musk in seinem Beitrag nicht einging.

Brüssel droht mit Durchgreifen

Von der EU-Kommission hieß es bereits vor der neuen Ankündigung, man habe die zusätzlichen Maßnahmen zur Kenntnis genommen und werde sie analysieren. Sollten die Schritte nicht ausreichen, werde man nicht zögern, das volle Arsenal des Digitalgesetzes DSA (Digital Services Act) einzusetzen. Die Kommission hatte in den vergangenen Tagen verstärkt Druck auf X ausgeübt. Erst Anfang Dezember hatte sie gegen Musks Online-Plattform unter Verweis auf Transparenzmängel eine Strafe von 120 Millionen Euro verhängt./so/DP/mis