Grok: xAI drosselt Bildgenerierung nach globalem Aufschrei über missbräuchliche Inhalte

Elon Musks KI-Chatbot Grok hat seine Bildgenerierungsfunktion nach einer internationalen Welle der Empörung offenbar angepasst: xAI schränkte die Funktion auf X zunächst auf zahlende Premium-Abonnenten ein — und laut Beobachtungen von Forschern sowie CNN geht die Modifikation inzwischen weiter. Selbst für Premium-Nutzer reagiert Grok seltener auf Bildanfragen, weicht Themen aus oder liefert Ergebnisse in einer, wie Forscher von Copyleaks es formulieren, „generischeren oder abgeschwächten Weise". Der Anlass für diese Kehrtwende: Berichte, dass Grok Anfragen zur digitalen Entkleidung von Erwachsenen — und in einigen Fällen auch von Minderjährigen — nachkam.

Forscher von AI Forensics, einer europäischen Non-Profit-Organisation, die Algorithmen untersucht, stellten fest, dass die Erstellung von Bikini-ähnlichen Bildern auf X scheinbar zurückgegangen ist. Gleichzeitig beobachteten sie „Inkonsistenzen in der Behandlung pornografischer Inhalte" zwischen öffentlichen Interaktionen mit Grok auf X und privaten Chats auf Grok.com. Copyleaks, eine Plattform für KI-Erkennung und Content-Governance, beschreibt das Verhalten als Experimentieren mit „mehreren Mechanismen zur Reduzierung oder Kontrolle problematischer Bildgenerierung" — wobei Inkonsistenzen bestehen bleiben. Im Klartext: Das Problem ist gedämpft, aber nicht beseitigt.

Das eigentliche Problem lag laut Forschern nicht in vollständig nackten Darstellungen — die waren selten. Der Kern des Skandals war Groks Bereitschaft, Bilder von Minderjährigen auf Nutzeranfrage so zu modifizieren, dass diese in freizügiger Kleidung, darunter Bikinis und Unterwäsche, sowie in sexuell provokativen Posen dargestellt wurden. Solche nicht-einvernehmlichen intimen Bilder können strafrechtlich verfolgt werden — unter anderem nach dem Take it Down Act, der von Präsident Donald Trump unterzeichnet wurde. Täter drohen Geldstrafen und Gefängnisstrafen. Elon Musk selbst erklärte auf X: „Mir sind keine nackten minderjährigen Bilder bekannt, die von Grok generiert wurden. Buchstäblich null." Grok werde sich weigern, illegale Inhalte zu produzieren, da sein Prinzip darin bestehe, die Gesetze jedes Landes oder Staates zu befolgen. Forscherdaten und behördliche Ermittlungen zeichnen ein anderes Bild.

Regulatorischer Druck: Untersuchungen in den USA und Europa

Der Generalstaatsanwalt von Kalifornien, Rob Bonta, kündigte eine formelle Untersuchung der „Verbreitung von nicht-einvernehmlichem sexuell explizitem Material, das mit Grok erstellt wurde", an. Der britische Regulierer Ofcom hat ebenfalls eine formelle Untersuchung von X eingeleitet, wenngleich das Büro von Premierminister Keir Starmer signalisierte, Berichte zu begrüßen, dass X das Problem angehe. Grok bleibt in Indonesien und Malaysia aufgrund der Kontroverse vollständig gesperrt. Für den DACH-Raum ist der EU AI Act die relevante Rahmenbedingung: Seit August 2025 sind GPAI-Regeln, Governance-Anforderungen und Strafen in Kraft. Systeme, die nachweislich zur Erstellung von nicht-einvernehmlichem sexuellen Material missbraucht werden können, stehen unter erhöhtem Regulierungsdruck — Verstöße gegen verbotene Praktiken können mit bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes geahndet werden. xAI antwortete auf keine der journalistischen Anfragen zur Stellungnahme.

Das Muster ist bekannt: Ein KI-Anbieter launcht eine Funktion mit zu wenig Guardrails, die Öffentlichkeit dokumentiert den Missbrauch, Regulatoren schalten sich ein — und erst dann folgen technische Korrekturen. Dass ausgerechnet Copyleaks und AI Forensics die Verhaltensänderungen von Grok öffentlich dokumentieren mussten, anstatt xAI selbst transparent zu kommunizieren, setzt den Konzern weiter unter Druck.