- Trotz einer Zusage von xAI generiert der KI-Bildgenerator Grok weiterhin sexualisierte Deepfakes von realen Personen.
- Untersuchungen zeigen, dass Millionen solcher Bilder im Umlauf sind, darunter Darstellungen bekannter Persönlichkeiten.
- Nutzer umgehen die im Januar 2026 eingeführten Schutzmaßnahmen durch gezielte Jailbreak-Prompts.
Trotz einer öffentlichen Zusage von xAI, sexualisierte Deepfakes zu unterbinden, generiert Groks Bildgenerator weiterhin nicht-einvernehmliche Bilder realer Personen. Eine Recherche von NBC News dokumentierte Dutzende KI-generierter sexualisierter Bilder und Videos, die in den vergangenen vier Wochen öffentlich auf X gepostet wurden – darunter Darstellungen von Popstars und Schauspielerinnen in manipulierten oder freizügigen Outfits. Unabhängige Analysen bestätigen die Dimension des Problems: Zwischen Ende Dezember 2025 und Anfang Januar 2026 wurden rund drei Millionen sexualisierte Bilder über Grok generiert, darunter etwa 23.000 Darstellungen von Minderjährigen. Die Bilder entstehen weiterhin, da Nutzer gezielt Jailbreak-Prompts einsetzen, um die im Januar 2026 eingeführten Einschränkungen von xAI zu umgehen.
