Eine Frau, bekannt als Jane Doe, verklagt OpenAI, weil ihr Ex-Partner unter Nutzung von ChatGPT wahnhaft wurde, sie stalkte und KI-generierte Berichte an ihr Umfeld versandte. OpenAI ignorierte laut Klage drei Warnhinweise, darunter eine interne Deaktivierung des Kontos des Mannes im August 2025 wegen Aktivitäten im Bereich "Mass Casualty Weapons", die jedoch von einem menschlichen Teammitglied am nächsten Tag rückgängig gemacht wurde. Der Mann wurde im Januar 2026 wegen Bombendrohungen und schwerer Körperverletzung verhaftet.
- Ein Stalking-Opfer verklagt OpenAI, da das Unternehmen mehrfach interne Sicherheitswarnungen bezüglich ihres gewaltbereiten Ex-Partners ignoriert haben soll.
- Obwohl das System den Nutzer wegen Suchanfragen nach Massenvernichtungswaffen sperrte, schaltete ein Mitarbeiter das Konto manuell wieder frei.
- Der Vorfall birgt rechtliche Brisanz, da durch den kommenden EU AI Act das Ignorieren solcher Warnungen künftig mit drastischen Geldstrafen geahndet wird.
Edelson PC führt Klage gegen OpenAI
Die Klage wird von Edelson PC geführt, die bereits ähnliche Fälle gegen OpenAI vertritt, und wirft Licht auf die zunehmende Besorgnis über KI-induzierte Psychosen. Interessanterweise lobbyiert OpenAI gleichzeitig für ein Gesetz in Illinois (SB 3444), das KI-Anbieter vor Haftung bei Massenunglücken schützen würde. Parallel dazu untersucht Floridas Generalstaatsanwaltschaft OpenAI wegen einer möglichen Verbindung zu einem Schulmassaker an der Florida State University, bei dem der Täter ChatGPT zur Tatplanung genutzt haben soll.
Dieser Fall ist auch für europäische Unternehmen relevant, da der EU AI Act ab dem 2. August 2026 greift und strenge Anforderungen an Hochrisiko-KI-Systeme stellt. Ein Szenario wie das beschriebene, bei dem automatische Sicherheitswarnungen ignoriert und manuelle Entscheidungen ohne Dokumentation getroffen werden, könnte zu erheblichen Compliance-Problemen und hohen Strafen von bis zu 3 % des weltweiten Jahresumsatzes führen. Weitere Details zu regulatorischen Anforderungen finden sich in unserem Compliance-Guide.
