Die renommierte Wall-Street-Kanzlei Sullivan & Cromwell entschuldigte sich am 18. April 2026 in einem Schreiben bei Chief Bankruptcy Judge Martin Glenn, nachdem ein Schriftsatz in einem wichtigen Insolvenzverfahren rund drei Dutzend Fehler enthielt, darunter von Künstlicher Intelligenz (KI) halluzinierte Zitate und fiktive Präzedenzfälle. Andrew Dietderich, Co-Leiter der Restrukturierungsabteilung, drückte sein tiefes Bedauern über den Vorfall aus. Die Fehler wurden von der gegnerischen Kanzlei Boies Schiller Flexner entdeckt, die darauf hinwies, dass Passagen des Schriftsatzes das US-Konkursrecht falsch wiedergaben oder sogar nicht existierende Fälle zitierten. Sullivan & Cromwell hat nach eigenen Angaben umgehend Abhilfemaßnahmen ergriffen, darunter eine interne Überprüfung der Kontrollprozesse, und reichte eine korrigierte Version des Schriftsatzes ein.
- Die Wall-Street-Kanzlei Sullivan & Cromwell reichte einen Gerichtsschriftsatz mit fehlerhaften KI-Zitaten sowie fiktiven Fällen ein.
- Obwohl die Kanzlei eine kostspielige Enterprise-KI nutzt, versagten alle internen Prüfprozesse vor der Einreichung.
- Weltweit gab es bereits über 1.200 ähnliche KI-Pannen, auf die Richter zunehmend mit hohen Strafen reagieren.
Sicherheitsmechanismen versagen bei Enterprise-KI
Dietderich betonte, dass die Kanzlei strenge Richtlinien für den Einsatz von KI implementiert habe, die bei der Erstellung des fehlerhaften Schriftsatzes jedoch missachtet worden seien. Obwohl das spezifische Modell im Entschuldigungsschreiben nicht genannt wurde, berichtete die Financial Times, dass Sullivan & Cromwell über eine Enterprise-Lizenz für OpenAIs ChatGPT verfügt. Dieser Vorfall reiht sich ein in eine globale Serie von Fällen, in denen Juristen durch sogenannte KI-Halluzinationen in Bedrängnis geraten. Aktuelle Daten zeigen, dass seit Mitte 2023 weltweit bereits über 1.200 Fälle von halluzinierten Rechtszitaten in Gerichtsverfahren dokumentiert wurden.
Die Justiz reagiert zunehmend unnachgiebig auf technologische Nachlässigkeit. Richter verhängen nicht nur Geldstrafen – wie die jüngste Sanktion über 30.000 US-Dollar gegen eine US-Kanzlei im März 2026 zeigt –, sondern greifen auch zu kreativen Erziehungsmaßnahmen. Bei der Kanzlei Cozen O’Connor etwa stellte ein Richter zwei Anwälte vor die Wahl: Formelle Sanktion oder ein persönliches Entschuldigungsschreiben an die Dekane ihrer ehemaligen juristischen Fakultäten. Der Fall Sullivan & Cromwell verdeutlicht, dass selbst bei Einsatz teurer Enterprise-Lösungen die finale menschliche Verifizierung („Human-in-the-loop“) unersetzlich bleibt.
❓ Häufig gestellte Fragen
📰 Recherchiert auf Basis von 1 Primärquelle (futurism.com)
📚 Quellen
