Das Startup Objection AI, unterstützt durch ein Millionen-Seed-Investment von Peter Thiel und Balaji Srinivasan, bietet ein KI-gestütztes Prüfungssystem für journalistische Beiträge an, das als Alternative zu Rechtsstreitigkeiten dienen soll. Die Kosten für eine solche Prüfung belaufen sich auf 2.000 US-Dollar.
- Peter Thiel finanziert mit Objection AI eine Plattform, auf der für 2.000 US-Dollar die Glaubwürdigkeit journalistischer Artikel durch ein KI-System bewertet wird.
- Die Plattform wertet anonyme Quellen ab und setzt Vorab-Warnhinweise, was von Kritikern als gefährlicher Angriff auf die unabhängige Berichterstattung gesehen wird.
- In Europa birgt das System hohe rechtliche Risiken, da es voraussichtlich als Hochrisiko-KI gewertet wird und in Konflikt mit der DSGVO steht.
KI-Modelle als digitale Richter
Das System nutzt mehrere Large Language Models (LLMs) verschiedener Anbieter wie OpenAI, Anthropic und Google, die als "Durchschnittsbürger" fungieren, ergänzt durch ehemalige Strafverfolger und Investigativjournalisten. Gründer Aron D'Souza, bekannt durch die Gawker-Klage, begründet das Modell mit dem starken Vertrauensverlust in US-Medien. Rechtswissenschaftler und Journalisten üben jedoch Kritik: Das System bewertet anonyme Quellen gering, während Primärdokumente bevorzugt werden. Dies setzt Journalisten unter Druck, Quellen preiszugeben, und wird als Angriff auf die unabhängige Berichterstattung gewertet. Das Feature "Fire Blanket" setzt zudem automatische "unter Untersuchung"-Labels unter Beiträge, noch bevor eine Bewertung vorliegt, was gezielt öffentliche Zweifel säen kann.
Konflikt mit europäischem Recht
Für Europa birgt das Modell erhebliche rechtliche Risiken. Es würde voraussichtlich unter den EU AI Act als Hochrisiko-KI-System fallen und strengen Transparenzpflichten unterliegen. Zudem könnten automatisierte Reputationsentscheidungen gemäß der DSGVO unzulässig sein, sofern die betroffenen Journalisten nicht explizit zustimmen. Dies illustriert die Gefahr, dass unregulierte KI-basierte Reputationssysteme zu Werkzeugen mächtiger Akteure werden.
