Anthropic Mythos: KI-Modell mit Hacking-Fähigkeiten löst globalen Sicherheitsalarm aus

Anthropic hat sein neues KI-Modell Mythos als zu mächtig für einen öffentlichen Release eingestuft: Das Modell ist nach Angaben des Unternehmens so effektiv darin, Schwachstellen in Software und Computersystemen zu finden, dass es nur an eine begrenzte Anzahl sorgfältig ausgewählter Parteien freigegeben wird. Fallen solche Werkzeuge in die falschen Hände, könnte Mythos Angreifern eine wirksame neue Waffe liefern, um Daten zu stehlen oder kritische Infrastruktur zu stören.

Genau das geschah offenbar bereits: Am selben Tag, an dem Anthropic erstmals ankündigte, das Modell einer Handvoll Unternehmen zu Testzwecken bereitzustellen, verschaffte sich laut Bloomberg eine kleine Gruppe unbefugter Nutzer in einem privaten Online-Forum Zugang zu Mythos – belegt durch eine mit der Sache vertraute Person sowie von Bloomberg eingesehene Dokumente. Der Vorfall unterstreicht das Risiko, das Anthropic selbst beschreibt: Ein Modell dieser Klasse ist schwer zu kontrollieren, sobald es auch nur teilweise aus dem internen Rahmen heraustritt. Der EU AI Act, dessen Hochrisiko-Regelungen ab August 2026 greifen, dürfte Modelle mit direkten Cyberangriffs-Fähigkeiten in die strengste Risikoklassifizierung einordnen – mit Strafen von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes bei Verstößen gegen die Verbotstatbestände.

Anthropic hatte den Zugang zu Mythos über ein kontrolliertes Programm auf ausgewählte Technologieunternehmen beschränkt. Ob diese Zugangskontrolle nach dem dokumentierten Vorfall verschärft wurde, ist bislang nicht öffentlich bekannt. Die Kombination aus offenbar überlegenen Fähigkeiten im Bereich Schwachstellen-Erkennung und dem bestätigten unbefugten Zugriff macht Mythos zum bislang politisch heikelsten KI-Modell, das ein westliches Unternehmen entwickelt hat.