Anthropic, ein Unternehmen, das sich auf KI-Sicherheit spezialisiert hat, sieht sich mit einem peinlichen Vorfall konfrontiert. Das als hochsicher eingestufte KI-Modell Claude Mythos, welches als zu gefährlich für eine öffentliche Freigabe galt, war für eine 'kleine Gruppe unautorisierter Nutzer' zugänglich.
- Dem auf KI-Sicherheit spezialisierten Unternehmen Anthropic ist ein peinlicher Leak unterlaufen, bei dem Unbefugte auf das intern zurückgehaltene Modell Claude Mythos zugreifen konnten.
- Die Eindringlinge erlangten den Zugang durch das simple Erraten der Webadresse in Kombination mit Vorwissen aus einem früheren Datenleck und Insiderinformationen.
- Obwohl das Modell extrem fähig im Aufspüren kritischer Software-Schwachstellen ist, wurde es von der Gruppe glücklicherweise nicht für bösartige Cyberangriffe missbraucht.
Dieser unautorisierte Zugriff erfolgte, obwohl Anthropic die Fähigkeiten von Mythos im Bereich Cybersicherheit stark beworben hatte. Das Unternehmen hatte zuvor betont, wie kritisch die koordinierte Veröffentlichung des Modells sei, um die weltweiten Cyberabwehren zu stärken. Nun untersucht Anthropic den Vorfall.
Die Umstände des Lecks erscheinen technisch unspektakulär. Die unautorisierten Nutzer gelangten durch eine 'fundierte Vermutung über den Online-Standort des Modells' an Mythos. Informationen über Anthropic's andere Modelle, die durch eine frühere Sicherheitslücke bei Mercor (einem Unternehmen für KI-Trainingsdaten) bekannt wurden, spielten dabei eine Rolle. Ein Mitglied der Gruppe hatte zudem Zugang durch Vertragsarbeit bei der Bewertung von Anthropic-Modellen.
Sicherheitsexperten weisen darauf hin, dass solche 'fundierten Vermutungen' eine gängige Hacking-Methode darstellen. Angesichts der bekannten Kompromittierung von Informationen hätte Anthropic dies antizipieren und entsprechende Vorkehrungen treffen müssen. Die Branche kennt solche Fehlertypen seit zwei Jahrzehnten.
Ferner verfügte Anthropic über die Mittel zur Überwachung der Modellnutzung, was einen solchen Vorfall hätte verhindern können. Das Unternehmen schien die Nutzung nicht eng genug überwacht zu haben, obwohl die Freigabe von Mythos stark eingeschränkt sein sollte. Angesichts der von Anthropic selbst postulierten Gefährlichkeit des Modells wirft dies Fragen auf.
Die unautorisierten Nutzer sollen Mythos nicht für Cybersicherheitsaufgaben eingesetzt haben. Dies könnte ein glücklicher Umstand sein, da Anthropic Mythos als 'Wendepunkt für die Sicherheit' bezeichnete und behauptete, es habe Schwachstellen in 'jedem wichtigen Betriebssystem und Webbrowser' entdeckt. Berichte von frühen Testern, wie dem Mozilla CTO Bobby Holley, bestätigen die Effektivität von Mythos, der Hunderte von Bugs in Firefox 150 gefunden haben soll.
Da die Quelle den Artikel mit einem Ausblick auf weitere Informationen zu Mythos in Bezug auf Regierungen und Finanzinstitute beendet, bleibt der vollständige Umfang des Vorfalls und mögliche weitere Konsequenzen offen.
❓ Häufig gestellte Fragen
✍️ Editorial / Meinungsbeitrag — basiert auf Einordnung der Redaktion, nicht auf externen Primärquellen.
📚 Quellen
