Anthropic kämpft mit unautorisiertem Zugriff auf KI-Modell Mythos
Das von Anthropic als zu mächtig für die breite Öffentlichkeit eingestufte KI-Modell Mythos ist offenbar kurz nach seiner Veröffentlichung in die Hände einer Discord-Gruppe gelangt. Dieser Vorfall wirft Fragen über die Kontrollmöglichkeiten von Entwicklern über hochsensible Künstliche Intelligenz auf.
Mythos, ein Cybersicherheitsmodell, wurde am 10. April exklusiv ausgewählten Partnern unter dem Codenamen 'Project Glasswing' zugänglich gemacht. Anthropic hatte die Freigabe an die Öffentlichkeit aufgrund der potenziellen Risiken untersagt. Nur Tage später berichtete Bloomberg jedoch, dass eine private Discord-Gruppe, die unausgesprochene KI-Modelle verfolgt, bereits am Veröffentlichungstag Zugang zu Mythos erhalten und das System seitdem regelmäßig genutzt habe.
Der unautorisierte Zugriff soll durch eine Kombination von Faktoren ermöglicht worden sein: Ein Mitglied der Gruppe besaß über frühere Vertragsarbeiten Zugangsdaten zu einem Anbieter. Zusammen mit Informationen aus einem Datenleck bei Mercor, welche Namenskonventionen enthielten, konnte die Gruppe die Bereitstellungs-URL von Mythos erraten und somit online auf das Modell zugreifen.
Die betroffene Discord-Gruppe versicherte gegenüber Bloomberg, Mythos nicht für Cyberangriffe oder andere böswillige Aktivitäten zu nutzen. Sie behauptete zudem, Zugang zu weiteren unveröffentlichten KI-Modellen zu besitzen.
Dieser Vorfall beleuchtet die Herausforderungen beim Schutz fortschrittlicher KI-Technologien. Die unautorisierte Verbreitung von Mythos, einem Modell, das Anlass für Notfallbesprechungen der US-Regierung gab, zeigt auf, dass selbst strenge Zugangsbeschränkungen und Sicherheitsvorkehrungen umgangen werden können, oft durch unerwartete Kanäle wie private Online-Gruppen.
Die Brisanz des Lecks: Lieferketten und staatliche Interventionen
Der Fall Mythos verdeutlicht ein essenzielles Problem in der Sicherheitsarchitektur moderner Technologieunternehmen: Schwachstellen in den Prozessen der Liefer- und Partnerkette. Obwohl Anthropic selbst das System unter Verschluss halten wollte, reichten externe Faktoren wie die kompromittierten Zugangsdaten eines Anbieters und die geleakten Namenskonventionen des Unternehmens Mercor aus, um die strikten Schutzmaßnahmen auszuhebeln. Diese Verkettung von Umständen zeigt, dass die Sicherheit sensibler KI-Modelle maßgeblich von den schwächsten Gliedern im weitreichenden Drittanbieternetzwerk abhängt.
Dass ein als potenziell gefährlich eingestuftes Cybersicherheitsmodell auf diesem Weg praktisch ungehindert abgerufen werden konnte, rief umgehend staatliche Akteure auf den Plan. Die unautorisierte Verbreitung des unter dem Codenamen „Project Glasswing“ entwickelten Systems veranlasste die US-Regierung zu sofortigen Notfallbesprechungen, was die massive Tragweite des Vorfalls unterstreicht. Im Fokus steht dabei die systematische Gefahr, die von frei zugänglichen KI-Systemen ausgeht, sollten sie für die Planung oder Ausführung weitreichender Cyberoperationen missbraucht werden.
Zwar beteuert die verantwortliche Discord-Gruppe, das Modell nicht für böswillige Übergriffe einzusetzen, doch ihr behaupteter Zugriff auf noch weitere, unveröffentlichte KI-Systeme offenbart ein alarmierendes strukturelles Problem innerhalb der KI-Branche. Entwickler und Regulierungsbehörden sehen sich nun der akuten Herausforderung gegenübergestellt, völlig neue Kontroll- und Überwachungsmechanismen für hochsensible Technologien zu etablieren, da traditionelle Zugriffsbeschränkungen im heutigen digitalen Ökosystem oftmals ins Leere laufen.
✅ 10 Claims geprüft, davon 7 mehrfach verifiziert
📚 Quellen
