Die Cloud Native Computing Foundation (CNCF) warnt, dass Kubernetes zwar LLM-Workloads zuverlässig orchestriert, ihr tatsächliches Verhalten jedoch nicht überwachen kann, was zu erheblichen Sicherheitsrisiken führen kann.
- Die CNCF warnt, dass Kubernetes zwar LLMs orchestrieren, aber modellspezifische Risiken wie Prompt Injection nicht überwachen kann.
- Da Kubernetes lediglich den Pod-Betrieb kontrolliert, bleiben inhaltliche Manipulationen und unberechtigte Tool-Zugriffe völlig unsichtbar.
- Zur Absicherung fordert die CNCF einen mehrschichtigen Validierungsansatz, der auch im Hinblick auf den strengen EU AI Act essenziell wird.
Die CNCF identifiziert auf Basis des OWASP-Standards spezifische Bedrohungsvektoren für KI-Systeme, darunter Prompt Injection, Sensitive Information Disclosure und Supply-Chain-Risiken durch unkontrollierte Modell-Quellen. Kubernetes erkennt diese Angriffsvektoren nicht, da es lediglich den Betrieb eines Pods überwacht, nicht aber, ob ein Prompt das Modell dazu veranlasst, sensible Daten preiszugeben oder auf unberechtigte Tools zuzugreifen. Die Integration von LLMs mit internen Systemen schafft eine neue Abstraktionsschicht, die über Prompt-Eingaben beeinflussbar ist, was klassische Container-Orchestrierung, die für zustandslose Microservices konzipiert wurde, nicht abfangen kann.
Um diese Lücke zu schließen, empfiehlt die CNCF einen mehrschichtigen Ansatz, der Prompt-Validierung, Output-Filterung, restriktives Tool-Access-Management und anwendungsspezifisches Policy-Enforcement auf Anwendungsebene umfasst. Diese Maßnahmen sollen die bestehenden Kubernetes-Kontrollen ergänzen und sind besonders wichtig im Hinblick auf den EU AI Act, der ab August 2026 strenge Governance- und Überwachungspflichten für Hochrisiko-KI-Systeme vorsieht. LLMs dürfen niemals als alleinige Entscheidungsträger agieren, sondern müssen innerhalb klar definierter Grenzen mit kontinuierlicher Auditierbarkeit operieren, was dem OWASP Top 10 for LLMs-Standard entspricht.
❓ Häufig gestellte Fragen
✅ 10 Claims geprüft, davon 4 mehrfach verifiziert
📚 Quellen
- InfoQ (April 2026): CNCF Warns Kubernetes Alone Is Not Enough to Secure LLM Workloads
- CNCF Blog (März 2026): LLMs on Kubernetes Part 1: Understanding the Threat Model
