Der KI Podcast: Loop Protocol – vom 28.03.2026

Sarah: Willkommen bei PromptLoop. Heute: Ein KI-Agent bei Meta löst einen Sicherheitsvorfall aus. Und eine Compliance-Plattform verkauft Scheinzertifikate.

Markus: Dazu schauen wir auf Googles Strategiewechsel bei KI-Agenten. Und auf eine Milliarden-Wette gegen den Transformer.

Sarah: Fangen wir mit Meta an. Die Nachricht klingt technisch. Sie hat aber grundlegende Konsequenzen.

Markus: Genau. Ein interner KI-Agent bei Meta hat fehlerhafte Anweisungen ausgegeben. Das Ergebnis: ein sogenannter Sev1-Vorfall. Höchste Prioritätsstufe.

Sarah: Fast zwei Stunden waren sensible interne Daten zugänglich. Sev1 bedeutet bei Meta: produktionskritisch. Das ist nicht Stufe drei von fünf. Das ist der Ernstfall.

Markus: Für Operations-Leute: Das entspricht einem ungeplanten Systemausfall mit Datenzugriff. Der wirtschaftliche Schaden ist schwer zu beziffern. Der Reputationsschaden nicht.

Sarah: Was mich interessiert: Der Agent hat nicht gehackt. Er hat Anweisungen falsch interpretiert. Das ist ein Governance-Problem.

Markus: Richtig. Und das ist der Punkt, den viele CEOs noch nicht verstanden haben. KI-Agenten brauchen nicht nur technische Guardrails. Sie brauchen Prozess-Governance.

Sarah: Meta hat nach eigenen Angaben schnell reagiert. Zwei Stunden klingen kurz. Bei sensiblen Daten ist das lang.

Markus: Sehr lang. In zwei Stunden kann intern viel passieren. Logs, Zugriffsprotokolle, Kundendaten — je nach Systemkonfiguration.

Sarah: Und genau da wird es regulatorisch interessant. Unter der DSGVO gilt: Datenpannen mit Personenbezug müssen binnen 72 Stunden gemeldet werden. Das Wort "intern" schützt nicht automatisch.

Markus: Das ist ein unterschätztes Risiko. Viele Unternehmen denken: intern bedeutet sicher. Aber interne Systeme haben auch Compliance-Pflichten.

Sarah: Der EU AI Act macht das noch konkreter. KI-Systeme mit Zugriff auf kritische Infrastruktur oder sensible Daten fallen in Hochrisiko-Kategorien. Dort gelten strenge Anforderungen an menschliche Aufsicht.

Markus: Was für einen Operations Manager bedeutet: Du kannst keinen Agenten einfach auf produktive Systeme loslassen. Du brauchst einen Menschen im Loop. Zumindest bei kritischen Entscheidungen.

Sarah: Das nennt sich Human-in-the-Loop. Meta hat dieses Prinzip offenbar nicht vollständig implementiert. Sonst wäre der Fehler vor der Ausführung aufgefallen.

Markus: Und das ist das strukturelle Problem. Der Druck, Agenten schnell zu deployen, ist enorm. Die Governance hinkt hinterher. Immer.

Sarah: Es gibt noch keinen öffentlichen Bericht, wie es konkret zur Fehlanweisung kam. Meta hat sich bedeckt gehalten. Das ist bezeichnend.

Markus: Für Unternehmen, die gerade eigene Agenten bauen: Dieser Fall ist ein Lehrstück. Nicht wegen Meta. Sondern wegen der eigenen Systeme.

Sarah: Was ich aus dem Fall mitnehme: Vertrauen in KI-Agenten entsteht nicht durch PR-Statements. Es entsteht durch Incident-Protokolle, die man veröffentlicht.

Markus: Das wird Meta nicht tun. Aber der Punkt ist valide.

Sarah: Kommen wir zum zweiten Thema. Der Delve-Skandal. Das ist einer jener Fälle, bei denen man zweimal lesen muss.

Markus: Delve ist eine KI-gestützte Compliance-Plattform. Sie hat Zertifikate ausgestellt. Für HIPAA, DSGVO, und ähnliches. Die Zertifikate waren — gelinde gesagt — substanzlos.

Sarah: "Fake Compliance" ist der Begriff, der kursiert. Was dahintersteckt: Die Plattform hat automatisch Dokumente generiert. Checklisten abgehakt. Zertifikate ausgespuckt. Ohne echte Prüfung.

Markus: Das ist im Kern ein Automatisierungsproblem. Wenn du einen Prozess automatisierst, der eigentlich Urteilsvermögen erfordert — dann bekommst du Schein-Ergebnisse.

Sarah: Für Unternehmen, die Delve genutzt haben, wird es jetzt heikel. Sie haben gegenüber Kunden oder Behörden Compliance behauptet. Auf Basis von Zertifikaten, die nichts belegen.

Markus: Das ist Haftung. Direkt und unmittelbar.

Sarah: Unter HIPAA in den USA gibt es Civil Monetary Penalties. Bis zu 1,9 Millionen Dollar pro Kategorie und Jahr. Das ist keine theoretische Zahl.

Markus: Und unter der DSGVO bis zu vier Prozent des weltweiten Jahresumsatzes. Ein mittelständisches Unternehmen, das das falsch gespielt hat, kann damit existenzgefährdet sein.

Sarah: Der Delve-Fall zeigt ein Muster. Compliance wird als Kostenstelle gesehen. KI verspricht, Kostenstellen zu minimieren. Das Ergebnis ist dann — das hier.

Markus: Ich verstehe den Druck. Compliance kostet Geld. Berater, Anwälte, Prozesse. Wenn eine Plattform sagt: Wir machen das automatisch für ein Zehntel des Preises — das klingt attraktiv.

Sarah: Bis es nicht mehr klingt, sondern kostet.

Markus: Genau. Und was für Operations-Leute wichtig ist: Compliance-Automatisierung ist möglich. Aber nur für bestimmte Teilprozesse. Dokumentation. Tracking. Reminder-Systeme.

Sarah: Das juristische Urteil — ob eine Maßnahme tatsächlich compliant ist — das kann kein Automat ersetzen. Das ist Expertenurteil.

Markus: Der EU AI Act wird das noch stärker regulieren. KI-Systeme, die Rechtsbewertungen ausgeben, gelten als hochriskant. Dort braucht es menschliche Verantwortung.

Sarah: Was mich bei Delve am meisten beschäftigt: Die Plattform hat aktiv damit geworben, Zertifikate auszustellen. Das ist kein Bug. Das war das Produkt.

Markus: Das ist der Unterschied zwischen einem Fehler und einem Geschäftsmodell.

Sarah: Für Unternehmen gilt jetzt: Jede bestehende Compliance-Zertifizierung durch KI-Plattformen muss geprüft werden. Nicht irgendwann. Sofort.

Markus: Und zwar durch qualifizierte Menschen. Nicht durch eine andere KI-Plattform.

Sarah: Das wäre ein runder Kreis.

Markus: Ein sehr teurer.

Sarah: Dritter Punkt: Astera Institute. Jed McCaleb investiert eine Milliarde Dollar. Das verdient einen Moment.

Markus: McCaleb ist kein Unbekannter. Mitgründer von Ripple, Stellar. Er weiß, wie er langfristige Technologieprojekte finanziert.

Sarah: Das Astera Institute forscht an hirninspirierter KI. Der Fachbegriff ist neuromorphes Computing. Das Ziel: Alternativen zum Transformer-Modell entwickeln.

Markus: Für alle, die das einordnen wollen: GPT, Gemini, Claude — alles Transformer-Architekturen. Die dominieren den Markt seit 2017.

Sarah: Und sie haben ein fundamentales Problem. Sie sind energiehungrig. Sie skalieren durch mehr Rechenleistung. Das ist kein nachhaltiges Modell.

Markus: Das ist auch ein wirtschaftliches Problem. Die Trainingskosten für Frontier-Modelle gehen in die Milliarden. Nur wenige Unternehmen können das stemmen.

Sarah: Das schafft eine Monopolstruktur. Wer die Rechenzentren hat, hat die Modelle. Wer die Modelle hat, hat die Marktmacht.

Markus: McCaleb wettet darauf, dass es einen anderen Weg gibt. Hirninspirierte Architekturen arbeiten anders. Effizienter. Mit weniger Energie.

Sarah: Das klingt überzeugend. Die Frage ist: Wann. Diese Forschung läuft seit Jahrzehnten. Neuromorphes Computing ist kein neues Konzept.

Markus: Das ist der kritische Punkt. Es ist ein langer Zeithorizont. Zehn Jahre. Vielleicht zwanzig. Das ist Grundlagenforschung.

Sarah: Und eine Milliarde klingt viel. Im Vergleich: OpenAI hat in einer einzigen Runde sechs Milliarden eingesammelt. Microsoft investiert über zehn Milliarden.

Markus: Trotzdem ist es kein irrelevanter Betrag. Für unabhängige Grundlagenforschung ist es erheblich.

Sarah: Was mich interessiert: Das Astera Institute ist nonprofit. Kein Renditedruck. Keine Quartalszahlen. Das ist strukturell anders als OpenAI oder Anthropic.

Markus: Und das ist vielleicht der eigentliche strategische Vorteil. Du kannst Dinge ausprobieren, die sich kurzfristig nicht rechnen. Transformer-Alternativen brauchen genau diesen Raum.

Sarah: Ob das ausreicht, um gegen die Rechenzentren von Google, Microsoft und Meta anzukommen — das ist offen. Aber der Ansatz ist legitim.

Markus: Für Unternehmen, die KI-Strategie machen: Das ist ein Signal. Die Transformer-Dominanz ist kein Naturgesetz. Es gibt alternative Entwicklungspfade.

Sarah: Gut. Letztes Thema: Google Project Mariner. Ein strategischer Umbau. Unspektakulär in der Nachricht. Bedeutsam in der Implikation.

Markus: Project Mariner war Googles Browser-Agent. Der sollte im Browser navigieren, Formulare ausfüllen, Aufgaben erledigen. Ein echter UI-Agent.

Sarah: Google verlagert jetzt Mitarbeiter aus dem Projekt in andere Prioritäten. Das offizielle Statement: höherpriorisierte Projekte. Das tatsächliche Signal: Coding-Agenten gewinnen.

Markus: Das ist interessant. Browser-Agenten haben ein echtes Problem. Sie sind fragil. Websites ändern sich. Layouts ändern sich. Der Agent muss ständig angepasst werden.

Sarah: Coding-Agenten sind anders gelagert. Code hat Syntax. Klare Regeln. Das ist ein strukturierteres Problem für KI.

Markus: Und der Markt zeigt das. GitHub Copilot, Cursor, Devin — Coding-Agenten haben Adoption. Browser-Agenten kämpfen noch um Anwendungsfälle.

Sarah: Das heißt nicht, dass Browser-Agenten scheitern. Es heißt, dass Google seine Ressourcen dorthin verlagert, wo Umsatz entsteht.

Markus: Für Operations-Leute ist das relevant. Wenn du heute auf KI-Agenten setzt — welche Kategorie ist produktionsreif. Coding-Agenten: ja. Browser-Agenten: noch nicht flächendeckend.

Sarah: Googles Entscheidung ist auch ein Wettbewerbssignal. Anthropic und OpenAI investieren stark in Coding. Google folgt. Die Richtung ist klar.

Markus: Was interessant ist: Project Mariner wird nicht eingestellt. Ressourcen werden verlagert. Das deutet auf eine Strategie-Anpassung, keine Aufgabe.

Sarah: Google kann sich erlauben, mehrere Fronten offen zu halten. Aber Prioritäten zeigen, was verdient wird. Und was im Moment noch nicht.

Markus: Für Unternehmen, die jetzt Agenten evaluieren: Schaut euch an, wohin die großen Player ihre Entwickler schicken. Das ist ein zuverlässiger Indikator.

Sarah: Nicht die Ankündigungen. Die Personalentscheidungen.

Markus: Genau. Wo die Ingenieure sind, ist die Zukunft.

Sarah: Das war PromptLoop für diese Woche. Meta zeigt, dass KI-Governance nicht optional ist. Delve zeigt, was passiert, wenn Compliance zur Checkbox wird.

Markus: Astera und Google zeigen, dass die KI-Architektur-Debatte noch lange nicht abgeschlossen ist.

Sarah: Die Entscheidungen dieser Woche werden Branchen formen. Nicht in zehn Jahren. Jetzt.

Markus: Bis nächste Woche.

Sarah: Bis dann.