Google-Mitarbeiter an Pichai: Keine KI für geheime Militäraufträge

Die Kernthese ist einfach, aber unbequem: Google hat seine eigenen KI-Prinzipien systematisch ausgehöhlt — und die Belegschaft hält dem Konzern jetzt den Spiegel vor. Über 580 Mitarbeiter, darunter mehr als 20 Direktoren, Senior Directors und Vice Presidents, haben CEO Sundar Pichai in einem offenen Brief aufgefordert, die KI-Systeme des Unternehmens nicht für klassifizierte Aufträge des US-Verteidigungsministeriums bereitzustellen. Der Brief, der Bloomberg News vorlag und am Montag an Pichai übergeben wurde, ist kein Zeichen vereinzelter Unruhe. Er ist das Symptom eines strukturellen Widerspruchs zwischen dem, was Google öffentlich verspricht, und dem, was es kommerziell anstrebt.

Das Timing ist kein Zufall. Das Pentagon baut seinen Einsatz von KI massiv aus — Milliarden von Dollar fließen in autonome Waffensysteme und militärische KI-Infrastruktur. Google ist mittendrin: Im März wurde Gemini für die unklassifizierte Nutzung der rund drei Millionen Mitarbeiter des Pentagons freigeschaltet, im Dezember davor bereits der Gemini-Chatbot. Und hinter den Kulissen laufen laut übereinstimmenden Berichten bereits Verhandlungen über den Einsatz von Google-KI auf klassifizierten Cloud-Systemen. Die Mitarbeiter wissen das — und sie ziehen jetzt eine Grenze, die die Unternehmensführung nicht mehr ziehen will.

Von "Don't be evil" zu "All lawful uses": Wie Google seine roten Linien aufgab

Wer verstehen will, warum dieser Brief so viel Gewicht hat, muss 2018 beginnen. Damals protestierten Google-Mitarbeiter gegen Project Maven — ein Pentagon-Programm, das maschinelles Lernen nutzte, um Objekte auf Drohnen-Videofeeds zu analysieren. Der Aufschrei war massiv, Dutzende kündigten, und Google reagierte mit formalen KI-Prinzipien: Das Unternehmen verpflichtete sich, keine Technologien zu entwickeln, deren Hauptzweck darin besteht, Menschen zu verletzen oder Waffensysteme zu steuern. Den Maven-Vertrag verlängerte Google nicht.

Diese Episode galt lange als Beweis, dass Belegschaft und Unternehmenskultur im Silicon Valley tatsächlich ethische Grenzen durchsetzen können. Doch was folgte, war keine dauerhafte Kurskorrektur — es war eine taktische Pause. In den vergangenen Jahren hat Google seine Rüstungsbindungen schrittweise wieder aufgebaut. Und im Februar 2025 entfernte das Unternehmen einen zentralen Passus aus seinen KI-Prinzipien (Techno-Science): das ausdrückliche Versprechen, KI nicht in potenziell schädlichen Anwendungen wie Waffen einzusetzen. Die Begründung blieb vage. Die Wirkung war klar.

Besonders aufschlussreich ist, was Emil Michael, der Unterstaatssekretär des Verteidigungsministeriums für Forschung und Entwicklung, im März gegenüber Bloomberg erklärte: Man werde mit der unklassifizierten Nutzung von Googles Gemini-Agenten beginnen und dann zu klassifizierten und streng geheimen Anwendungen übergehen. Gespräche über den Einsatz von KI-Agenten in der klassifizierten Cloud liefen bereits. Im April berichtete das Fachblatt The Information dann von Verhandlungen über "all lawful uses" — eine Formulierung, die Anthropic zuvor explizit als unakzeptabel abgelehnt hatte, weil sie theoretisch vollständig autonome Waffensysteme und Massenüberwachung einschließen könnte.

Das Kontroll-Problem: Warum Air-Gapped-Systeme das Versprechen wertlos machen

Der entscheidende technische Einwand im Brief wird von Sofia Liguori auf den Punkt gebracht. Die KI-Forschungsingenieurin bei Google DeepMind in Großbritannien — ausgebildete Theoretische Physikerin aus der Nähe von Mailand — sagt, es sei schlicht unmöglich, die tatsächliche Nutzung von KI-Tools auf "Air-Gapped"-Systemen zu überwachen und zu begrenzen. Diese Systeme sind physisch vom öffentlichen Internet getrennt. Wer einmal ein KI-System in ein solches Netzwerk übergibt, verliert die Kontrolle über seine Nutzung.

Das ist kein theoretisches Problem. Es ist der Kern des gesamten Konflikts. Die Unternehmensführung hat den Mitarbeitern laut Liguori im Wesentlichen gesagt: Vertraut uns, wir werden gute Verträge abschließen. Doch wer nach einem Air-Gapping fragt, weiß: Vertrauen ist kein Kontrollmechanismus. Liguori formuliert es nüchtern: "Agentic AI ist besonders besorgniserregend wegen des Autonomiegrades, den sie erreichen kann. Es ist, als würde man ein sehr mächtiges Werkzeug weggeben und gleichzeitig jede Kontrolle über dessen Nutzung aufgeben."

Genau hier liegt das strukturelle Problem, das keine Vertragsklausel löst. Moderne KI-Agenten — wie Googles Gemini-Agenten, die dem Pentagon bereits zur Verfügung stehen — sind darauf ausgelegt, eigenständig Entscheidungen zu treffen, Aufgaben zu delegieren und in komplexen Systemen autonom zu agieren. In einer unklassifizierten Büroumgebung ist das produktiv. In einem klassifizierten Militärnetzwerk ohne externe Aufsicht ist das eine Blackbox, für die der ursprüngliche Entwickler keine Verantwortung mehr übernehmen kann — auch wenn er es wollte.

Die Gegenposition: Das Pentagon und die Grenzen ziviler Einflussnahme

Es wäre analytisch unvollständig, die Position des Pentagons nicht ernstzunehmen. Das Verteidigungsministerium hat die Einwände von Anthropic — das sich gegen die "all lawful uses"-Formulierung gesperrt hatte — nicht einfach ignoriert, sondern explizit zurückgewiesen. Die Logik des Pentagons ist dabei kohärent: Im Verteidigungsfall oder in der Kriegsvorbereitung kann eine Demokratie nicht zulassen, dass privatwirtschaftliche Unternehmen de facto über Einsatzregeln des Militärs entscheiden.

Diese Argumentation verdient Respekt — sie ist aber kein Freifahrtschein. Denn sie umgeht die eigentliche Frage: Wenn Google selbst nicht in der Lage ist zu überwachen, wie seine Technologie in klassifizierten Netzwerken eingesetzt wird, ist "wir vertrauen dem Vertrag" keine Antwort auf ein Technologieproblem, sondern eine Verantwortungsverschiebung. Das Pentagon kann argumentieren, kommerzielle Unternehmen sollten keine Vetomacht in Sicherheitsfragen haben. Es kann aber nicht die Frage beantworten, wer haftet, wenn ein KI-Agent in einem Air-Gapped-System autonome Entscheidungen trifft, die zivile Opfer verursachen.

Die Unterzeichner des Briefes kennen diese Grauzone — und das ist der Kern ihrer Forderung. Nicht die pauschale Ablehnung jeder Kooperation mit Behörden, sondern die Forderung nach klaren, durchsetzbaren roten Linien. Solange diese fehlen, argumentieren sie, sei die einzige Sicherheitsgarantie die Ablehnung klassifizierter Aufträge überhaupt: "Currently, the only way to guarantee that Google does not become associated with such harms is to reject any classified workloads."

Was das für den EU AI Act bedeutet

Für europäische Entscheider ist dieser Konflikt keine rein amerikanische Angelegenheit. Googles KI-Infrastruktur — Gemini-Modelle, Cloud-Dienste, DeepMind-Technologie — wird auch in Europa eingesetzt, von Unternehmen und staatlichen Stellen gleichermaßen. Der EU AI Act, der seit August 2025 mit seinen GPAI-Regeln und Governance-Anforderungen in Kraft ist, stellt an Anbieter von KI-Systemen mit hohem Risiko erhebliche Anforderungen an Transparenz und menschliche Aufsicht.

Das Problem: Was Google auf klassifizierten US-Militärnetzwerken tut, entzieht sich per Definition der öffentlichen Prüfbarkeit — und damit auch der DSGVO-Aufsicht und der AI-Act-Compliance europäischer Behörden. Wer Google-Produkte in kritischen europäischen Infrastrukturen einsetzt, verlässt sich darauf, dass die Governance eines US-Konzerns ausreicht, um militärische Fehlanwendungen zu verhindern. Das ist kein juristisches, sondern ein strukturelles Vertrauensproblem.

Deutsche Industrieunternehmen, die Googles Cloud-Dienste für sensible Prozesse nutzen, sollten diesen Konflikt genau beobachten. Die Frage, ob ein Cloud-Anbieter auch auf Druck des eigenen Verteidigungsministeriums nachgibt und wie das die Integrität des gesamten Ökosystems beeinflusst, ist keine abstrakte Regulierungsfrage — sie ist eine konkrete Lieferkettenrisikoabwägung.

So What? Was DACH-Entscheider jetzt tun sollten

Der Brief der Google-Mitarbeiter ist mehr als ein Arbeitnehmerprotest. Er dokumentiert, dass selbst intern niemand bei Google verlässlich weiß, wie die eigene KI in klassifizierten Netzwerken genutzt wird — oder werden könnte. Das ist eine Aussage, die weit über den Rüstungskontext hinausgeht. Sie trifft jeden, der auf Googles KI-Infrastruktur aufbaut.

Für DACH-Entscheider ergeben sich drei konkrete Handlungsfelder. Erstens: Wer Google Cloud oder Gemini-Produkte für sensible Daten nutzt, sollte die aktuelle Nutzungsrichtlinien-Entwicklung aktiv verfolgen. Die Entfernung des Passus gegen waffenbezogene KI-Nutzung aus Googles Prinzipien ist kein Randdetail — es ist ein Signal, in welche Richtung sich die Governance bewegt. Zweitens: Vertragsklauseln allein reichen nicht. Wer KI-Systeme für kritische Entscheidungsprozesse einsetzt, braucht technische Audit-Mechanismen, keine vertraglichen Vertrauensversprechen. Drittens: Der AI Act bietet hier einen Hebel. Hochrisiko-KI-Systeme im Sinne des AI Act erfordern menschliche Aufsicht, Transparenz und Dokumentation. Wer diese Anforderungen ernst nimmt, zwingt Anbieter indirekt zu mehr Klarheit darüber, wo und wie ihre Systeme tatsächlich eingesetzt werden.

Die Konsequenz für IT-Entscheider in Unternehmen ist unbequem, aber klar: Ein Cloud-Anbieter, der selbst intern keine klaren roten Linien ziehen kann oder will, ist ein schlechterer Partner für kritische Infrastruktur — unabhängig von Leistungsdaten und Preismodellen.

Fazit: Maven ist nicht vorbei — und das Problem auch nicht

Die Organisatoren des Briefes haben einen Satz gewählt, der als politische Aussage klingt, aber eine technische Realität beschreibt: "Maven ist nicht vorbei." Was 2018 als einmaliger Aufstand gegen ein einzelnes Projekt begann, ist inzwischen ein struktureller Dauerkonflikt zwischen dem kommerziellen Wachstumsdruck großer KI-Konzerne und den ethischen Grundsätzen ihrer Belegschaft.

Google hat diesen Konflikt 2018 durch Nachgeben gelöst. Die Unternehmensführung hat daraus gelernt — aber nicht die richtige Lektion. Statt klare Governance zu etablieren, hat sie die roten Linien schrittweise verschoben und ausgedünnt. Das Ergebnis ist ein Vertrauensdefizit, das nun in einem Brief mit über 580 Unterschriften sichtbar wird.

Die Prognose ist nüchtern: Wenn Google nicht aktiv kommuniziert, welche konkreten und überprüfbaren Grenzen für klassifizierte Militärnutzung gelten, wird der Protestzyklus sich wiederholen. Und wenn das Pentagon tatsächlich zu klassifizierten Anwendungen von Gemini-Agenten übergeht — was Emil Michael bereits angekündigt hat — dürfte die nächste Eskalationsstufe nicht lange auf sich warten lassen. Die Frage ist nicht ob, sondern wann Google gezwungen wird, Farbe zu bekennen. Wer auf klare Antworten wartet, sollte die Vertragsdetails genau lesen.