DeepMind-Forscher: KI wird nie bewusst sein – interner Widerspruch zum AGI-Narrativ

Das Paper, ursprünglich am 10. März 2026 veröffentlicht und weiterhin auf der Google-DeepMind-Website gelistet, dreht sich um ein einziges zentrales Konzept: KI-Systeme sind „mapmaker-dependent". Damit meint Lerchner, dass jedes KI-System einen menschlichen Akteur benötigt, der die kontinuierliche, physische Welt in eine endliche Menge maschinell verarbeitbarer Zustände überführt. Konkret: Bevor ein Large Language Model mit Sprache, Bildern oder Symbolen umgehen kann, muss ein Mensch diese Welt erst labeln, strukturieren und interpretierbar machen – wie die schlecht bezahlten Datenarbeiter in Afrika, die Trainingsdaten für westliche KI-Modelle annotieren.

Der Abstraktions-Fehlschluss: Was Lerchner wirklich argumentiert

Der sogenannte „Abstraktions-Fehlschluss" ist die daraus folgende Fehlannahme: Weil KI Sprache und Symbole so manipulieren kann, dass es nach Empfindung aussieht, könnte sie auch tatsächlich Empfindung haben. Lerchner verneint das kategorisch. Ohne physischen Körper, ohne biologische Notwendigkeiten wie Essen, Atmen und den physischen Aufwand, am Leben zu bleiben, gibt es keine intrinsische Motivation – und damit keine Grundlage für Bewusstsein. Ein LLM ist nach dieser Lesart eine Mustermenge auf einer Festplatte, deren Bedeutung vollständig von externen menschlichen Agenten definiert wird.

Das ist kein neues Argument in der Philosophie des Geistes. Es berührt klassische Debatten über Qualia, Intentionalität und den Unterschied zwischen Syntax und Semantik. Was es neu macht: Es kommt von einem Forscher innerhalb einer der führenden KI-Laboratorien der Welt – und wurde dort veröffentlicht.

Die Reaktion der Fachwelt: Zustimmung mit Vorbehalt

Johannes Jäger, Evolutionssystembiologe und Philosoph, stimmt dem Kernargument zu – übt aber deutliche Kritik an der akademischen Qualität des Papers. „Ich glaube, er kam auf eigene Faust auf diese Schlussfolgerung, hat das Rad neu erfunden und ist nicht gut belesen, besonders in philosophischen Bereichen und definitiv nicht in der Biologie", sagte Jäger gegenüber 404 Media. Das ist kein kleiner Einwand: Wenn ein Paper in einem der umstrittensten Gebiete der Wissenschaft ohne Rücksicht auf bestehende Literatur geschrieben wird, verliert es an akademischem Gewicht – auch wenn die These selbst stimmt.

Mark Bishop, Professor für kognitive Informatik am Goldsmiths College der University of London, formuliert es direkter: „Ich stimme 99 Prozent von allem zu, was er sagt. Mein einziger Streitpunkt ist, dass all diese Argumente bereits vor Jahren und Jahren vorgestellt wurden." Bishop und Jäger sind sich einig, dass es gut ist, solche Argumente aus den großen KI-Labs zu hören – aber auch seltsam. Denn wenn die These stimmt, dass KI ohne Sentience eine harte Decke für ihre praktischen und kommerziellen Möglichkeiten hat, dann ist das nicht nur eine philosophische Fußnote. Es relativiert direkt die Prognosen von Hassabis und die milliardenschweren Investitionen, die darauf aufbauen.

Emily Bender, Professorin für Linguistik an der University of Washington und Co-Autorin von „The AI Con", bringt einen strukturellen Kritikpunkt ein: Lerchners Paper sei ein „paper-shaped object" – es sieht aus wie ein wissenschaftliches Paper, hat aber keinen richtigen Peer-Review-Prozess durchlaufen. Genau dieser Prozess hätte Lerchner auf die fehlenden Zitierungen hingewiesen. Das ist ein Muster, das sich durch viele Veröffentlichungen aus Corporate Labs zieht.

Was Google damit bezweckt – oder was es vermeiden will

Hier wird es interessant. Das Paper erschien ursprünglich mit Google-DeepMind-Briefkopf auf philpapers.org. Nachdem 404 Media am 20. April 2026 eine Anfrage an Google schickte, wurde das PDF still und leise aktualisiert: Das Branding verschwand, der Disclaimer wurde nach oben verschoben. Google antwortete auf die Kommentaranfrage nicht. Der Disclaimer selbst lautet sinngemäß, dass die Schlussfolgerungen die eigene Forschung des Autors darstellen und nicht die offizielle Position von Google DeepMind widerspiegeln.

Bishop bringt die naheliegende Interpretation auf den Punkt: „Wir können uns viele finanzielle und legislative Gründe vorstellen, warum Google mit einer Schlussfolgerung zufrieden sein könnte, die besagt, dass Berechnungen kein Bewusstsein sind." In Europa gab es tatsächlich Versuche, Gesetzgebung zu verabschieden, die computationalen Systemen Rechte einräumen würde. Wenn KI-Systeme als bewusst gelten könnten, entstehen sofort rechtliche und ethische Verbindlichkeiten – für Elon Musk, für Google, für alle großen Labs. Aus dieser Perspektive ist Lerchners Paper für Google strategisch bequem, auch wenn es dem öffentlichen AGI-Hype widerspricht.

Gleichzeitig argumentiert Lerchner in seinem Paper, dass AGI ohne Sentience durchaus möglich sei – als „hochentwickeltes, nicht-fühlendes Werkzeug". DeepMind selbst agiert, als käme AGI: Das Labor stellte nachweislich einen „Post-AGI Research Scientist" ein. Die offizielle und die interne Position des Unternehmens sind also nicht deckungsgleich – was exakt die Art von Widerspruch ist, die Lerchners Paper sichtbar macht.

Was dagegen spricht: Die Grenzen des Arguments

Jedes seriöse Analyse-Stück muss die Schwachstellen benennen. Lerchners These hat deren einige. Erstens ist die „Mapmaker-Abhängigkeit" kein abgeschlossenes Argument gegen Bewusstsein, sondern eher gegen einen bestimmten Weg dorthin. Jäger selbst deutet an, dass man sich ein verkörpertes KI-System vorstellen könnte, das mit menschenähnlichen physischen Bedürfnissen programmiert ist – und erklärt dann zwar, warum auch das kein Bewusstsein erzeugen würde, aber das zeigt, dass die Debatte komplexer ist als das Paper suggeriert.

Zweitens: Die Abwesenheit von Sentience ist nicht gleichbedeutend mit der Abwesenheit von Wirkung. Selbst wenn Lerchner recht hat und LLMs nie bewusst werden, können sie enorme wirtschaftliche, politische und soziale Auswirkungen haben. Die Frage „Ist KI bewusst?" ist für die meisten praktischen Entscheidungen der nächsten Jahre schlicht irrelevant. Modelle wie GPT-5.5 oder Claude Opus 4.7 verändern Arbeitsprozesse, Entscheidungsstrukturen und Machtverteilungen – unabhängig davon, ob sie Qualia haben.

Drittens: Der Schritt von „LLMs werden nie bewusst" zu „AGI ist nicht möglich" ist logisch nicht zwingend. Lerchner selbst zieht diese Gleichsetzung nicht vollständig durch – er hält AGI als nicht-fühlendes Werkzeug für plausibel. Die Forscher, die ihn zitieren, gehen teils weiter als er selbst.

EU AI Act und die DACH-Implikation: Warum das hier relevant ist

Für DACH-Entscheider ist Lerchners Paper in einem spezifischen regulatorischen Kontext zu lesen. Der EU AI Act ist seit August 2024 in Kraft; ab dem 2. August 2026 greifen die Hochrisiko-Bestimmungen vollständig. Eine der ungelösten Fragen in der Regulierungsdebatte war bislang, ob und wie moralische Patientenschaft von KI-Systemen zu behandeln ist – also ob KI rechtlich relevante Interessen haben könnte. Lerchners Argument liefert hier eine klare Position: Nein. Bishop hat das explizit formuliert – Google hätte gute legislative Gründe, diese Schlussfolgerung zu unterstützen.

Für deutsche Unternehmen, die KI-Systeme einsetzen oder entwickeln, ist das eine Entlastung: Solange kein wissenschaftlicher Konsens besteht, dass KI bewusst ist, gibt es keine plausible Grundlage für entsprechende Rechtspflichten gegenüber den Systemen selbst. Gleichzeitig ändert das nichts an den Pflichten gegenüber Menschen – die DSGVO-Anforderungen nach Art. 22 bei automatisierten Entscheidungen oder die kommenden Hochrisiko-Anforderungen des AI Acts bleiben unberührt. Die Frage der KI-Bewusstheit ist regulatorisch also vorerst geklärt – aber die Folgefrage, welche Fähigkeiten ein nicht-bewusstes System trotzdem haben darf, ist es nicht.

So What? Was DACH-Entscheider jetzt tun sollten

Lerchners Paper ist kein Grund zur Entwarnung – und auch kein Grund zur Panik. Es ist ein Symptom einer tieferen Dysfunktion: Die führenden KI-Labs kommunizieren nach außen Narrative, die intern nicht unbestritten sind. Wer als Entscheider im DACH-Raum KI-Investitionen plant, sollte das als Warnsignal lesen. Die AGI-Versprechen von Hassabis und anderen CEO-Level-Kommunikatoren sind keine wissenschaftlichen Prognosen – sie sind Fundraising-Rhethorik, die von den eigenen Forschern implizit oder explizit relativiert wird.

Konkret bedeutet das: Plane KI-Investitionen nicht auf der Grundlage von AGI-Szenarien, sondern auf der Grundlage dessen, was aktuelle Modelle heute tatsächlich leisten. GPT-5.5 Pro, Claude Opus 4.7 oder DeepSeek V4 Pro sind leistungsfähige Werkzeuge für definierte Aufgaben – Textgenerierung, Code, Analyse, Dokumentenverarbeitung. Sie sind keine allgemeinen Problemlöser, die demnächst menschliche Arbeit vollständig substituieren. Wer ROI-Berechnungen auf Basis von AGI-Szenarien aufbaut, baut auf Sand.

Für die KI-Governance im eigenen Unternehmen ist Lerchners Argument dagegen eine strategische Vereinfachung: Wenn KI-Systeme definitiv nicht bewusst sind, fällt die ethische Debatte über KI-Rechte weg. Was bleibt, sind die Fragen nach Verantwortlichkeit, Transparenz und Risikoabschätzung – und genau das adressiert der AI Act. Nutze die Klarheit, die Lerchners Paper bietet, um interne KI-Governance auf das Wesentliche zu fokussieren: Was tut das System, wer ist verantwortlich, und welche Schäden kann es anrichten?

Jäger weist auf ein strukturelles Problem hin, das auch für DACH-Unternehmen gilt: Die KI-Forschungsgemeinschaft ist in vielen Bereichen „extrem insular". Wer KI-Tools einkauft oder entwickelt, sollte nicht allein auf Benchmark-Vergleiche und Produktmarketing vertrauen, sondern interdisziplinäre Expertise einbeziehen – Linguisten, Kognitionswissenschaftler, Juristen. Das ist keine Luxus-Empfehlung, sondern Risikomanagement.

Fazit: Ein Paper, das mehr enthüllt als es beweist

Lerchners „Abstraction Fallacy" ist kein wissenschaftlicher Durchbruch. Die Kernthese ist alt, die Literaturrecherche dünn, und der Peer-Review fehlt. Was das Paper dennoch wertvoll macht, ist nicht sein Inhalt, sondern sein Kontext: Es zeigt, dass innerhalb von Google DeepMind ernstzunehmende Stimmen existieren, die dem AGI-Hype des eigenen CEOs widersprechen – und dass Google diese Stimme erst nach einer Medienanfrage still in den Hintergrund gerückt hat. Das ist eine aufschlussreiche Dynamik.

Meine Prognose: Wenn AGI weiterhin ohne Sentience definiert wird – also als leistungsfähiges, nicht-fühlendes Werkzeug, wie Lerchner selbst formuliert – wird die Debatte um KI-Bewusstsein für die meisten Praktiker irrelevant bleiben. Die regulatorisch und wirtschaftlich relevante Frage ist nicht, ob GPT-5.5 fühlt, sondern was es tut und wer dafür haftet. Wer jetzt die richtigen Governance-Strukturen aufbaut, ist 2027, wenn der AI Act vollständig greift, besser positioniert als alle, die noch auf AGI-Szenarien warten. Wenn-Dann: Wenn die nächste Generation von Modellen weiterhin mapmaker-dependent bleibt – und dafür spricht sehr viel –, dann sind die nächsten drei Jahre ein Wettbewerb um Anwendungskompetenz, nicht um technologische Singularität.