Googles KI-Blackbox: Warum ML in der Suche so schwer zu kontrollieren ist

Die Aussage wurde vielerorts verkürzt als Eingeständnis mangelnder Kontrolle interpretiert. Das trifft den Kern nicht. Todorovic beschrieb eine historische Hürde bei der Skalierung von ML in Systemen, die auf Stabilität und Debuggbarkeit angewiesen sind — nicht eine aktuelle Schwäche der AI-Overviews-Architektur. Der Unterschied ist relevant. Wer die Mechanik dahinter versteht, erkennt, warum traditionelle SEO-Grundlagen weiterhin zählen, selbst wenn Google die Darstellung von Suchergebnissen fundamental verändert.

SafeSearch als Versuchslabor: Wie Google ML isoliert lernen ließ

Todorovic beschreibt SafeSearch als einen der ersten echten Testfelder für maschinelles Lernen innerhalb von Google Search. Der Grund ist strukturell: SafeSearch-Systeme konnten vom zentralen Ranking-Flow isoliert werden. Das Team konnte eigenständige Bild- und Videoclassifikatoren betreiben, die ein Signal lieferten — zum Beispiel, wie explizit ein Ergebnis sein könnte. Wenn ein Modell Fehler produzierte oder ersetzt werden musste, ließ sich das beheben, ohne das restliche Suchsystem zu beeinträchtigen.

Diese Isolation war kein Zufall, sondern ein bewusstes Design-Prinzip. ML-Modelle sind schwerer zu debuggen als regelbasierte Systeme. Wenn sich ein Modell im Laufe der Zeit verändert, ein neues Modell integriert wird oder ein Systemupdate das Verhalten beeinflusst, fehlt oft der direkte Einblick in die Kausalität. Todorovic nennt das präzise: Die Modelle fungieren "wie eine Art Blackbox", weil Ingenieure nicht immer verstehen, was intern geschieht.

Dieses Problem ist in der KI-Forschung gut dokumentiert. IBM beschreibt Black-Box-KI als Systeme, bei denen Nutzer zwar Input und Output sehen, aber nicht die Entscheidungsfindung dahinter nachvollziehen können — und betont, dass selbst die Entwickler großer Sprachmodelle diesen Prozess nicht vollständig durchdringen. Der Fortschritt bei konvolutionalen neuronalen Netzen vor etwa zwölf Jahren machte SafeSearch laut Todorovic zu einem natürlichen frühen Anwendungsfall: Die Bilderkennungsleistung verbesserte sich dramatisch, und der isolierte Kontext erlaubte es, diese Verbesserungen einzusetzen, ohne das Gesamtsystem zu gefährden.

Was SafeSearch als Modell zeigt: Skalierbare ML-Integration in kritische Systeme erfordert Kontrollierbarkeit. Die Blackbox-Natur von Modellen ist kein Deal-breaker — sie erfordert nur eine Architektur, die Fehler eingrenzbar macht.

AI Overviews: Old School darunter, KI darüber

Todarovics Beschreibung von AI Overviews ist technisch präzise und strategisch aufschlussreich zugleich. Er bezeichnet das Feature als etwas, das sich "auf die bestehenden Abruf- und Ranking-Systeme von Google draufstempelt". Was darunter läuft, nennt er explizit "Old Style, Old School" — also die klassischen Retrieval- und Ranking-Mechanismen, die Google seit Jahren betreibt.

Das konkrete Verfahren: AI Overviews können sogenannte Fan-Out-Queries verwenden. Google identifiziert dabei zusätzliche Abfragen, die mit dem ursprünglichen Suchbegriff verwandt sind, führt sie parallel aus und führt die Ergebnisse zu einer einzigen Antwort zusammen. Anschließend kombiniert und fasst das System Informationen aus ausgewählten Ergebnissen zusammen — inklusive Quelltext, Snippets, Titeln und weiterem Seitenkontext.

Was das für die Praxis bedeutet: Traditional Search Ranking bleibt die Eingangspforte. Wer in klassischen Suchergebnissen gut rankt, erhöht seine Chancen, in AI Overviews zitiert zu werden. Die KI-Schicht darüber entscheidet, wie diese Inhalte aggregiert und präsentiert werden — aber sie kann nicht ohne die darunter liegenden Systeme. Search Engine Journal fasst das treffend zusammen: Todarovics Kommentare unterstreichen, dass traditionelle Suchsysteme auch für KI-Features weiterhin relevant sind.

Das ist eine wichtige Korrektur gegenüber einem verbreiteten Missverständnis: AI Overviews sind kein eigenständiger Ersatz für die klassische Suche. Sie sind eine Schicht, die auf bestehende Infrastruktur aufsetzt und deren Qualität direkt davon abhängt.

AI Mode: Mehr Eigenständigkeit, andere Architektur

Todorovic unterscheidet explizit zwischen AI Overviews und dem neueren AI Mode. Letzterer folge zwar einem ähnlichen Muster, operiere aber mit mehr Unabhängigkeit. Er beschreibt ihn als weiterhin auf Search laufend, aber mit einer "größeren Plattform für sich selbst".

Diese Unterscheidung ist mehr als semantisch. AI Overviews sind stärker an den klassischen Search-Flow gebunden — sie stampen sich, wie Todorovic sagt, auf bestehende Systeme drauf. AI Mode hingegen hat laut seiner Beschreibung mehr eigene Infrastruktur. Was das konkret bedeutet: Die Abhängigkeit von klassischen Ranking-Signalen könnte beim AI Mode geringer sein als bei AI Overviews. Messbarkeit, Sichtbarkeit und Optimierungslogik könnten sich zwischen beiden Modi unterscheiden.

Das ist für SEO-Strategen und Content-Teams in DACH-Unternehmen eine relevante Weichenstellung. Wenn Google AI Mode weiter ausbaut und die Infrastruktur stärker entkoppelt, könnten traditionelle SEO-Metriken für diesen Kanal an Aussagekraft verlieren. Die Frage, welche Signale AI Mode für seine Antworten heranzieht, bleibt vorerst offen — und das ist kein kleines Detail.

Das Fraunhofer IAO beschreibt das zentrale Problem erklärbarer KI: Je leistungsfähiger ein Modell wird, desto schwieriger wird es, seine Entscheidungen nachzuvollziehen. Genau in dieser Spannung operiert Google — mit Systemen, die immer leistungsfähiger werden, aber deren interne Logik weder vollständig offengelegt noch immer vollständig verstanden wird.

Was dagegen spricht: Die Blackbox-Warnung überschätzt das Problem

Das "Blackbox"-Zitat von Todorovic hat Aufmerksamkeit erregt — aber es lohnt sich, den Kontext klar zu halten. Todorovic sprach nicht über einen aktuellen Kontrollverlust bei AI Overviews oder AI Mode. Er erklärte, warum Google ML in der Vergangenheit nicht einfach flächendeckend in der Suche einsetzen konnte. Das ist eine historische Einordnung, keine Systemkritik an aktuellen Produkten.

Google hat AI Overviews und AI Mode mit erheblichem Engineering-Aufwand aufgebaut. SafeSearch hat gezeigt, dass isolierte Deployment-Strategien funktionieren. Die Fan-Out-Architektur von AI Overviews ist dokumentiert. Das ist kein unkontrolliertes System — es ist ein System, bei dem bestimmte interne Vorgänge auch für die Entwickler schwer zu interpretieren sind. Dieser Unterschied ist wichtig.

Zudem existieren methodische Ansätze, um mit Blackbox-Modellen umzugehen, ohne auf Leistung zu verzichten. Erklärbare KI-Methoden wie LIME, SHAP-Werte oder GradCAM ermöglichen es, auch opake Modelle nachträglich besser zu verstehen. Governance-Tools können Anomalien erkennen, ohne die komplette Modelllogik offenzulegen. Die Blackbox ist ein reales Problem — aber kein unlösbares.

Was bleibt: Ein Ingenieur hat intern genutzte Einschränkungen ehrlich beschrieben. Das ist wertvoller als PR-Kommunikation. Und es liefert legitime Hinweise darauf, warum Google bei der Skalierung von ML vorsichtig vorgeht — nicht weil die Kontrolle fehlt, sondern weil die Komplexität real ist.

So What? Was DACH-Entscheider jetzt daraus mitnehmen sollten

Für Unternehmen und Content-Teams in Deutschland, Österreich und der Schweiz liefert Todarovics Statement drei strategische Lektionen. Erstens: Klassische SEO-Grundlagen bleiben relevant. Solange AI Overviews auf dem bestehenden Retrieval- und Ranking-System aufbauen, zahlen strukturierte Inhalte, klare Themenfokussierung und technische SEO-Qualität direkt auf die KI-Sichtbarkeit ein. Wer dort gut positioniert ist, erhöht seine Chancen, in AI-generierten Antworten zu erscheinen.

Zweitens: AI Mode verdient separate Beobachtung. Da er laut Todorovic über mehr eigene Infrastruktur verfügt, könnten die Spielregeln dort andere sein. Unternehmen sollten beginnen, zwischen AI-Overviews-Sichtbarkeit und AI-Mode-Sichtbarkeit zu differenzieren — auch wenn Google selbst noch keine vollständige Transparenz darüber bietet.

Drittens: Die Blackbox-Natur von ML ist kein Google-spezifisches Problem, sondern ein strukturelles Merkmal aller großen KI-Systeme. Im Kontext des EU AI Act ist das relevant: Ab August 2026 greift der Hauptteil des AI Act, der für Hochrisiko-KI-Systeme Transparenz- und Erklärbarkeitsanforderungen stellt. Google Search ist zwar nicht als Hochrisiko-KI klassifiziert, aber der regulatorische Druck auf Erklärbarkeit wächst grundsätzlich. Unternehmen, die KI-Systeme in sensiblen Bereichen einsetzen — etwa HR, Kreditvergabe oder medizinische Empfehlungen — sollten jetzt prüfen, wie sie mit der Blackbox-Natur ihrer eigenen Modelle umgehen, bevor die Compliance-Uhr tickt.

Laut aktuellen Erhebungen haben 94 Prozent der deutschen Mittelstandsfirmen noch keine KI implementiert (Quelle: Dr. Justus & Partners, Januar 2026). Wer jetzt beginnt, kann von den Lektionen profitieren, die Google in 15 Jahren Engineering gelernt hat: Isolation vor Skalierung, Kontrollierbarkeit vor Vollständigkeit, dokumentierte Architektur vor schnellem Deployment.

Fazit: Die ehrlichste KI-Erklärung kommt von innen

Nikola Todarovics Aussagen sind deshalb wertvoll, weil sie ungefiltert zeigen, wie ein Unternehmen mit den Grenzen seiner eigenen Technologie umgeht. Die Blackbox ist real — und Google hat über Jahre Wege entwickelt, mit ihr produktiv umzugehen: durch Isolation, durch schrittweise Integration, durch Fan-Out-Architekturen, die klassische Systeme mit KI-Schichten kombinieren.

Die strategische Prognose: Solange AI Overviews auf traditionellen Ranking-Systemen aufbauen, bleibt klassisches SEO eine valide Investition. Wenn Google AI Mode weiter ausbaut und stärker von der klassischen Search-Infrastruktur entkoppelt, wird sich das verschieben. Wann und wie stark — das bleibt offen. Aber die Signale sind früh genug da, um sich vorzubereiten. Wer Todarovics Interview als reine Technikmeldung abtut, verpasst einen der seltenen Momente, in denen Google erklärt, wie das System wirklich funktioniert.