KI-Halluzination
Was ist eine KI-Halluzination?
Der Begriff beschreibt das Phänomen, dass generative KI-Modelle – insbesondere Large Language Models (LLMs) – Inhalte erzeugen, die faktisch falsch, frei erfunden oder widersprüchlich sind, dabei aber sprachlich und inhaltlich überzeugend wirken. Das ist keine zufällige Fehlfunktion. Halluzinationen entstehen direkt aus der Art, wie diese Modelle trainiert werden: auf Sequenzvorhersage. Das Modell berechnet statistisch die wahrscheinlichste Fortsetzung eines Textes – nicht die wahrste. Fehlen relevante Informationen im Trainingsdatensatz oder im Kontext, ergänzt das Modell Lücken mit plausibel klingenden Mustern. Abzugrenzen ist das klar vom umgangssprachlichen oder medizinischen Halluzinationsbegriff: In der Psychologie beschreibt er sensorische Wahrnehmungsstörungen. Im KI-Kontext geht es ausschließlich um modellbasierte Fehlgenerierung ohne Faktenbasis.
Wie funktioniert eine KI-Halluzination?
LLMs arbeiten mit Transformer-Architekturen, die Wahrscheinlichkeitsverteilungen über mögliche nächste Token berechnen. Das Modell „weiß" dabei nicht, was wahr ist – es optimiert auf Kohärenz und stilistische Konsistenz mit den Trainingsdaten. Sobald eine Anfrage außerhalb des gut abgedeckten Trainingsbereichs liegt, die Eingabe vage ist oder ein Thema im Trainingsdatensatz unterrepräsentiert war, steigt die Halluzinationswahrscheinlichkeit. Entscheidend ist auch das sogenannte Confidence-Calibration-Problem: Das Modell signalisiert keine Unsicherheit, selbst wenn es de facto rät. Grounding-Techniken – also die Anbindung des Modells an verifizierte, strukturierte Datenquellen – sind aktuell einer der wirkungsvollsten Ansätze zur Mitigation. Ergänzend dazu reduziert präzise Prompt-Steuerung das Risiko, indem Mehrdeutigkeiten eliminiert werden, die das Modell sonst eigenständig und fehlerhaft auflöst. Prädiktive KI-Modelle zeigen strukturell geringere Halluzinationsraten, weil sie auf klar definierten, numerischen Ausgaben operieren – kein freier Textgenerierungspfad, weniger Raum für Fehlergänzung.
KI-Halluzination in der Praxis
In der deutschen Baubranche werden LLMs zunehmend für Risikobewertungen und Vertragsanalysen eingesetzt. Halluzinierte Normanforderungen oder nicht existente DIN-Vorschriften im Ausgabetext können direkt zu Planungsfehlern führen – mit handfesten rechtlichen Konsequenzen. Faktenbasierte Kontrollmechanismen sind hier kein Nice-to-have, sondern Pflicht. In der Kriminalistik – etwa bei der computergestützten Dateianalyse – birgt eine halluzinierte Metadatenangabe oder ein erfundener Zeitstempel das Risiko, Ermittlungen in die falsche Richtung zu lenken. Und im Content-Marketing entstehen durch halluzinierte Statistiken oder falsch zugeschriebene Studien Marken- und Reputationsrisiken, die im Nachgang kaum zu kontrollieren sind. Gemeinsam ist allen drei Feldern: Die Outputs wirken überzeugend – genau das macht sie gefährlich.
Vorteile und Grenzen
Es wäre unfair, Halluzinationen ausschließlich als Problem zu rahmen. In kreativen Kontexten – Brainstorming, Fiktionsschreiben, konzeptionelle Ideenentwicklung – ist die generative „Übererfindung" des Modells oft ein Produktivitätsmultiplikator. Wenn faktische Korrektheit keine Rolle spielt, ist das Halluzinationsrisiko schlicht irrelevant. Die harte Grenze liegt dort, wo Outputs in reale Entscheidungen einfließen: Recht, Medizin, Finanzen, Journalismus. Hier ist das Modell ohne externe Verifikationsschicht strukturell unzuverlässig. Grounding, Retrieval-Augmented Generation (RAG) und menschliche Überprüfungsprozesse senken das Risiko – eliminieren es aber nicht vollständig. Wer generative KI produktiv einsetzt, muss Halluzinationen als inhärentes Systemmerkmal einplanen, nicht als Ausreißer.