Emotion AI am Arbeitsplatz: Neun-Milliarden-Markt auf pseudowissenschaftlicher Basis

Software, die vorgibt, menschliche Emotionen aus Mimik, Stimmlage und Tippverhalten zu lesen, hat sich still und leise in Millionen von Arbeitsplätzen installiert — und der Markt soll bis 2030 auf neun Milliarden Dollar anwachsen. Das Problem: Die wissenschaftliche Grundlage dieser Systeme gilt in Fachkreisen seit Jahrzehnten als überholt, die Diskriminierungsrisiken sind dokumentiert, und die EU hat die Technologie für den Arbeitsplatz bereits verboten. Trotzdem expandiert die Branche — und verlagert ihren Sitz bei Bedarf einfach außerhalb des regulierten Raums. Ein im Mai 2026 erschienener Bericht von Ellen Cushing im The Atlantic liefert das bislang umfassendste Bild dieser Entwicklung. Was dort beschrieben wird, ist kein dystopisches Zukunftsszenario — es läuft bereits.

Was Emotion AI tatsächlich misst — und was nicht

Der Begriff "Emotion AI" klingt präziser als er ist. Was diese Systeme tatsächlich tun: Sie analysieren physische Signale — Gesichtsmuskelaktivität, Sprachmelodie, Atemfrequenz, Tipprhythmus — und leiten daraus emotionale Zustände ab. Das klingt plausibel, ist es aber nur bedingt. Die Neurowissenschaftlerin Lisa Feldman Barrett formuliert das Problem scharf: "Bewegungen, ob in Ihrem Gesicht, Ihrem Körper oder in Ihrem Tonfall, haben keine inhärente emotionale Bedeutung. Sie haben eine relationale Bedeutung."

Das ist keine Randmeinung. Es ist wissenschaftlicher Konsens, der sich gegen die jahrzehntealte Theorie Paul Ekmans richtet — jenes Psychologen, der in den 1960er Jahren sechs universelle Basisemotionen mit je spezifischen Gesichtsausdrücken postulierte. Dieses Modell ist die implizite Architektur hinter den meisten kommerziellen Emotion-AI-Produkten. Es gilt heute als "oversimplistic and methodologically flawed", wie Cushing in ihrem Bericht formuliert. Ein konkretes Gegenbeispiel aus dem Alltag: In den USA runzeln Menschen die Stirn, wenn sie wütend sind, nur in etwa 35 Prozent der Fälle — die Technologie würde in den anderen 65 Prozent falsch liegen oder schlicht raten.

Dennoch hat sich ein ganzes Ökosystem von Produkten um dieses Modell herum gebaut. MetLife überwacht in seinen Callcentern Tonfall und Sprechgeschwindigkeit von Agenten in Echtzeit. Burger King pilotierte den KI-Chatbot "Patty", der über Headsets die Interaktionen von Mitarbeitern auf "Freundlichkeitsmerkmale" scannt. Der Möbelhersteller Framery entwickelte Bürostühle mit eingebauten Biosensoren, die Herzfrequenz, Atemrate und Nervosität messen können. Dazu kommen Slack-Integrationen wie das Tool Aware, das laut Hintergrundrecherchen von US-Konzernen wie Walmart zur Sentiment-Analyse interner Kommunikation eingesetzt wird — und Microsoft Azure bietet analoge Sentiment-Funktionen an.

Dokumentierte Diskriminierung: Wenn das System systematisch falsch liegt

Dass diese Systeme nicht nur ungenau, sondern aktiv diskriminierend wirken können, belegt eine Studie von Lauren Rhue aus dem Jahr 2018. Ihre Analyse zeigte, dass Emotionserkennungs-KI schwarze NBA-Spieler systematisch als wütender einstuften als ihre weißen Teamkollegen — selbst dann, wenn sie lächelten. Die Verzerrung entsteht nicht aus böser Absicht, sondern aus Trainingsdaten, die gesellschaftliche Vorurteile über "typische" emotionale Ausdrücke in Datensätze überführen. Das Ergebnis ist eine technologisch codierte Diskriminierung, die schwerer angreifbar ist als die menschliche Variante, weil sie als objektiv gilt.

Konkrete Konsequenzen für Beschäftigte sind bereits dokumentiert. Laut einer Untersuchung der New York Times aus dem Jahr 2022 wurden Sozialarbeiter bei UnitedHealth wegen vermeintlicher Tastaturinaktivität algorithmisch abgewertet — obwohl sie in diesem Moment mit Patienten sprachen. Der Algorithmus kannte keine Ausnahmen für das Führen von Gesprächen ohne Tippen. Noch drastischer: Die ACLU reichte Beschwerde gegen das KI-Interview-Tool HireVue und dessen Kunden Intuit ein. Einer gehörlosen Mitarbeiterin im Barrierefreiheitsteam wurde eine Beförderung verweigert. Die automatisierte Rückmeldung riet ihr, "practice active listening" zu üben — ein Hinweis, der für eine gehörlose Person schlicht absurd ist. HireVue und Intuit bestreiten die Vorwürfe.

Was diese Fälle gemeinsam haben: Die betroffenen Personen hatten keine Möglichkeit, das System zu hinterfragen oder eine menschliche Überprüfung zu verlangen. Die KI entschied, und die Entscheidung war final. Das ist kein Randproblem — es ist das Strukturproblem dieser gesamten Kategorie von Werkzeugen.

Der EU AI Act: Verbot mit Lücken — und einer Antwort aus Florenz

Die Europäische Union hat auf diese Problemlage reagiert. Artikel 5 Absatz 1 lit. f des EU AI Act verbietet den Einsatz von KI-Systemen zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen — mit expliziten Ausnahmen für medizinische und Sicherheitszwecke. Das Verbot für diesen Bereich trat Anfang 2025 in Kraft, der Hauptteil des AI Act für Hochrisiko-KI folgt ab August 2026. Bei Verstößen drohen Strafen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes.

Das Startup MorphCast hat auf diese Regulierung mit einer unmissverständlichen Reaktion geantwortet: Das Unternehmen verlegte seinen Hauptsitz von Florenz in die San Francisco Bay Area. Die regulatorische Flucht ist legal — und symptomatisch. Wer Emotion AI für den europäischen Markt anbieten will, muss entweder compliant werden oder den Rechtsraum wechseln. Viele wählen Letzteres. Das zeigt, dass das EU-Verbot ohne global koordinierten Regulierungsdruck begrenzte Wirkung entfaltet: Der Markt wandert, die Produkte bleiben verfügbar.

Für DACH-Unternehmen ist die Rechtslage klarer als anderswo. Wer als deutscher oder österreichischer Arbeitgeber Emotion-AI-Tools im HR-Kontext einsetzt, bewegt sich nicht nur im Konflikt mit dem AI Act, sondern auch mit Artikel 22 DSGVO, der automatisierte Einzelentscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung ohne menschliche Überprüfung grundsätzlich untersagt. Eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO wäre in solchen Szenarien Pflicht — und der Ausgang dürfte in den meisten Fällen negativ ausfallen.

Was dagegen spricht: Das beste Argument der Befürworter

Fair ist: Es gibt ein legitimes Argument für den Einsatz von Emotion AI, das man nicht wegwischen sollte. Wer Callcenter-Agenten in hochbelastenden Situationen überwacht, könnte theoretisch früher eingreifen, wenn ein Mitarbeiter unter extremem Stress steht — und damit sowohl die Person als auch die Servicequalität schützen. MetLife argumentiert in diese Richtung: Echtzeit-Feedback über Stimmveränderungen kann Trainingseffizienz verbessern und bei der Qualitätssicherung helfen.

Das Problem ist nicht die Absicht, sondern die Umsetzung. Erstens: Die wissenschaftliche Grundlage ist, wie gezeigt, brüchig — das System misst nicht, was es zu messen behauptet. Zweitens: Selbst wenn es das täte, wäre die Frage nach dem Machtgefälle unbeantwortet. Der Arbeitgeber hat Zugang zu kontinuierlichen emotionalen Profilen seiner Beschäftigten; die Beschäftigten haben keinen Zugang zu den Algorithmen, die über ihre Bewertung entscheiden. Das ist kein neutrales Monitoring — es ist eine Verschärfung eines ohnehin asymmetrischen Verhältnisses. Und drittens — hier liegt das dunkelste Szenario, das Cushing in ihrem Bericht beschreibt: Wenn die Technologie irgendwann wirklich funktioniert, entstünde nicht mehr Transparenz, sondern eine neue Pflicht: die emotionale Selbstdarstellung als Arbeitsleistung. Mitarbeiter müssten dann nicht nur ihren Job erledigen, sondern auch sicherstellen, dass der Algorithmus sie als "ausreichend fröhlich" klassifiziert.

So What? Strategische Implikation für DACH-Entscheider

Wenn du heute als HR-Verantwortlicher, IT-Entscheider oder Geschäftsführer im DACH-Raum über den Einsatz von Analyse-Tools nachdenken musst, die auch nur entfernt emotionale oder behavioristische Signale auswerten, lautet die handlungsleitende Frage nicht "Ist das nützlich?", sondern "Können wir das rechtssicher betreiben?" Die Antwort ist für Emotion AI im engeren Sinne in der EU derzeit: nein. Das Verbot nach Art. 5 AI Act ist keine Auslegungssache — es ist ein Verbot.

Was das für die Praxis bedeutet: Überprüfe bestehende Tool-Stacks auf Sentiment-Analyse-Funktionen in HR-Software, Videointerviewing-Plattformen und internen Kommunikationstools. Tools wie HireVue, Pymetrics oder Imentiv, die explizit mit emotionaler oder behavioristischer Analyse werben, sind in EU-Arbeitsrechts-Kontexten nicht compliant. Auch Microsoft Azure Cognitive Services-Funktionen für Emotionserkennung fallen in diese Kategorie. Wer diese Tools im Einsatz hat, braucht keine Panik — aber einen klaren Fahrplan zur Deaktivierung der betroffenen Features.

Zusätzlich lohnt es sich, den eigenen Betriebsrat frühzeitig einzubinden. In Deutschland hat der Betriebsrat nach § 87 BetrVG ein Mitbestimmungsrecht bei technischen Einrichtungen, die das Verhalten oder die Leistung von Arbeitnehmern überwachen. Emotion-AI-Systeme fallen eindeutig darunter — und wer das ignoriert, riskiert nicht nur regulatorische Sanktionen, sondern auch betriebsinterne Eskalationen.

Fazit: Ein Markt ohne wissenschaftliches Fundament wächst weiter

Emotion AI ist ein Paradebeispiel für einen Technologietrend, der kommerzielle Dynamik entfaltet hat, lange bevor die wissenschaftliche und ethische Debatte aufgeholt hat. Der projizierte Markt von neun Milliarden Dollar bis 2030 zeigt, dass Investoren und Unternehmenskunden bereit sind, für Systeme zu zahlen, deren Kernversprechen — emotionale Zustände zuverlässig aus physischen Signalen ablesen — nach aktuellem wissenschaftlichem Stand nicht einlösbar ist.

Die wahrscheinlichste Entwicklung: Im EU-Raum wird das Verbot durch den AI Act die offensichtlichsten Anwendungsfälle zurückdrängen, während US-amerikanische und asiatische Märkte weiter als Testfeld dienen. Anbieter werden ihre Produkte unter anderen Labels — "Engagement Analytics", "Wellbeing Monitoring", "Conversational Intelligence" — neu verpacken und in Graubereiche vorstoßen. Wenn/dann gilt: Wenn die Technologie sich verbessert und Bias-Probleme adressiert werden, steigt der regulatorische Druck für eine Neubewertung. Bis dahin bleibt die nüchterne Einschätzung: Systeme, die vorgeben zu messen, was sie nicht messen können, sind kein Fortschritt — sie sind ein Haftungsrisiko.