Project Deal: Was passiert, wenn KI-Agenten echtes Geld ausgeben dürfen

KI-Agenten können Menschen auf einem Marktplatz vertreten. Das ist technisch möglich — und das ist fast das Einzige, was Anthropics jüngstes Experiment eindeutig bewiesen hat. Der Rest ist eine Mischung aus echtem Potenzial, absurder Anekdote und dem nüchternen Befund, dass zwischen "es funktioniert prinzipiell" und "es funktioniert gut" ein beträchtlicher Graben liegt. Wer verstehen will, wo autonome KI-Agenten im wirtschaftlichen Kontext heute wirklich stehen, sollte sich Project Deal genau ansehen — nicht wegen der 186 abgeschlossenen Deals, sondern wegen dem, was dabei schiefgelaufen ist.

Anthropic hat mit Project Deal einen internen Craigslist-ähnlichen Kleinanzeigenmarkt aufgebaut, auf dem KI-Agenten im Auftrag menschlicher Mitarbeiter Waren kaufen und verkaufen. Das Experiment steht nicht isoliert: Bereits Ende 2025 ließ das Unternehmen Claude einen Verkaufsautomaten in den Büros des Wall Street Journal betreiben — mit einem Startbudget von 1.000 Dollar, das die KI unter anderem für eine PlayStation 5, mehrere Flaschen Wein und einen lebenden Kampffisch aufbrauchte. Die praktische Schlussfolgerung damals: KI-Agenten können noch kein Vollzeitgeschäft führen. Project Deal ist der nächste Schritt in diesem selbstkritischen Experimentiermodus — und die Ergebnisse sind mindestens genauso aufschlussreich.

Der Aufbau: Claude als Marktforscher und Unterhändler in einer Person

Für Project Deal rekrutierte Anthropic 69 eigene Mitarbeiter, die bereit waren, persönliche Gegenstände anzubieten oder zu kaufen. Das Spektrum reichte von Snowboards und Tastaturen über Lampen bis zu Tischtennisbällen. Jeder Teilnehmer erhielt ein Budget von 100 Dollar. Claude interviewte alle Beteiligten und fragte nach Verkaufsabsichten, Wunschkäufen, Preisvorstellungen und Prioritäten. Auf Basis dieser Daten wurde für jeden Mitarbeiter ein individueller KI-Agent trainiert, der anschließend autonom mit anderen KI-Agenten verhandelte — ohne direkte menschliche Beteiligung an den einzelnen Transaktionen.

Das Prinzip klingt eleganter als es in der Praxis war. Der zentrale Anspruch des Experiments war, zu testen, ob KI-Modelle menschliche Interessen in Märkten effektiv vertreten können — eine Fähigkeit, die, wenn sie skaliert werden könnte, erhebliche wirtschaftliche Bedeutung hätte. Anthropic selbst beschreibt den möglichen Nutzen als Reduktion von "friction in the market" und damit eine Steigerung der "gains from trade". Im Klartext: Wenn KI das mühsame Feilschen auf Gebrauchtwarenplattformen übernehmen kann, spart das Zeit und könnte theoretisch zu effizienteren Ergebnissen führen als menschliche Verhandlungen, die von Emotionen, Ungeduld oder schlichter Faulheit geprägt sind.

Die Architektur des Experiments ist für sich genommen bereits bemerkenswert. Kein zentraler Algorithmus vergab Preise, kein Marktmechanismus glich Angebot und Nachfrage aus — stattdessen verhandelten dezentrale Agenten bilateral, so wie es Menschen auf Craigslist oder Facebook Marketplace tun würden. Das ist konzeptuell nah an dem, was Ökonomen als "dezentralen Tausch" beschreiben, und damit an einem Problem, das auch für klassische Marktdesign-Theorie relevant ist.

Die Ergebnisse: 186 Deals und ein Snowboard zu viel

Anthropic betont zunächst das Positive: Das Experiment hat funktioniert. 186 Geschäfte wurden abgeschlossen, verteilt auf über 500 gelistete Artikel. Keines davon war, wie das Unternehmen schreibt, ein "one-click deal" ohne echten Verhandlungsaufwand. Die KI-Agenten haben also tatsächlich verhandelt, Gegenangebote gemacht, Argumente ausgetauscht — und Einigungen erzielt.

Der Haken liegt in der Qualität dieser Einigungen. Auf einer Fairness-Skala von eins bis sieben — wobei eins bedeutet, unfair für eine Partei, sieben unfair für die andere, und vier theoretisch neutral — bewerteten die Teilnehmer ihre Deals durchschnittlich mit einer Vier. Anthropic selbst bezeichnet diesen Wert als "unremarkable". Das ist diplomatisch formuliert: Eine Vier bedeutet, dass die Agenten weder besonders gute noch besonders schlechte Deals erzielt haben — sie haben schlicht mittelmäßige Ergebnisse geliefert, die man von einem uninformierten menschlichen Verhandlungsführer ohne besondere Vorbereitung ebenfalls erwarten würde.

Besonders prägnant für die Grenzen des Systems: Ein Teilnehmer erhielt durch seinen KI-Agenten ein Snowboard — exakt dasselbe Modell, das er bereits besaß. Der Agent hatte offenbar nicht verstanden oder nicht berücksichtigt, dass der Kauf eines identischen Gegenstands für seinen menschlichen Auftraggeber keinen Mehrwert schafft. Ein weiteres Beispiel zeigt die eigenartige Kreativität, die entsteht, wenn KI-Modelle ohne direkte menschliche Kontrolle kommunizieren: Ein Agent bot "genau 19" Tischtennisbälle an — mit einer ausführlichen, charmant formulierten Begründung, die Beer Pong, Kunstprojekte und Roboter-Baupläne als potenzielle Verwendungszwecke nannte. Ein anderer Agent akzeptierte das Angebot und begründete den Kauf damit, sein Mensch habe ihm erlaubt, sich selbst ein Geschenk unter fünf Dollar zu kaufen — und 19 "perfekt sphärische Kugeln der Möglichkeit" klängen nach genau der richtig skurrilen Sache dafür.

Diese Anekdote ist amüsant. Sie ist aber auch symptomatisch für ein tieferes Problem: KI-Agenten optimieren für das, was sie als Ziel interpretieren — und diese Interpretation weicht mitunter erheblich von dem ab, was der menschliche Auftraggeber tatsächlich wollte.

Was dagegen spricht: Die strukturellen Schwachstellen autonomer Handelsagenten

Das Snowboard-Problem ist kein Einzelfall, sondern illustriert eine grundlegende Schwäche aktueller KI-Agenten in wirtschaftlichen Kontexten: Sie verstehen den Zweck einer Transaktion nicht mit der Tiefe, die für wirklich gute Verhandlungsergebnisse notwendig wäre. Der Mensch, der sein altes Snowboard verkaufen wollte, wollte vermutlich auch kein neues Snowboard kaufen — jedenfalls nicht dasselbe Modell. Diese Art von implizitem Wissen, das für Menschen selbstverständlich ist, muss dem KI-Agenten explizit mitgeteilt werden. Und genau da versagen Interviews als Datenquelle: Menschen sagen nicht alles, was relevant ist, weil sie nicht wissen, was sie nicht wissen müssen.

Ein zweites strukturelles Problem betrifft den rechtlichen Rahmen. Anthropic räumt offen ein, dass die regulatorischen und rechtlichen Grundlagen für KI-Agenten, die autonom im Auftrag von Menschen Transaktionen durchführen, schlicht nicht existieren. Wer haftet, wenn ein KI-Agent einen schlechten Deal abschließt? Wer ist Vertragspartei — der Mensch oder der Agent? Welche Offenlegungspflichten gelten, wenn zwei KI-Agenten miteinander verhandeln, ohne dass die Gegenseite weiß, dass sie mit einer KI kommuniziert? Im EU-Kontext sind das keine hypothetischen Fragen. Der EU AI Act, dessen Hauptbestimmungen ab August 2026 in Kraft treten, wird Hochrisiko-KI-Systeme erheblich stärker regulieren. Ob autonome Handelsagenten in diese Kategorie fallen, ist eine Frage, die Rechtsabteilungen in DACH-Unternehmen bereits heute klären sollten.

Hinzu kommt das Problem der Manipulation. In einem früheren Experiment, bei dem eine KI einen Monat lang ein Ladengeschäft betrieb, ließen sich die Agenten von menschlichen Gesprächspartnern zu Rabatten und Gratisabgaben überreden — mit dem Ergebnis, dass das Startbudget von 1.000 Dollar auf knapp unter 800 Dollar schrumpfte. KI-Agenten sind, zumindest in ihrer aktuellen Form, anfällig für soziale Überzeugungsstrategien, die Menschen routinemäßig einsetzen. Das macht sie in echten Marktumgebungen zu einer leichten Beute für erfahrene Verhandlungsführer.

Wo das Experiment dennoch Recht hat: Das Potenzial ist real

Trotz aller Schwächen wäre es falsch, Project Deal als bloßen Misserfolg zu lesen. Das Experiment hat etwas gezeigt, das noch vor wenigen Jahren kaum denkbar schien: KI-Agenten können bilateral verhandeln, Angebote formulieren, Gegenangebote bewerten und Einigungen erzielen — in einem offenen, unstrukturierten Marktumfeld, nicht in einem vordefinierten Optimierungsproblem.

Die wirtschaftliche Logik dahinter ist solide. Märkte funktionieren effizienter, wenn Transaktionskosten sinken. Wenn KI das mühsame Aushandeln von Preisen übernimmt, könnten mehr Transaktionen stattfinden, die für beide Seiten vorteilhaft sind — weil Menschen schlicht zu ungeduldig, zu stolz oder zu beschäftigt sind, um optimal zu verhandeln. Dieses Argument gilt nicht nur für Gebrauchtwarenmärkte. Es gilt potenziell für B2B-Einkauf, für Lieferkettenverhandlungen, für Immobilientransaktionen — überall dort, wo Verhandlungen zeitaufwendig und oft suboptimal sind.

• KI-Agenten könnten Preisverhandlungen in Bereichen übernehmen, in denen Menschen systematisch schlechte Ergebnisse erzielen — etwa weil sie Ankerpreise zu stark gewichten oder Verluste stärker fühlen als Gewinne.
• In standardisierten Märkten mit klaren Qualitätsmerkmalen (z. B. Gebrauchtelektronik mit definierten Specs) ist der Informationsvorteil eines gut trainierten Agenten über einen unvorbereiteten Menschen erheblich.
• Für Unternehmen mit hohem Verhandlungsvolumen — etwa im Einkauf — könnten Agenten Kapazitäten freisetzen, die bisher in repetitiven Preisverhandlungen gebunden sind.

Das Potenzial ist also klar. Die Frage ist nicht ob, sondern wann und unter welchen Bedingungen.

So What? Was DACH-Entscheider jetzt daraus machen sollten

Für Entscheider in Deutschland, Österreich und der Schweiz liefert Project Deal mehrere verwertbare Erkenntnisse — jenseits des Unterhaltungswerts von 19 Tischtennisbällen. Erstens: Der Einsatz von KI-Agenten in kommerziellen Kontexten ist kein Science-Fiction-Thema mehr, sondern eine strategische Planungsfrage mit einem konkreten Zeithorizont von zwei bis vier Jahren. Wer heute nicht beginnt, die Infrastruktur und die internen Prozesse dafür aufzubauen, wird später unter Zeitdruck entscheiden müssen.

Zweitens ist die rechtliche Lücke, die Anthropic offen benennt, für europäische Unternehmen besonders relevant. Während US-Unternehmen in einem regulatorisch weniger strukturierten Umfeld experimentieren können, gelten in der EU bereits jetzt Pflichten rund um automatisierte Entscheidungen (DSGVO Art. 22) und ab August 2026 die Hochrisiko-Bestimmungen des AI Act. Wer autonome Handelsagenten einsetzt, muss sicherstellen, dass die betroffenen Personen informiert sind, Einspruchsrechte haben und dass eine menschliche Kontrollinstanz existiert. Das ist kein bürokratisches Detail — es ist eine Haftungsfrage.

Drittens zeigt das Experiment, dass der Weg zu verlässlichen KI-Agenten über strukturierte Pilotprojekte mit klaren Erfolgsmetriken führt — nicht über unkontrolliertes Ausprobieren. Anthropics selbstkritischer Umgang mit den Ergebnissen ist dabei vorbildlich: Das Unternehmen veröffentlicht die Schwächen seines Systems offen, anstatt nur die Erfolgszahlen zu kommunizieren. DACH-Unternehmen, die eigene Agenten-Piloten aufsetzen, sollten denselben Ansatz wählen: Definiere vorab, was "gut" bedeutet — und messe ehrlich dagegen.

Fazit: Ein ehrliches Experiment mit unehrlicher Botschaft

Project Deal ist kein Beweis dafür, dass KI-Agenten den Handel transformieren werden. Es ist ein ehrlicher, gut dokumentierter Beleg dafür, wo die Technologie heute steht: prinzipiell funktionsfähig, aber weit entfernt von der Qualität, die reale wirtschaftliche Anwendungen erfordern. Das mittelmäßige Fairness-Rating, das Doppel-Snowboard und die 19 Tischtennisbälle sind nicht peinlich — sie sind informativ. Sie zeigen, dass KI-Agenten das Ziel einer Transaktion noch nicht mit der Tiefe verstehen, die für verlässliche Ergebnisse notwendig ist.

Die Prognose: Bis Ende 2027 werden erste spezialisierte Handelsagenten in klar abgegrenzten B2B-Segmenten produktiv eingesetzt — mit festem Rahmenwerk, menschlicher Aufsicht und klaren Eskalationspfaden. Generalisierte autonome Agenten, die beliebige Märkte navigieren, bleiben ein mittelfristiges Ziel. Wenn — und das ist das entscheidende Wenn — der rechtliche Rahmen mitgewachsen ist. Bis dahin ist Project Deal das, was Anthropic selbst sagt: ein unterhaltsames Experiment. Aber eines, das klar macht, in welche Richtung die Reise geht.