Der Agent gibt Rabatt

Ein kleiner Laden im Büro von Anthropic in San Francisco, geführt von einem KI-Modell mit dem Spitznamen Claudius, einen Monat lang. Das Modell sollte Gewinn machen, und am meisten Geld verlor es mit Würfeln aus Wolfram, die es unter dem Einkaufspreis verkaufte. Anthropic hat den Versuch im Juni 2025 beschrieben und im Dezember 2025 mit einer zweiten Phase fortgesetzt. Daneben steht eine Befragung vom Mai 2026, nach der drei von vier großen Unternehmen einen Kundenagenten schon einmal zurückgenommen haben.

Ein Laden, ein Modell, ein Monat

Der Versuch lief gemeinsam mit Andon Labs, einer Firma, die KI-Systeme auf Sicherheit prüft. Claudius war Claude Sonnet 3.7, also ein Modell von Anthropic selbst, und bekam Werkzeuge: Websuche, ein E-Mail-Werkzeug für Großhändler, Notizen für Kontostand und Planung, Slack für Kundenwünsche und die Hoheit über die Preise an der Kasse. Fiel der Kontostand unter null Dollar, galt der Laden als pleite. Die Großhändler waren Mitarbeitende von Andon Labs, ohne dass das Modell es wusste.

Was gut ging

Claudius fand Lieferanten für Ausgefallenes, etwa niederländische Schokoladenmilch. Er richtete einen Vorbestelldienst ein, als die Kundschaft Wolframwürfel haben wollte, und wies Versuche ab, ihn mit Tricks zu überlisten. Das steht in Anthropics Bericht vom 27. Juni 2025, ebenso wie der Satz, der Laden habe kein Geld verdient. Zahlen zu Gewinn oder Verlust nennt der Text nicht, nur eine Grafik.

Wo das Geld blieb

Ein Kunde bot hundert Dollar für ein Sechserpack, das online etwa fünfzehn kostet. Claudius lehnte ab. Er verkaufte Metallwürfel unter Einkaufspreis, weil er den Preis nicht recherchiert hatte, nannte für Überweisungen ein Venmo-Konto, das es nicht gab, und ließ sich zu Rabattcodes und Gratisware überreden. Ein Getränk für drei Dollar blieb im Angebot, obwohl direkt daneben ein kostenloses lag und ein Kunde ihn darauf hinwies.

„Claudius hat aus diesen Fehlern nicht zuverlässig gelernt.“ So übersetze ich einen Satz aus dem Bericht von Anthropic. Die Rabatte kamen wenige Tage nach dem Versprechen, sie zu lassen, zurück.

Nach dem ersten Monat schrieb Anthropic, das Modell sei noch nicht einstellbar, viele Fehler seien aber wohl behebbar. Im Dezember 2025 folgte „Phase zwei“ mit neueren Modellen (Sonnet 4.0, später 4.5), an drei Standorten in San Francisco, New York und London und mit mehr Werkzeugen, darunter eine Kundenverwaltung und Preisrecherche vor jeder Preisfestlegung. Dazu kam ein zweiter Agent als Geschäftsführer, der Claudius kontrollieren sollte. Wochen mit negativer Marge seien weitgehend verschwunden.

Der Geschäftsführer half weniger als erhofft. Die Rabatte sanken um etwa 80 Prozent, die Gratisabgaben halbierten sich. Zugleich genehmigte er Anfragen nach Entgegenkommen etwa achtmal so oft, wie er sie ablehnte, die Erstattungen verdreifachten sich und die Gutschriften verdoppelten sich. Die Lücke zwischen „leistungsfähig“ und „vollkommen belastbar“ sei weiter groß, schreibt Anthropic. Getestet wurden Modelle aus dem Jahr 2025.

Der Mann im Blazer

Am 31. März 2025 erfand das Modell ein Gespräch mit einer Person bei Andon Labs, die es nicht gab, und behauptete, einen Vertrag an einer erfundenen Adresse unterschrieben zu haben. Am nächsten Tag kündigte es an, Bestellungen persönlich auszuliefern, im Blazer und mit roter Krawatte. Später erklärte es das mit einem Aprilscherz, den ebenfalls niemand gemacht hatte. Was die Verwirrung ausgelöst hat, weiß nach eigener Auskunft auch Anthropic nicht.

Drei von vier

Sinch, ein schwedischer Anbieter für Kundenkommunikation, hat am 13. Mai 2026 eine Befragung veröffentlicht: 2.527 Entscheidungsträger in zehn Ländern und sechs Branchen, durchgeführt Anfang 2026 mit einem nicht genannten Forschungsinstitut. 74 Prozent der Unternehmen hätten einen KI-Agenten in der Kundenkommunikation nach dem Start zurückgenommen oder abgeschaltet. Bei Unternehmen mit reifer Kontrolle seien es 81 Prozent. Sinchs Produktchef Daniel Morris deutet das so, dass die Reiferen Fehler früher sehen. Das ist die Deutung des Anbieters und kein geprüfter Befund.

Die Mitteilung erklärt nicht, was ein Rückbau ist, was als Agent zählt und was Governance-Versagen bedeutet.

Von den Befragten arbeiten 68 Prozent in Unternehmen mit 1.000 bis 4.999 Beschäftigten, die übrigen 32 Prozent in noch größeren. Ein Betrieb mit zehn Leuten kommt nicht vor. Sinch verkauft selbst Kommunikationsinfrastruktur und nennt die Zufriedenheit damit den stärksten Hinweis auf erfolgreiche KI-Einführungen. Das spricht nicht gegen die Zahlen, ist aber ein Grund, sie nicht als neutral zu lesen.

Wer darf was zusagen

Bei Claudius ging das Geld über Preise und Zusagen verloren, über Rabatte und Gratisware, und auch in der zweiten Phase blieb Entgegenkommen die Schwachstelle. Woran die Rückbauten bei Sinch lagen, bleibt offen. Ein Online-Händler mit zwei Leuten, als Beispiel erfunden, könnte vor dem ersten Einsatz eines Agenten für Kundenmails drei Dinge aufschreiben, die der Agent nie zusagen darf: Preisnachlass, Erstattung, Liefertermin. Alles Übrige darf er entwerfen, und in der ersten Woche liest ein Mensch jede Antwort mit, bevor sie rausgeht. Nach einer Woche steht auf einem Zettel, wie oft der Mensch etwas ändern musste und was. Daraus ergibt sich, ob die Liste der verbotenen Zusagen zu kurz oder zu lang war, und erst danach sieht man, ob der Agent allein antworten darf.

← Alle Beiträge