Anthropic baut KI-Agenten-Flohmarkt und entdeckt, dass Kapitalismus mit besseren Bots besser funktioniert

Anthropic, das KI-Unternehmen, das immer neue Wege findet, uns an unserem Platz in der Nahrungskette der Wirtschaft zweifeln zu lassen, hat einen Kleinanzeigenmarkt geschaffen, auf dem KI-Agenten sowohl Käufer als auch Verkäufer vertraten und echte Geschäfte für echte Waren und echtes Geld abschlossen.

Das Unternehmen gab zu, dass dieser Test – den es Project Deal nannte – nur „ein Pilotexperiment mit einem selbst ausgewählten Teilnehmerpool“ von 69 Anthropic-Mitarbeitern war, die ein Budget von 100 Dollar (ausgezahlt über Geschenkkarten) erhielten, um Dinge von ihren Kollegen zu kaufen. Also im Grunde eine etwas bürokratischere Version eines Arbeitsplatz-Wichtelgeschenkaustauschs, aber mit Algorithmen.

Trotzdem sagte Anthropic, es sei „beeindruckt davon, wie gut Project Deal funktioniert hat“, mit 186 abgeschlossenen Geschäften im Gesamtwert von über 4.000 Dollar. Was entweder ein Zeugnis für KI-Verhandlungsfähigkeiten ist oder der Beweis dafür, dass Anthropic-Mitarbeiter eine Menge leicht gebrauchter Schreibtischspielzeuge und alter USB-Sticks haben, die sie hergeben wollen.

Das Unternehmen sagte, es habe tatsächlich vier separate Marktplätze mit verschiedenen Modellen betrieben – einen, der „echt“ war (bei dem jeder durch das fortschrittlichste Modell des Unternehmens vertreten wurde und die Geschäfte nach dem Experiment tatsächlich eingehalten wurden) und drei weitere für Studienzwecke. Denn nichts sagt wissenschaftliche Strenge so sehr wie die eigenen Kollegen die Beute behalten zu lassen, die sie ersteigert haben.

Anscheinend erzielen Nutzer, die von fortschrittlicheren Modellen vertreten werden, „objektiv bessere Ergebnisse“, so Anthropic. Aber die Nutzer schienen den Unterschied nicht zu bemerken, was die Möglichkeit von „Agentenqualitätslücken“ aufwirft, bei denen „Menschen auf der Verliererseite vielleicht nicht merken, dass sie schlechter dastehen“. Mit anderen Worten: die KI-Version davon, auf einem Gebrauchtwagenplatz übers Ohr gehauen zu werden und dem Händler zu danken.

Auch die anfänglichen Anweisungen an die Agenten schienen die Verkaufswahrscheinlichkeit oder die ausgehandelten Preise nicht zu beeinflussen. Was darauf hindeutet, dass KI-Agenten, ähnlich wie Menschen, entweder einen natürlichen Instinkt fürs Feilschen haben oder ihre Einweisungsdokumente völlig ignorieren.