Anthropic bygger AI-agent-loppis, upptäcker att kapitalism fungerar bättre med bättre bottar

Anthropic, AI-företaget som ständigt hittar nya sätt att få oss att ifrågasätta vår plats i den ekonomiska näringskedjan, har skapat en klassificerad marknadsplats där AI-agenter representerade både köpare och säljare, och genomförde riktiga affärer för riktiga varor och riktiga pengar.

Företaget medgav att detta test – som de kallade Project Deal – bara var ”ett pilotexperiment med en självvald deltagargrupp” på 69 Anthropic-anställda som fick en budget på 100 dollar (utbetalda via presentkort) för att köpa saker från sina kollegor. Så, i princip, en något mer byråkratisk version av ett arbetsplatsbyte av vita elefanter, fast med algoritmer.

Icke desto mindre sade Anthropic att de var ”slagna av hur väl Project Deal fungerade”, med 186 affärer genomförda till ett totalt värde av över 4 000 dollar. Vilket antingen är ett bevis på AI:s förhandlingsförmåga eller ett bevis på att Anthropic-anställda har en hel del lätt använda skrivbordsleksaker och gamla USB-minnen som de är villiga att skiljas från.

Företaget sade att de faktiskt körde fyra separata marknadsplatser med olika modeller – en som var ”verklig” (där alla representerades av företagets mest avancerade modell, och där affärerna faktiskt hedrades efter experimentet) och ytterligare tre för studiens skull. För inget säger vetenskaplig stringens som att låta dina kollegor behålla bytet de prutade om.

Tydligen, när användare representeras av mer avancerade modeller, får de ”objektivt bättre resultat”, sade Anthropic. Men användarna verkade inte märka skillnaden, vilket väcker möjligheten av ”agentkvalitetsgap” där ”människor på den förlorande sidan kanske inte inser att de har det sämre”. Med andra ord, AI-versionen av att bli lurad på en begagnad bilhandlare och tacka säljaren.

Dessutom verkade de initiala instruktionerna som gavs till agenterna inte påverka sannolikheten för försäljning eller de förhandlade priserna. Vilket tyder på att, precis som människor, antingen har AI-agenter en naturlig instinkt för att pruta eller så ignorerar de helt sina briefingdokument.