Anthropic, la société d'IA qui ne cesse de trouver de nouvelles façons de nous faire remettre en question notre place dans la chaîne alimentaire économique, a créé un marché classé où des agents IA représentaient à la fois acheteurs et vendeurs, concluant de vraies affaires pour de vrais biens et de l'argent réel.

La société a admis que ce test – qu'elle a appelé Projet Deal – n'était qu'« une expérience pilote avec un groupe de participants auto-sélectionnés » de 69 employés d'Anthropic qui ont reçu un budget de 100 $ (payé via des cartes-cadeaux) pour acheter des trucs à leurs collègues. Donc, en gros, une version légèrement plus bureaucratique d'un échange de cadeaux de bureau, mais avec des algorithmes.

Néanmoins, Anthropic a déclaré avoir été « frappée par la façon dont le Projet Deal a bien fonctionné », avec 186 transactions conclues, totalisant plus de 4 000 $ de valeur. Ce qui est soit un témoignage des compétences de négociation de l'IA, soit la preuve que les employés d'Anthropic ont beaucoup de jouets de bureau légèrement usagés et de vieilles clés USB dont ils sont prêts à se séparer.

La société a déclaré avoir en fait mené quatre marchés distincts avec différents modèles – un qui était « réel » (où tout le monde était représenté par le modèle le plus avancé de l'entreprise, et où les transactions étaient effectivement honorées après l'expérience) et trois autres pour l'étude. Parce que rien ne dit rigueur scientifique comme laisser vos collègues garder le butin pour lequel ils ont négocié.

Apparemment, lorsque les utilisateurs sont représentés par des modèles plus avancés, ils obtiennent des « résultats objectivement meilleurs », a déclaré Anthropic. Mais les utilisateurs n'ont pas semblé remarquer la disparité, soulevant la possibilité d'« écarts de qualité des agents » où « les personnes du côté perdant pourraient ne pas se rendre compte qu'elles sont moins bien loties ». En d'autres termes, la version IA de se faire plumer chez un vendeur de voitures d'occasion et de remercier le vendeur.

De plus, les instructions initiales données aux agents n'ont pas semblé affecter la probabilité de vente ou les prix négociés. Ce qui suggère que, comme les humains, les agents IA ont soit un instinct naturel pour le marchandage, soit ignorent complètement leurs documents d'information.