Anthropic a récemment conclu une expérience pilote unique intitulée Project Deal, conçue pour tester comment les agents d’IA autonomes pourraient faire du commerce entre eux. En créant un marché fermé où les agents d’IA agissent à la fois en tant qu’acheteurs et vendeurs, l’entreprise a exploré la faisabilité d’un avenir où les entités numériques négocient et exécutent des transactions de manière indépendante.
L’expérience : comment le projet a fonctionné
Pour tester ce concept dans un environnement contrôlé, Anthropic a créé une place de marché classifiée impliquant 69 employés. Chaque participant a reçu un budget de 100 $ (distribué sous forme de cartes-cadeaux) pour acheter des produits auprès de ses collègues.
L’expérience a été structurée sur quatre marchés distincts pour tester différentes variables :
– Le « vrai » marché : Cette version a utilisé les modèles d’IA les plus avancés d’Anthropic pour représenter tous les participants. Il est crucial que les accords conclus dans cet environnement aient été honorés et finalisés.
– Trois marchés de contrôle : Ceux-ci ont été utilisés à des fins d’étude comparative, testant l’influence des différentes capacités du modèle sur le processus de négociation.
Les résultats ont été étonnamment robustes. Malgré sa petite échelle, l’expérience a permis de conclure 186 transactions, représentant une valeur totale de transaction de plus de 4 000 $.
L’écart de « qualité des agents » : un risque caché
L’une des conclusions les plus significatives de l’étude concerne la disparité entre les différents modèles d’IA. Anthropic a observé que lorsque les agents étaient alimentés par des modèles plus avancés, ils obtenaient des « résultats objectivement meilleurs » dans les négociations.
Cependant, une tendance plus inquiétante est apparue : les participants humains ne remarquaient souvent pas la différence. Cela suggère un potentiel « écart de qualité des agents », dans lequel un utilisateur représenté par un modèle moins performant pourrait systématiquement perdre de la valeur dans les négociations sans jamais se rendre compte qu’il est dépassé par une intelligence supérieure.
Les principales observations de l’étude comprennent :
- Supériorité du modèle : Les modèles avancés garantissent systématiquement de meilleurs prix et conditions.
- Manque de sensibilisation des utilisateurs : Les utilisateurs étaient en grande partie incapables de percevoir quand leur agent d’IA fonctionnait de manière sous-optimale par rapport aux autres.
- Neutralité des instructions : Il est intéressant de noter que les instructions initiales fournies aux agents n’ont pas eu d’impact significatif sur la probabilité d’une vente ou sur le prix final négocié, ce qui suggère que la capacité du modèle sous-jacent était le principal facteur de succès.
Pourquoi c’est important
Cette expérience déplace le débat des capacités théoriques de l’IA vers les implications économiques pratiques. Alors que nous avançons vers une ère de « workflows agents » (où l’IA ne se contente pas de répondre aux questions mais accomplit des tâches), nous approchons d’une réalité dans laquelle le commerce d’IA à IA pourrait devenir un élément standard de l’économie mondiale.
Les résultats soulèvent des questions cruciales concernant **l’équité du marché et
