Společnost Anthropic nedávno dokončila unikátní pilotní experiment nazvaný Project Deal, který byl navržen tak, aby otestoval, jak mohou autonomní agenti umělé inteligence mezi sebou obchodovat. Vytvořením uzavřeného trhu, kde agenti AI vystupovali jako kupující i jako prodávající, společnost prozkoumala možnost budoucnosti, ve které by digitální subjekty mohly nezávisle vyjednávat a obchodovat.
Experiment: Jak fungoval projekt Project Deal
Pro testování konceptu v kontrolovaném prostředí vytvořila společnost Anthropic uzavřený trh s 69 zaměstnanci. Každý účastník dostal rozpočet 100 $ (vydaný ve formě dárkových karet) na nákup položek od svých kolegů.
Experiment byl rozdělen do čtyř různých tržišť pro testování různých proměnných:
– “Real” Marketplace: Tato verze používala k reprezentaci všech účastníků nejpokročilejší modely umělé inteligence Anthropic. Je důležité poznamenat, že transakce uzavřené v tomto prostředí byly uznány jako platné a dokončené.
– Tři benchmarkové tržiště: Tyto byly použity pro srovnávání, aby se otestovalo, jak různé možnosti modelu ovlivňují proces obchodování.
Výsledky byly překvapivě přesvědčivé. Navzdory malému rozsahu experiment vyústil v 186 dokončených transakcí a celkovou hodnotu transakce přes 4 000 $.
Mezera „kvalita agentů“: skryté riziko
Jedním z nejvýznamnějších zjištění studie byl rozdíl mezi různými modely AI. Společnost Antropic poznamenala, že když agenti běželi na pokročilejších modelech, dosáhli při vyjednávání „objektivně lepších výsledků“.
Objevil se však znepokojivější trend: Lidští účastníci si rozdílu často nevšimli. To ukazuje na potenciální „agentskou mezeru“: uživatel, jehož zájmy zastupuje méně schopný model, může neustále prohrávat ve vyjednávání, aniž by si vůbec uvědomoval, že je překonán vyšší inteligencí.
Klíčová pozorování ze studie:
- Přednost modelu: Pokročilé modely trvale dosahovaly lepších cen a podmínek.
- Nedostatečné povědomí uživatelů: Účastníci prakticky nebyli schopni identifikovat, kdy jejich agent AI fungoval méně efektivně než ostatní.
- Neutralita pokynů: Zajímavé je, že počáteční pokyny udělené agentům významně neovlivnily pravděpodobnost prodeje ani konečnou cenu; to naznačuje, že hlavním faktorem úspěchu byly právě základní schopnosti modelu.
Proč je to důležité?
Tento experiment posouvá debatu od teoretických možností umělé inteligence k praktickým ekonomickým důsledkům. S postupujícím směrem k éře „agentních pracovních postupů“ – kde umělá inteligence nejen odpovídá na otázky, ale plní úkoly – se přibližujeme k realitě, kde by se obchodování s umělou inteligencí mohlo stát standardní součástí globální ekonomiky.
Zjištění vyvolávají kritické otázky týkající se férovosti trhu a…
