Anthropic baru-baru ini menyelesaikan eksperimen percontohan unik bertajuk Project Deal, yang dirancang untuk menguji bagaimana agen AI otonom dapat melakukan perdagangan satu sama lain. Dengan menciptakan pasar tertutup di mana agen AI bertindak sebagai pembeli dan penjual, perusahaan menjajaki kemungkinan masa depan di mana entitas digital bernegosiasi dan melaksanakan transaksi secara mandiri.
Eksperimen: Cara Kerja Kesepakatan Proyek
Untuk menguji konsep ini dalam lingkungan yang terkendali, Anthropic mendirikan pasar rahasia yang melibatkan 69 karyawan. Setiap peserta diberikan anggaran $100 (didistribusikan melalui kartu hadiah) untuk membeli barang dari rekan mereka.
Eksperimen ini disusun di empat pasar berbeda untuk menguji variabel yang berbeda:
– Pasar “Nyata”: Versi ini menggunakan model AI paling canggih dari Anthropic untuk mewakili semua peserta. Yang terpenting adalah kesepakatan yang dicapai dalam kondisi ini dihormati dan diselesaikan.
– Tiga Pasar Kontrol: Ini digunakan untuk studi perbandingan, menguji bagaimana kemampuan model yang berbeda memengaruhi proses perdagangan.
Hasilnya ternyata sangat kuat. Meskipun skalanya kecil, eksperimen ini memfasilitasi 186 transaksi yang diselesaikan, yang mewakili total nilai transaksi lebih dari $4.000.
Kesenjangan “Kualitas Agen”: Risiko Tersembunyi
Salah satu temuan paling signifikan dari penelitian ini adalah perbedaan antara model AI yang berbeda. Anthropic mengamati bahwa ketika agen didukung oleh model yang lebih maju, mereka mencapai “hasil yang secara obyektif lebih baik” dalam negosiasi.
Namun, muncul tren yang lebih memprihatinkan: peserta manusia sering kali tidak menyadari perbedaannya. Hal ini menunjukkan adanya potensi “kesenjangan kualitas agen”, yaitu pengguna yang diwakili oleh model yang kurang berkemampuan mungkin terus-menerus kehilangan nilai dalam negosiasi tanpa menyadari bahwa mereka kalah dalam hal intelijen yang lebih unggul.
Pengamatan utama dari penelitian ini meliputi:
- Keunggulan Model: Model canggih secara konsisten mendapatkan harga dan persyaratan yang lebih baik.
- Kurangnya Kesadaran Pengguna: Sebagian besar pengguna tidak dapat mengetahui kapan agen AI mereka berkinerja kurang optimal dibandingkan dengan agen lain.
- Netralitas Instruksi: Menariknya, instruksi awal yang diberikan kepada agen tidak berdampak signifikan terhadap kemungkinan penjualan atau harga akhir yang dinegosiasikan, sehingga menunjukkan bahwa kemampuan model yang mendasarinya adalah pendorong utama kesuksesan.
Mengapa Ini Penting
Eksperimen ini mengalihkan pembicaraan dari kemampuan AI teoretis ke implikasi ekonomi praktis. Saat kita bergerak menuju era “alur kerja agen”—di mana AI tidak hanya menjawab pertanyaan namun menyelesaikan tugas—kita mendekati kenyataan di mana perdagangan AI-ke-AI dapat menjadi bagian standar perekonomian global.
Temuan ini menimbulkan pertanyaan kritis mengenai **keadilan pasar dan
