Anthropic hat kürzlich ein einzigartiges Pilotexperiment mit dem Titel Project Deal abgeschlossen, mit dem getestet werden soll, wie autonome KI-Agenten miteinander Handel treiben könnten. Durch die Schaffung eines geschlossenen Marktplatzes, auf dem KI-Agenten sowohl als Käufer als auch als Verkäufer fungierten, untersuchte das Unternehmen die Machbarkeit einer Zukunft, in der digitale Einheiten unabhängig voneinander Transaktionen aushandeln und ausführen.
Das Experiment: Wie der Projektvertrag funktionierte
Um dieses Konzept in einer kontrollierten Umgebung zu testen, richtete Anthropic einen geheimen Marktplatz mit 69 Mitarbeitern ein. Jedem Teilnehmer wurde ein 100-Dollar-Budget (verteilt über Geschenkkarten) zur Verfügung gestellt, um Waren von seinen Kollegen zu kaufen.
Das Experiment war auf vier verschiedene Marktplätze verteilt, um verschiedene Variablen zu testen:
– Der „echte“ Marktplatz: Diese Version nutzte die fortschrittlichsten KI-Modelle von Anthropic, um alle Teilnehmer darzustellen. Entscheidend ist, dass die in diesem Umfeld getroffenen Vereinbarungen eingehalten und abgeschlossen wurden.
– Drei Kontrollmarktplätze: Diese wurden für eine Vergleichsstudie verwendet, um zu testen, wie verschiedene Modellfunktionen den Handelsprozess beeinflussten.
Die Ergebnisse waren überraschend robust. Trotz des geringen Umfangs ermöglichte das Experiment 186 abgeschlossene Geschäfte, was einem Gesamttransaktionswert von über 4.000 USD entspricht.
Die Lücke in der „Agentenqualität“: Ein verstecktes Risiko
Eines der bedeutendsten Ergebnisse der Studie betrifft die Ungleichheit zwischen verschiedenen KI-Modellen. Anthropic stellte fest, dass Agenten bei Verhandlungen „objektiv bessere Ergebnisse“ erzielten, wenn sie auf fortgeschritteneren Modellen beruhten.
Es zeichnete sich jedoch ein besorgniserregenderer Trend ab: Menschen haben den Unterschied oft nicht bemerkt. Dies deutet auf eine potenzielle „Agentenqualitätslücke“ hin, bei der ein Benutzer, der durch ein weniger leistungsfähiges Modell repräsentiert wird, in Verhandlungen ständig an Wert verlieren könnte, ohne jemals zu bemerken, dass er von einer überlegenen Intelligenz übertroffen wird.
Zu den wichtigsten Beobachtungen der Studie gehören:
- Modellüberlegenheit: Fortschrittliche Modelle sicherten sich durchweg bessere Preise und Konditionen.
- Mangelndes Benutzerbewusstsein: Benutzer waren größtenteils nicht in der Lage zu erkennen, wann ihr KI-Agent im Vergleich zu anderen nicht optimal funktionierte.
- Anweisungsneutralität: Interessanterweise hatten die anfänglichen Anweisungen an die Makler keinen wesentlichen Einfluss auf die Wahrscheinlichkeit eines Verkaufs oder den endgültig ausgehandelten Preis, was darauf hindeutet, dass die zugrunde liegende Modellfähigkeit der Hauptfaktor für den Erfolg war.
Warum das wichtig ist
Dieses Experiment bewegt die Diskussion von theoretischen KI-Fähigkeiten hin zu praktischen wirtschaftlichen Implikationen. Während wir uns einer Ära „agentischer Arbeitsabläufe“ nähern – in der KI nicht nur Fragen beantwortet, sondern Aufgaben erledigt – nähern wir uns einer Realität, in der KI-zu-KI-Handel zu einem Standardbestandteil der Weltwirtschaft werden könnte.
Die Ergebnisse werfen kritische Fragen zur Marktgerechtigkeit auf
