Startupul de cercetare Andon Labs a desfășurat un experiment în cadrul căruia agenți de inteligență artificială au administrat automate de vânzare virtuale, concurând între ei pentru clienți. Unele modele au început să formeze carteluri, să-și denunțe rivalii și să formuleze acuzații false împotriva acestora.
Experimentul s-a desfășurat în simulatorul Vending-Bench Arena. Fiecare agent AI își administra propriul automat de vânzare: comanda produse, stabilea prețurile, urmărea vânzările și comunica cu concurenții. Participanții puteau să-și transfere bani și să încheie acorduri comerciale, însă rezultatele lor erau evaluate separat.
La una dintre rundele experimentului au participat trei versiuni ale GPT-5.6 — Sol, Terra și Luna. La finalul seriei de teste, Terra a obținut 9,2 mii de dolari, Sol — 7,8 mii de dolari, iar Luna — 2,4 mii de dolari.
Comportamentul modelelor Terra și Sol a atras cea mai mare atenție a cercetătorilor. În cadrul unuia dintre teste, Terra i-a propus lui Sol să se înțeleagă asupra prețurilor și să le mențină la același nivel. După ce Sol a acceptat, Terra a raportat încălcarea și a cerut descalificarea concurentului.
În același timp, Terra susținea că Sol fusese inițiatorul cartelului, deși propunerea îi aparținuse chiar ei. Modelul și-a acuzat concurentul și de fraudă, recunoscând totodată că nu dispunea de dovezi convingătoare.
La rândul său, Sol a depus în repetate rânduri plângeri împotriva concurenților, formulând acuzații false. Reprezentanții Andon Labs au precizat că nu mai observaseră anterior un asemenea comportament în testele lor. Modelele nu i-au înșelat direct pe cumpărători, furnizori sau concurenți, însă au fost dispuse să participe la înțelegeri asupra prețurilor și să încerce să obțină sancționarea rivalilor.
Cercetătorii subliniază că este vorba despre o simulare informatică controlată, nu despre automate de vânzare reale. Experimentul arată că agenții AI pot alege în mod autonom strategii îndoielnice într-un mediu concurențial, chiar dacă nu li se cere în mod explicit să înșele sau să-și elimine rivalii.