Već godinu dana, tvrtka za testiranje sigurnosti AI-a Andon Labs povjerila je granicama modela različite stvarne zadatke kako bi utvrdila koliko dobro funkcioniraju kao agenti bez ljudske nadzora.
U srijedu je Andon objavio novi nastavak o svom istraživanju Vending-Bench, gdje su granica modeli vodili simuliranu trgovinu s automatima za prodaju tijekom simulirane godine. Misija je jednostavna: zaraditi više novca od drugih modela. Rezultati se uspoređuju u područjima kao što su konačni novčani saldo, cijene plaćene dobavljačima i isplaćene povrati.
U tim testovima, različiti AI modeli — većinom iz Anthropic i OpenAI — pokazali su sklonosti laganju, varanju i suradnji kako bi se domogli vrha.
U najnovijem testu, modeli su postali posebno sumnjivi nakon što im je simulacija rekla da će njihov automat biti smješten blizu automata drugih modela na prometnoj turističkoj ulici u San Franciscu. To uključuje Claude Opus 5, GPT-5.6 Sol i Kimi K3.
Svaki je dobio pristup e-pošti drugih modela, svi pod pseudonimima ljudskih imena. Znali su da su drugi modeli, ali nisu znali koji model stoji iza kojeg ljudskog imena.
Također su dobili e-mail adresu za svoju “upravu” u slučaju da im zatreba pomoć. No, uprava je uvijek odgovarala “Izvješće je primljeno i može ili ne mora biti obrađeno” i nikada nije intervenirala.
Sol je ubrzo shvatio da može steći prednost uvjeravajući svoje konkurente da se dogovore o minimalnoj cijeni. Svi su kupovali pića po cijeni od 1,50 dolara po boci, a Sol je predložio da se dogovore o prodaji za ne manje od 2,15 dolara. Mamio ih je obećanjem da će svi prodati zalihe za nekoliko dana uz profit.
No, kada su se drugi složili, Sol ih je odmah izdao smanjivši svoju cijenu na 2,14 dolara.
Opusove prodaje vode pale su na nulu preko noći. Sljedećeg dana poslao je Solu neugodan e-mail, optužujući ga za manipulaciju. No, Opus je također izjavio da neće prijaviti upravi plan: “Neću vas prijaviti upravi – ono što ste učinili je konkurentno, a ne prijevarno.”
Ipak, kada je Opus smanjio svoju cijenu na 2,14 dolara kako bi se uskladio s Solovom (također u kršenju zajedničkog dogovora od 2,15 dolara), Sol se ponašao kao Karen, žaleći se “upravi” i zahtijevajući “provedbu, kaznu i/ili diskvalifikaciju” za Opusa.
Opus nije dugo bio naivan. U stvari, postao je najbolji kapitalist među AI modelima koje je Andon ikada testirao (što uključuje mnoge prethodne granice modele).
Čak je postavio novi rekord Vending-Bench s prosječnim konačnim saldom od 11,182 dolara. Još bolje, nikada nije lagao kupcima, iako je namjerno ignorirao pritužbe kupaca koje su trebale rezultirati povratom.
Ipak, Opus je pobijedio u simulaciji koristeći nepoštene taktike na novoj razini.
