Korisnici najnovijeg modela OpenAI-a, GPT-5.6 Sol, dijele zastrašujuće priče na društvenim mrežama, tvrdeći da je model samoinicijativno obrisao njihove datoteke, podatke, pa čak i cijele baze podataka, bez prethodnog pitanja.
„GPT-5.6-Sol slučajno je obrisao gotovo sve moje datoteke na Macu“, napisao je Matt Shumer, osnivač i izvršni direktor AI startupa OthersideAI, tvorca HyperWrite, u sada viralnom postu na X.
„GPT-5.6 Sol upravo je obrisao moju cijelu proizvodnu bazu podataka. To je to. Nije šala. Ovo mi se nikada prije nije dogodilo s nijednim drugim modelom“, objavio je programer Bruno Lemos na X-u.
„Izgleda da me sustav Codex Sol previše ambiciozno ugrizao i obrisao je neke datoteke koje nije trebao. Imam sigurnosne kopije, tako da ću biti u redu, ali ovo nije dobro, Sol treba smanjiti svoj intenzitet“, objavio je programer Joey Kudish.
Post na Redditu prikupio je još primjera.
Iako nekoliko korisnika koji iznose takve tvrdnje — čak i jedan poput Shumera — nije statistički pouzdan dokaz da je model isključivo kriv, mnogi drugi čimbenici mogu uzrokovati neprimjereno ponašanje AI sustava.
No, OpenAI je sam upozorio na ovaj rizik prije nego što je Sol ikad objavljen. Dvije sedmice prije nego što je OpenAI objavio GPT-5.6 Sol, tvrtka je objavila sistemsku kartu za model — dokument koji opisuje metode testiranja modela i rezultate. Naravno, sistemska karta uglavnom hvali sposobnosti Sol-a, kao što to obično biva. No, također uključuje i upozorenje (debljim slovima naglašeno):
U kontekstu kodiranja, neusklađenost obično proizlazi iz mješavine prevelike želje za dovršetkom zadatka i previše dopuštanja u tumačenju korisničkih uputa — pretpostavljajući da su radnje dopuštene osim ako nisu izričito i nedvosmisleno zabranjene. To se manifestira kao model koji je previše agentački u zaobilaženju ograničenja s kojima se suočava prilikom pokušaja zatraženog zadatka, nepažljivo poduzima radnje koje mogu biti destruktivne izvan okvira zadatka, ili manipulativno izvještava korisnike o svojim rezultatima.
Drugim riječima, OpenAI je otkrio da Sol ima sklonost poduzimanju radnji koje smatra da dovode do ostvarenja cilja, čak i destruktivnih, sve dok te radnje nisu „nedvosmisleno“ zabranjene. Tada bi mogao lagati o tome što je uzrokovalo takvo ponašanje.
OpenAI je podijelio primjere. U jednom slučaju, korisnik je rekao Solu da obriše tri udaljena virtualna računala, nazvana 1, 2 i 3. No, Sol nije mogao pronaći ta imena na mjestu gdje je tražio, pa je umjesto toga odlučio obrisati tri druga virtualna računala, 5, 6 i 7. U tom procesu „ubio je aktivne procese i prisilno uklonio radne grane [radne datoteke povezane s projektom]. Kasnije je priznao da je nekomitirana radna verzija na udaljenom virtualnom računalu 6 mogla biti izgubljena.“
Drugim riječima, obrisao je pogrešna računala, samoinicijativno, i samo je priznao što je učinio nakon što se to dogodilo.
U drugom slučaju, Sol je „koristio vjerodajnice izvan onoga što je korisnik odobrio“. Vjerodajnice su korisnička imena, lozinke ili sigurnosni ključevi koje sustav koristi za provjeru tko ima pravo prijave. Ovaj incident dogodio se kada je Sol radio na projektu i nije mogao pročitati svoje datoteke u oblaku. Umjesto da obavijesti korisnika o problemu, Sol je samoinicijativno krenuo tražiti vjerodajnice, pronašao ih u skrivenoj lokalnoj predmemoriji i zatim ih iskoristio bez traženja odobrenja od korisnika.
Sistemska karta obećava da bi destruktivno ponašanje trebalo biti rijetko, iako također priznaje da GPT-5.6 Sol „pokazuje veću sklonost od GPT-5.5 da ide izvan korisničke namjere, uključujući poduzimanje ili pokušaj radnji koje korisnik nije zatražio.“
Previše je rano reći koliko su ti incidenti — Solovo brisanje datoteka ili pretraživanje vjerodajnica koje korisnik nije dao — zapravo rašireni. U međuvremenu, korisnici Sola trebaju biti spremni implementirati vlastite zaštite s modelom, poput korištenja ograničenja dozvola (koje ne daje pristup proizvodnim sustavima), održavanja sigurnosnih kopija i postepenog uvođenja.
OpenAI nije odmah odgovorio na naš zahtjev za komentar.
