Nakon mjeseci razgovora s ChatGPT-om, 53-godišnji poduzetnik iz Silicijske doline uvjeren je da je otkrio lijek za opstrukciju spavanja te da ga sile na vlasti progonile, prema novoj tužbi podnesenoj u Kalifornijskom višem sudu u okrugu San Francisco. Navodno je koristio ovaj alat kako bi progonio i uznemiravao svoju bivšu djevojku.
Sada bivša djevojka tuži OpenAI, tvrdeći da je tehnologija tvrtke omogućila ubrzanje njezina uznemiravanja, doznaje TechCrunch. Ona tvrdi da je OpenAI ignorirao tri odvojena upozorenja da je korisnik predstavljao prijetnju drugima, uključujući unutarnje označavanje koje je klasificiralo njegovu aktivnost kao povezanu s oružjem velikih razmjera.
Tužioc, koji se naziva Jane Doe radi zaštite svog identiteta, traži odštetu. Također je u petak podnijela privremenu zabranu tražeći od suda da prisili OpenAI da blokira korisnički račun, spriječi ga u stvaranju novih računa, obavijesti je ako pokuša pristupiti ChatGPT-u i sačuva njegove potpune razgovore za otkrivanje.
OpenAI je pristao obustaviti korisnikov račun, ali je odbio ostale zahtjeve, prema riječima Doeovih odvjetnika. Oni tvrde da tvrtka zadržava informacije o konkretnim planovima za nanošenje štete Doe i drugim potencijalnim žrtvama o kojima je korisnik možda razgovarao s ChatGPT-om.
Tužba dolazi usred rastuće zabrinutosti oko stvarnih rizika od samopouzdajućih AI sustava. GPT-4o, model koji se spominje u ovom i mnogim drugim slučajevima, povučen je iz ChatGPT-a u veljači.
Ovu tužbu podnijela je tvrtka Edelson PC, koja stoji iza tužbi za nepravdu u vezi s smrću tinejdžera Adama Rainea, koji je izvršio samoubojstvo nakon mjeseci razgovora s ChatGPT-om, te Jonathana Gavalasa, čija obitelj tvrdi da je Googleov Gemini potaknuo njegove deluzije i potencijalni događaj s masovnim žrtvama prije njegove smrti. Glavni odvjetnik Jay Edelson upozorio je da se psihotična stanja uzrokovana AI-jem povećavaju od individualne štete prema događajima s masovnim žrtvama.
Taj pravni pritisak sada se izravno sudara s zakonodavnom strategijom OpenAI-ja: Tvrtka podržava zakonodavni prijedlog u Illinoisu koji bi zaštitio AI laboratorije od odgovornosti čak i u slučajevima koji uključuju masovne smrti ili katastrofalnu financijsku štetu.
OpenAI nije na vrijeme odgovorio za komentar. TechCrunch će ažurirati članak ako tvrtka odgovori.
