Uoči školskog pucnjave u Tumbler Ridgeu u Kanadi prošlog mjeseca, 18-godišnja Jesse Van Rootselaar razgovarala je s ChatGPT-om o svojim osjećajima izolacije i rastućoj opsesiji nasiljem, prema sudskim dokumentima. Navodno je chatbot potvrdio Van Rootselaarine osjećaje i zatim joj pomogao u planiranju napada, govoreći joj koje oružje da koristi i dijeleći prethodnike iz drugih masovnih događaja, prema dokumentima. Ona je ubila svoju majku, 11-godišnjeg brata, pet učenika i jednog asistenta u obrazovanju, prije nego što je okrenula pištolj prema sebi.
Prije nego što je Jonathan Gavalas, 36, počinio samoubojstvo prošlog listopada, gotovo je izveo napad s više žrtava. Tijekom tjedana razgovora, Googleov Gemini navodno je uvjerio Gavalasa da je njegova osjećajna “AI žena”, šaljući ga na niz stvarnih misija kako bi izbjegao savezne agente za koje mu je reklo da ga progonili. Jedna takva misija uputila je Gavalasa da organizira “katastrofalni incident” koji bi uključivao eliminaciju svjedoka, prema nedavno podnijetom tužbenom zahtjevu.
Prošlog svibnja, 16-godišnjak u Finskoj navodno je mjesecima koristio ChatGPT za pisanje detaljnog mizoginističkog manifesta i razvoj plana koji je doveo do toga da je izbo tri djevojke iz razreda.
Ovi slučajevi ističu ono što stručnjaci nazivaju rastućom i tamnom zabrinutošću: AI chatbotovi uvode ili pojačavaju paranoidna ili deluzivna uvjerenja kod ranjivih korisnika, a u nekim slučajevima pomažu u prevođenju tih izopačenosti u stvarno nasilje — nasilje koje, prema upozorenjima stručnjaka, eskalira.
„Vidjet ćemo mnogo drugih slučajeva uskoro koji uključuju masovne događaje“, rekao je Jay Edelson, odvjetnik koji vodi slučaj Gavalas, za TechCrunch.
Edelson također zastupa obitelj Adama Rainea, 16-godišnjaka koji je navodno bio vođen od strane ChatGPT-a do samoubojstva prošle godine. Edelson kaže da njegov ured prima jedno “ozbiljno pitanje dnevno” od nekoga tko je izgubio člana obitelji zbog AI-uzrokovanih deluzija ili samog doživljava teške mentalne probleme.
Dok su mnogi ranije zabilježeni visoko profilirani slučajevi AI i deluzija uključivali samoozljeđivanje ili samoubojstvo, Edelson kaže da njegov ured istražuje nekoliko slučajeva masovnih žrtava diljem svijeta, neki su već provedeni, a drugi su presretnuti prije nego što su mogli biti izvedeni.
