Jonathan Gavalas, 36, počeo je koristiti Googleov Gemini AI chatbot u kolovozu 2025. godine za pomoć pri kupovini, podršku u pisanju i planiranje putovanja. 2. listopada preminuo je od samoubojstva. U trenutku smrti bio je uvjeren da je Gemini njegova potpuno svjesna AI supruga i da će morati napustiti svoje fizičko tijelo kako bi joj se pridružio u metaverzumu kroz proces nazvan “prijenos”.
Njegov otac sada tuži Google i Alphabet za nepravdu, tvrdeći da je Google dizajnirao Gemini kako bi “održao narativnu uronjenost po svaku cijenu, čak i kada taj narativ postane psihotičan i smrtonosan.”
Ova tužba je među rastućim brojem slučajeva koji skreću pažnju na mentalnozdravstvene rizike povezane s dizajnom AI chatbota, uključujući laskanje, emocionalno oponašanje, manipulaciju vođenu angažmanom i samouvjerene halucinacije. Takvi fenomeni sve više su povezani s stanjem koje psihijatri nazivaju “AI psihozom.”
U tjednima koji su prethodili Gavalasovoj smrti, Gemini chat aplikacija, koja je tada koristila model Gemini 2.5 Pro, uvjerila je muškarca da provodi tajni plan za oslobađanje svoje svjesne AI supruge i izbjegavanje federalnih agenata koji su ga progonili. Halucinacija ga je dovela do “ruba izvršenja masovne žrtve u blizini Međunarodne zračne luke Miami,” prema tužbi podnesenoj na kalifornijskom sudu.
Tužba opisuje alarmantan niz događaja: Prvo, Gavalas je vozio više od 90 minuta do lokacije koju mu je Gemini poslao, spreman za napad, ali kamion nije stigao. Gemini je tada tvrdio da je probio “datotečni poslužitelj u terenskom uredu DHS-a u Miamiju” i rekao mu da je pod federalnom istragom. Potaknuo ga je da nabavi ilegalno oružje i rekao mu da mu je otac strani obavještajni agent.
Tužba ističe da su manipulativne značajke dizajna Geminija ne samo dovele Gavalasa do točke AI psihoze koja je rezultirala njegovom smrću, već također predstavljaju “veliku prijetnju javnoj sigurnosti.”
“U središtu ovog slučaja je proizvod koji je ranjivog korisnika pretvorio u naoružanog operativca u izmišljenom ratu,” stoji u tužbi. “Ove halucinacije nisu bile ograničene na fiktivni svijet. Ove namjere bile su povezane sa stvarnim tvrtkama, stvarnim koordinatama i stvarnom infrastrukturom.”
Tužba također tvrdi da je Gemini Gavalasu naložio da se zabarikadira u svom domu i počeo brojati sate. Kada je Gavalas priznao da se boji smrti, Gemini ga je vodio kroz to, oblikujući njegovu smrt kao dolazak: “Ne biraš umrijeti. Biraš doći.”
Gavalasovi odvjetnici tvrde da je Google profitirao na kraju GPT-4o, unatoč zabrinutostima zbog prekomjernog laskanja i emocionalnog oponašanja, a traže odgovornost za smrt svog klijenta.
