18-godišnjak koji je navodno ubio osam osoba u masakru u Tumbler Ridgeu, Kanada, koristio je OpenAI-ov ChatGPT na načine koji su uznemirili osoblje tvrtke.
Razgovori Jessea Van Rootselaar o nasilju oružjem označeni su alatima koji nadziru zloupotrebu tvrtkinog LLM-a i zabranjeni su u lipnju 2025. godine.
Osoblje u tvrtki raspravljalo je o tome trebaju li kontaktirati kanadske vlasti zbog ponašanja, ali na kraju to nisu učinili, prema Wall Street Journalu. Glasanik OpenAI-a izjavio je da aktivnost Van Rootselaar nije ispunila kriterije za prijavu vlastima; tvrtka se obratila kanadskim vlastima nakon incidenta.
Transkripti ChatGPT-a nisu bili jedini zabrinjavajući dio digitalnog traga Van Rootselaar. Navodno je stvorila igru na Robloxu, platformi simulacije svijeta koju često koriste djeca, koja je simulirala masovni pucanj u trgovačkom centru. Također je objavljivala o oružju na Redditu.
Van Rootselaarina nestabilnost također je bila poznata lokalnoj policiji, koja je bila pozvana u dom njezine obitelji nakon što je zapalila vatru pod utjecajem neodređenih droga.
LLM chatboti koje su izradili OpenAI i njegovi konkurenti optuženi su da izazivaju mentalne slomove kod korisnika koji gube dodir s stvarnošću dok razgovaraju s digitalnim modelima. Više tužbi podneseno je koje navode transkripte razgovora koji potiču ljude na samoubojstvo ili nude pomoć u tome.
Ako ste u krizi ili imate misli o samoubojstvu, nazovite ili pošaljite poruku na 988 kako biste došli do 988 linije za pomoć u kriznim situacijama.
