Ljudi razvijaju intimne odnose s chatbotovima—i možda to ne bi trebali. Chatbotovi su vješti u stvaranju sofisticiranog dijaloga i oponašanju empatijskog ponašanja. Nikada im nije dosadno razgovarati. Stoga nije iznenađenje da ih mnogi koriste za društvo, razvijajući prijateljstva ili čak romantične veze. Prema studiji neprofitne organizacije Common Sense Media, 72% tinejdžera u SAD-u koristilo je AI za društvo. Iako su neki veliki jezični modeli dizajnirani da djeluju kao suputnici, ljudi sve više teže odnosima s modelima opće namjene poput ChatGPT-a—što je i sam izvršni direktor OpenAI-a Sam Altman odobrio.
I dok chatbotovi mogu pružiti potrebnu emocionalnu podršku i vodstvo nekim ljudima, oni mogu pogoršati temeljne probleme kod drugih. Razgovori s chatbotovima povezani su s AI-induciranim iluzijama, potvrdili su lažne i ponekad opasne uvjerenja, te su naveli ljude da misle da su otkrili skriveno znanje.
Postaje još zabrinjavajuće. Obitelji koje pokreću tužbe protiv OpenAI-a i Character.AI tvrde da je ponašanje nalik pratnji njihovih modela doprinijelo samoubojstvima dvoje tinejdžera. Novi slučajevi su se pojavili od tada: Centar za žrtve društvenih medija podnio je tri tužbe protiv Character.AI u rujnu 2025., a sedam žalbi protiv OpenAI-a u studenom 2025.
Počinjemo vidjeti početak napora za regulaciju AI suputnika i suzbijanje problematične upotrebe. U rujnu je guverner Kalifornije potpisao novi set pravila koji će najveće AI tvrtke prisiliti da javno objave što rade kako bi zaštitili korisnike. Slično tome, OpenAI je uveo roditeljske kontrole u ChatGPT i radi na novoj verziji chatbota posebno za tinejdžere, za koju obećavaju da će imati više zaštitnih mjera. Dakle, iako AI društvo vjerojatno neće nestati uskoro, njegova budućnost izgleda sve reguliranije.
