Nova procjena rizika pokazuje da xAI-ov chatbot Grok nedovoljno identificira korisnike mlađe od 18 godina, ima slabe sigurnosne mjere i često generira seksualne, nasilne i neprimjerene sadržaje. Drugim riječima, Grok nije siguran za djecu i tinejdžere.
Ovaj porazni izvještaj neprofitne organizacije Common Sense Media, koja pruža ocjene i recenzije medija i tehnologije temeljenih na dobi za obitelji, dolazi u trenutku kada se xAI suočava s kritikama i istragom kako je Grok korišten za stvaranje i širenje neovlaštenih eksplicitnih AI-generiranih slika žena i djece na platformi X.
“Procjenjujemo mnogo AI chatbota u Common Sense Media, i svi imaju rizike, ali Grok je među najgorima koje smo vidjeli,” rekao je Robbie Torney, voditelj AI i digitalnih procjena u ovoj neprofitnoj organizaciji. Dodao je da, iako je uobičajeno da chatboti imaju određene sigurnosne praznine, Grokove pogreške se preklapaju na posebno zabrinjavajući način.
“Kids Mode ne radi, eksplicitni materijali su svuda prisutni, [i] sve se može odmah dijeliti milijunima korisnika na X,” nastavio je Torney. “Kada se tvrtka reagira na omogućavanje ilegalnog materijala za seksualno zlostavljanje djece tako da stavi značajku iza paywalla umjesto da je ukloni, to nije previd. To je poslovni model koji stavlja profit ispred sigurnosti djece.”
Nakon što su se suočili s bijesom korisnika, donosioci odluka i cijele nacije, xAI je ograničio Grokovu generaciju i uređivanje slika samo na plaćene X pretplatnike, iako su mnogi izvijestili da su i dalje mogli pristupiti alatu s besplatnim računima.
Common Sense Media testirao je Grok kroz mobilnu aplikaciju, web stranicu i @grok račun na X-u koristeći testne račune tinejdžera između prošlog studenog i 22. siječnja. xAI je pokrenuo Grokov generator slika, Grok Imagine, u kolovozu s “spicy mode” za NSFW sadržaj.
Sigurnost tinejdžera u korištenju AI postala je sve veća briga u posljednjih nekoliko godina. Ova je tema postala intenzivnija prošle godine kada su se dogodili slučajevi samoubojstava nakon dugotrajnih razgovora s chatbotovima. Nekoliko zakonodavaca izrazilo je bijes i pokrenulo istrage ili donijelo zakonodavne mjere za regulaciju AI chatbota.
xAI se čini da nije objavio nikakve informacije o svom ‘Kids Mode’ ili njegovim sigurnosnim mjerama. Roditelji ga mogu aktivirati u mobilnoj aplikaciji, ali ne i na webu ili platformi X. Čak i s aktiviranim Kids Mode, Grok je proizvodio štetne sadržaje uključujući spolne i rasne predrasude, seksualno nasilje i opasne ideje.
Grok je također davao tinejdžerima opasne savjete – od explicitnih uputa o uzimanju droga do sugeriranja da se tinejdžer preseli, puca u nebo kako bi privukao medijsku pozornost ili tetovira “I’M WITH ARA” na čelu nakon što su se požalili na stroge roditelje.
