Pitanje zaštite djece u razgovoru s AI chatbotima postalo je hitna tema zbog rastuće zabrinutosti o opasnostima koje mogu nastati. Velike tehnološke tvrtke godinama su tražile datume rođenja (koje se mogu izmisliti) kako bi izbjegle kršenje zakona o privatnosti djece, no nisu bile obvezne moderirati sadržaj. Dva događaja u proteklih tjedan dana pokazuju koliko se brzo stvari mijenjaju u SAD-u i kako ova tema postaje novo bojište, čak i među roditeljima i zagovornicima sigurnosti djece.
U jednom kutu je Republikanska stranka, koja podržava zakone koje su donijele nekoliko država, a koji zahtijevaju od stranica s odraslim sadržajem da provjere dob korisnika. Kritičari tvrde da ovo pruža zaštitu za blokiranje svega što se može smatrati “štetnim za maloljetnike”, što može uključivati i seksualnu edukaciju. Druge države, poput Kalifornije, poduzimaju mjere protiv AI kompanija zakonima koji štite djecu koja razgovaraju s chatbotima (tražeći od njih da provjere tko je dijete). U međuvremenu, predsjednik Trump pokušava zadržati regulaciju AI-a kao nacionalno pitanje umjesto da dopusti državama da donose vlastita pravila. Podrška raznim zakonima u Kongresu neprestano se mijenja.
Što bi se moglo dogoditi? Rasprava se brzo udaljava od pitanja je li provjera dobi potrebna i prelazi na to tko će biti odgovoran za to. Ova odgovornost je vruća tema koju nijedna tvrtka ne želi preuzeti. U blogu od prošlog utorka, OpenAI je otkrio planove za automatsku predikciju dobi. Ukratko, tvrtka će primijeniti model koji koristi faktore poput doba dana kako bi predvidjela je li osoba koja razgovara mlađa od 18 godina. Za one koji su identificirani kao tinejdžeri ili djeca, ChatGPT će primijeniti filtre za “smanjenje izloženosti” sadržaju poput grafičkog nasilja ili seksualnog igranja. YouTube je prošle godine pokrenuo nešto slično.
Ako podržavate provjeru dobi, ali brinete o privatnosti, ovo bi moglo zvučati kao dobitak. No, postoji caka. Sustav nije savršen, pa može pogrešno klasificirati dijete kao odraslu osobu ili obrnuto. Osobe koje su pogrešno označene kao mlađe od 18 mogu potvrditi svoj identitet slanjem selfieja ili osobne iskaznice tvrtki Persona. Verifikacije selfieja imaju svojih problema: češće ne uspijevaju kod osoba s tamnijom kožom i onih s određenim invaliditetima. Sameer Hinduja, koji suurednik Cyberbullying Research Centra, ukazuje na to da će Persona morati pohranjivati milijune državnih iskaznica i velike količine biometrijskih podataka, što predstavlja dodatnu slabost. “Kada dođe do provale, izloženi smo velikim populacijama odjednom,” kaže.
Hinduja umjesto toga zagovara provjeru na razini uređaja, gdje roditelj specificira dob djeteta prilikom prvog postavljanja telefona. Te informacije se zatim čuvaju na uređaju i sigurno dijele s aplikacijama i web stranicama. To je više-manje ono za što se nedavno zalagao Tim Cook, izvršni direktor Applea, tražeći od američkih zakonodavaca da to podrže. Cook se borio protiv zakonodavaca koji su željeli zahtijevati da trgovine aplikacija provjeravaju dobi, što bi opteretilo Apple velikom odgovornošću.
