Kako zabrinutost zbog utjecaja umjetne inteligencije na mlade raste, OpenAI je predstavio značajku “predikcije uzrasta” u ChatGPT-u koja je osmišljena da pomogne u prepoznavanju maloljetnika i postavljanju odgovarajućih ograničenja na njihove razgovore.
OpenAI je u posljednjih nekoliko godina bila žestoko kritizirana zbog utjecaja koje ChatGPT može imati na djecu. Brojni samoubojstva tinejdžera povezana su s ovim chatbotom, a poput drugih pružatelja AI, OpenAI je također bila predmet kritika zbog dopuštanja ChatGPT-u da razgovara o seksualnim temama s mladim korisnicima. Prošlog travnja, tvrtka je bila prisiljena riješiti grešku koja je omogućila njezinom chatbotu generiranje erotskih razgovora za korisnike mlađe od 18 godina.
Tvrtka već neko vrijeme radi na problemu korisnika mlađih od 18 godina, a nova značajka “predikcije uzrasta” samo dodatno pojačava postojeće zaštite. Nova značajka koristi AI algoritam koji procjenjuje korisničke račune na temelju određenih “ponašajnih i signalnih indikatora”, s ciljem prepoznavanja mladih korisnika, rekla je OpenAI u objavi na blogu u utorak.
Ti “signali” uključuju stvari poput navedene dobi korisnika, trajanja postojanja računa i vremena tijekom dana kada je račun obično aktivan. Tvrtka već ima filtre sadržaja osmišljene da uklone rasprave o seksu, nasilju i drugim potencijalno problematičnim temama za korisnike mlađe od 18 godina. Ako mehanizam predikcije uzrasta identificira račun kao mlađi od 18, ti se filtri automatski primjenjuju.
Ako je korisnik pogrešno označen kao maloljetan, postoji način za ponovno uspostavljanje njihova “odraslog” računa. Mogu poslati selfie partneru za verifikaciju identiteta OpenAI-u, tvrtka navodi.
