U četvrtak je OpenAI najavio novu funkciju pod nazivom Trusted Contact, koja je osmišljena kako bi upozorila pouzdanu treću stranu ako se u razgovoru spominje samoozljeđivanje. Ova funkcija omogućava odraslim korisnicima ChatGPT-a da odrede drugu osobu kao pouzdani kontakt unutar svog računa, poput prijatelja ili člana obitelji. U slučajevima kada razgovor može skrenuti prema samoozljeđivanju, OpenAI će sada poticati korisnika da kontaktira tu osobu. Također, automatski šalje obavijest kontaktu, potičući ih da provjere kako je korisniku.
OpenAI se suočio s valom tužbi od strane obitelji osoba koje su izvršile samoubojstvo nakon što su razgovarale s njihovim chatbotom. U nekoliko slučajeva, obitelji tvrde da ih je ChatGPT poticao da izvrše samoubojstvo — ili čak pomogao u planiranju.
Trenutno OpenAI koristi kombinaciju automatizacije i ljudske provjere za upravljanje potencijalno štetnim incidentima. Određeni okidači u razgovoru upozoravaju sustav tvrtke na suicidalne misli, koje zatim prenose informacije ljudskom timu za sigurnost. Tvrtka tvrdi da se svaki put kada primi ovu vrstu obavijesti incident pregledava od strane čovjeka. “Trudimo se pregledati ove sigurnosne obavijesti unutar jednog sata”, kaže tvrtka.
Ako unutarnji tim OpenAI-a odluči da situacija predstavlja ozbiljnu sigurnosnu prijetnju, ChatGPT šalje pouzdanom kontaktu obavijest — bilo putem e-pošte, SMS-a ili obavijesti unutar aplikacije. Obavijest je osmišljena da bude kratka i da potakne kontakt da provjeri kako je osobi o kojoj se radi. Ne uključuje detaljne informacije o onome što se raspravljalo, kao način zaštite privatnosti korisnika, tvrdi tvrtka.
Funkcija Trusted Contact slijedi sigurnosne mjere koje je tvrtka uvela prošlog rujna, dajući roditeljima mogućnost da imaju određeni nadzor nad računima svojih tinejdžera, uključujući primanje sigurnosnih obavijesti koje upozoravaju roditelja ako sustav OpenAI-a smatra da njihovo dijete suočava s “ozbiljnom sigurnosnom prijetnjom.” ChatGPT također uključuje automatske obavijesti za traženje profesionalne zdravstvene pomoći ako razgovor skrene prema temi samoozljeđivanja.
Važno je napomenuti da je Trusted Contact opcionalan i, čak i ako je zaštita aktivirana na određenom računu, svaki korisnik može imati više ChatGPT računa. OpenAI-ove roditeljske kontrole su također opcionalne, slične ograničenja.
“Trusted Contact je dio šireg nastojanja OpenAI-a da izgrade AI sustave koji pomažu ljudima u teškim trenucima“, navela je tvrtka u objavi. “Nastavit ćemo raditi s kliničarima, istraživačima i donosiocima odluka kako bismo poboljšali način na koji AI sustavi reagiraju kada ljudi mogu doživljavati stres.”
