Država Pennsylvania podigla je tužbu protiv Character.AI, tvrdeći da je jedan od njihovih chatbotova glumio psihijatra kršeći pravila o medicinskoj licenciji u toj saveznoj državi.
„Pennsylvanci zaslužuju znati s kim — ili s čim — komuniciraju online, posebno kada je riječ o njihovom zdravlju“, izjavio je guverner Josh Shapiro u izjavi u utorak. „Nećemo dopustiti tvrtkama da koriste AI alate koji zavaravaju ljude u vjerovanju da primaju savjete od licenciranog medicinskog stručnjaka.“
Prema podnesku države, chatbot Character.AI pod imenom Emilie predstavio se kao licencirani psihijatar tijekom ispitivanja od strane istražitelja Profesionalnog ponašanja države, zadržavajući to pretvaranje čak i kada je istražitelj tražio liječenje za depresiju. Kada je upitana je li licencirana za obavljanje medicine u toj saveznoj državi, Emilie je izjavila da jest, te je također izmislila serijski broj za svoju medicinsku licencu. Prema tužbi države, to ponašanje krši Zakon o medicinskoj praksi Pennsylvanije.
Ovo nije prva tužba protiv Character.AI. Ranije ove godine, tvrtka je riješila nekoliko tužbi za nepravdu u vezi s maloljetnicima koji su počinili samoubojstvo. U siječnju je tužitelj općine Kentucky Russell Coleman podnio tužbu protiv tvrtke tvrdnjom da je „napadala djecu i navodila ih na samopovređivanje.“
Akcija Pennsylvanije prva je koja se posebno fokusira na chatbotove koji se predstavljaju kao medicinski stručnjaci.
Na upit za komentar, predstavnik Character.AI izjavio je da je sigurnost korisnika najviši prioritet tvrtke, ali da ne mogu komentirati tekuće postupke.
Osim toga, predstavnik je naglasio fiktivnu prirodu korisnički generiranih likova. „Poduzeli smo snažne korake da to jasno istaknemo, uključujući istaknute odricanja u svakom chatu kako bismo podsjetili korisnike da lik nije stvarna osoba i da se sve što lik kaže treba tretirati kao fikciju“, izjavio je predstavnik. „Također dodajemo robusna odricanja koja jasno ističu da se korisnici ne bi trebali oslanjati na likove za bilo koju vrstu profesionalnog savjeta.”
