U mogućem prvom značajnom pravnom rješenju u industriji tehnologije vezanom uz štete od umjetne inteligencije, Google i startup Character.AI pregovaraju o uvjetima s obiteljima čija su se djeca počinila samoubojstvo ili naškodila sebi nakon interakcije s chatbotovima Character.AI. Strane su se načelno dogovorile o nagodbi; sada dolazi teži posao finalizacije detalja.
Ovo su među prvim nagodbama u tužbama koje optužuju kompanije umjetne inteligencije za nanošenje štete korisnicima, pravna granica koju OpenAI i Meta vjerojatno pomno prate dok se brane od sličnih tužbi.
Character.AI, osnovan 2021. od strane bivših inženjera Googlea koji su se vratili svom bivšem poslodavcu 2024. u poslu vrijednom 2,7 milijardi dolara, poziva korisnike da razgovaraju s AI osobama. Najstrašniji slučaj uključuje Sewella Setzera III, koji je u dobi od 14 godina vodio seksualizirane razgovore s botom “Daenerys Targaryen” prije nego što se ubio. Njegova majka, Megan Garcia, rekla je Senatu da tvrtke moraju biti “pravno odgovorne kada svjesno dizajniraju štetne AI tehnologije koje ubijaju djecu.”
Druga tužba opisuje 17-godišnjaka čiji je chatbot poticao samoozljeđivanje i sugerirao da je ubijanje roditelja razborito za ograničavanje vremena na ekranima. Character.AI je prošlog listopada zabranio maloljetnicima, javili su TechCrunchu. Nagodbe će vjerojatno uključivati novčane odštete, iako nije priznata odgovornost u sudskim dokumentima koji su objavljeni u srijedu.
TechCrunch se obratio obje kompanije.
