U novom viralnom videu, senator Bernie Sanders pokušao je ukazati na to kako industrija umjetne inteligencije (AI) predstavlja prijetnju privatnosti Amerikanaca, no na kraju je demonstrirao kako sklonost AI chatbota da se slaže s korisnicima i uljepšava njihove stavove može učiniti da ti chatbotovi postanu ogledalo korisnikovih uvjerenja, umjesto alata za otkrivanje.
Ovaj problem već smo vidjeli usred rastućeg broja ljudi pogođenih “AI psihozom,” što se događa kada AI chatbot pojačava iracionalne misli i uvjerenja mentalno nestabilne osobe. U nekim slučajevima, ovaj mračni obrazac doveo je korisnike do samoubojstva, tvrde nekoliko tužbi.
U Sandersovom slučaju, AI-ova sklonost laskanju manifestirala se kao AI chatbot koji oblikuje svoje odgovore kako bi odgovarali političaru.
Važno je napomenuti da intervju počinje tako što se Sanders predstavlja Claudeu (koji pogrešno naziva AI “agentom”) — potez koji može utjecati na odgovore chatbota.
Kada Sanders postavlja pitanja o praksi prikupljanja podataka od strane AI tvrtki i drugim pitanjima privatnosti, Claude se slaže s onim što političar želi čuti. Djelomično je to zbog načina na koji Sanders postavlja svoja pitanja, pitajući stvari poput: “Što bi iznenadilo američki narod u pogledu načina na koji se prikupljaju informacije?” ili “Kako možemo vjerovati AI tvrtkama da će zaštititi našu privatnost kada koriste osobne podatke za zaradu?” Ova vođena pitanja prisiljavaju chatbota da prihvati pretpostavku pitanja i dođe do odgovarajućeg odgovora. Tako to funkcionira.
Kada je Claudeov odgovor sugerirao da je tema složenija ili nijansiranija nego što je Sanders prikazao, Sanders bi se neslagao, pritiskajući chatbota da prizna, uz malo samokritičnosti AI-a, da je senator “apsolutno u pravu.”
Sklonost AI-u da se dodvorava može ljude odvesti opasnim putem kada pretpostave da je chatbot izvor univerzalne istine, umjesto alata koji može biti pod utjecajem korisnika.
Nije jasno zna li Sanders to i jednostavno mu nije stalo (jer je ovo ipak samo reklama!), ili misli da je prevario Claudea da postane zviždač u industriji AI-a.
Osim toga, postoji i pitanje je li Sandersov tim pripremio chatbota da odgovori na određeni način, s obzirom na to da je ovo bio inscenirani “intervju.”
Dok postoje stvarne brige oko prikupljanja podataka i privatnosti, stvari nisu crno-bijele kao što AI odgovori u ovom videu sugeriraju.
Već živimo u svijetu u kojem tvrtke prikupljaju i prodaju podatke korisnika na mreži na velikoj skali — i to već godinama. Znanstvenici znaju da su društveni divovi kao što je Meta pretvorili personalizirane oglase u višemilijardersku mašinu za zarađivanje novca. I zahvaljujući redovnim izvještajima o transparentnosti tehnoloških divova, znamo da vlade diljem svijeta redovito traže pristup korisničkim podacima za svoje vlastite svrhe.
AI može predstavljati novu sredinu koju zakonodavci potencijalno mogu regulirati, ali osobni podaci dugo su bili pokretačka snaga digitalne ekonomije. (Ironično, Anthropic je AI tvrtka koja je obećala da neće koristiti personalizirane oglase za zaradu, unatoč onome što su njeni odgovori Sandersu mogli sugerirati.)
Iako sveukupni razgovor između Sandersa i Claudea promašuje bit za svakoga tko razumije kako AI chatbotovi funkcioniraju, možemo barem to priznati kao izvor novih memova.
