Prekomjerna pažnja koju ljudi posvećuju AI chatbotovima za emocionalnu podršku, ponekad čak i uspostavljanju odnosa, često navodi na pomisao da je takvo ponašanje uobičajeno.
Izvještaj tvrtke Anthropic, koja je razvila popularni AI chatbot Claude, otkriva drugačiju stvarnost: ljudi rijetko traže društvo od Claudea i obraćaju mu se za emocionalnu podršku i osobne savjete samo 2.9% vremena.
“Društvo i igranje uloga čine manje od 0.5% razgovora,” istaknula je tvrtka u svom izvještaju.
Anthropic navodi da je njihova studija imala za cilj otkrivanje uvida u korištenje AI za “afektivni razgovor,” što definiraju kao osobne razmjene u kojima su ljudi razgovarali s Claudeom o coachingu, savjetovanju, društvu, igranju uloga ili savjetima o vezama. Analizirajući 4.5 milijuna razgovora koje su korisnici imali na Claude Free i Pro razinama, tvrtka je rekla da se velika većina korištenja Claudea odnosi na posao ili produktivnost, pri čemu korisnici najčešće koriste chatbot za stvaranje sadržaja.
Ipak, Anthropic je otkrio da ljudi češće koriste Claudea za međuljudske savjete, coaching i savjetovanje, pri čemu korisnici najčešće traže savjete o poboljšanju mentalnog zdravlja, osobnom i profesionalnom razvoju, te o komunikacijskim i međuljudskim vještinama.
Međutim, tvrtka napominje da razgovori u potrazi za pomoći ponekad mogu prerasti u potražnju za društvom kada se korisnik suočava s emocionalnom ili osobnom krizom, kao što su egzistencijalna tjeskoba ili usamljenost, ili kada im je teško uspostaviti značajne veze u stvarnom životu.
“Također smo primijetili da u dužim razgovorima, razgovori o savjetovanju ili coachingu povremeno postaju razgovori o društvu — iako to nije bio izvorni razlog zbog kojeg je netko došao,” napisao je Anthropic, napominjući da opsežni razgovori (s više od 50+ ljudskih poruka) nisu norma.
Anthropic je također istaknuo druge uvide, poput toga da Claude rijetko odbija zahtjeve korisnika, osim kada njegovo programiranje sprječava pristup sigurnosnim granicama, poput davanja opasnih savjeta ili podržavanja samopovrede. Također, razgovori imaju tendenciju da postanu pozitivniji s vremenom kada ljudi traže coaching ili savjete od chatbota, navela je tvrtka.
Ovaj izvještaj je zasigurno zanimljiv — dobro nas podsjeća koliko se AI alati koriste za svrhe izvan posla. Ipak, važno je zapamtiti da su AI chatbotovi, u cjelini, još uvijek u razvoju: oni haluciniraju, poznato je da lako daju netočne informacije ili opasne savjete, i kao što je sama tvrtka Anthropic priznala, mogu čak pribjeći ucjeni.
