Neodređeni broj Claudeovih chatova i artefakata — interaktivnih mini aplikacija i dokumenata koje korisnici mogu izraditi unutar Claudea — pronađeni su javno pretraživi na Googleu tijekom vikenda, nakon što su korisnici Reddita otkrili da upisivanjem pretraživačkih operatora poput “site:claude.ai/share” u Googleu izlazi dugačak popis dijeljenih razgovora. Neki od njih navodno su sadržavali zdravstvene podatke, privatne dokumente tvrtki i imena i brojeve telefona djece.
Izgledno je da je problem proizašao iz Claudeove značajke “dijeljenja chata”, koja korisnicima omogućuje stvaranje poveznica koje omogućuju svakome tko ima dodijeljeni URL da vidi razgovor ili projekt. “Svatko tko ima poveznicu može pregledati,” upozorava Claudeovo sučelje. Ovaj je jezik jasno implicira da je značajka prvenstveno namijenjena korisnicima za dijeljenje svojih chatova s prijateljima, kolegama i malim grupama — a ne cijelim internetom. Google Docs, na primjer, nudi sličnu značajku, a ti dokumenti ne završavaju javno dostupni na Googleu.
Anthropic je očito okrivio korisnike za izloženost. Kada su ih pitali što se dogodilo, tvrtka je rekla za TechCrunch da se poveznice za dijeljenje pojavljuju u pretraživačkim rezultatima samo kada su objavljene negdje gdje ih pretraživači mogu vidjeti, poput foruma ili objava na društvenim mrežama; dodali su da poveznica poslana privatno ostaje izvan pretraživanja.
Glasnogovornica Amie Rotherham dodala je u objašnjenju da: “Dajemo ljudima kontrolu nad dijeljenjem svojih Claude razgovora javno, i u skladu s našim načelima privatnosti, ne dijelimo imenike chatova ili mape web stranica s pretraživačima poput Googlea. Ove poveznice za dijeljenje nisu pogađene ili otkrivene osim ako ih ljudi sami ne odluče podijeliti. Kada netko dijeli razgovor, čini taj sadržaj javno dostupnim, i poput drugog javnog web sadržaja, može ga arhivirati treća strana.”
Problem je prvi put istaknut od strane korisnika Reddita u subotu, a prvo je prijavljen od strane 404 Media u ponedjeljak ujutro.
Do ponedjeljka poslijepodne, test pretraživanja od strane TechCruncha na Googleu slijedeći metodu opisanu u Reddit postu nije vratio nikakve rezultate, sugerirajući da je izloženost na neki način ispravljena.
Prije nego što je problem ispravljen, Futurism je izvijestio da su pronašli “detaljni medicinski izvještaj pravog pacijenta, rezultate kliničkog ispitivanja koji su uključivali imena pacijenata, dokumente koji dijele imena i brojeve telefona djece osnovnoškolskog uzrasta, interne dokumente tvrtki, i recenzije zaposlenika koje su uključivale osobne podatke o radnicima.”
Izloženi artefakti uključivali su kod i radne bilješke. U barem jednom slučaju, Fortune je izvijestio da je chat označen kao “dijeljen od strane Anthropic” također prikazivao Claudea kako proizvodi erotiku.
Anthropicova politika korištenja izričito zabranjuje Claudeu generiranje seksualno eksplicitnog sadržaja, a dobivanje chatbota da proizvede materijal protiv njegovih izjavljenih smjernica — kroz ponovljeno ili kreativno oblikovano poticanje — obrazac je koji se povremeno pojavljuje kod većine glavnih AI modela. Još uvijek nije jasno iz izloženog chata kako je sadržaj u pitanju generiran, a Anthropic još nije odgovorio na zahtjev TechCruncha za komentarom o ovom specifičnom slučaju.
Glasnogovornik Googlea Ned Adriance rekao je za TechCrunch da “ni Google ni bilo koji drugi pretraživač ne kontrolira koje su stranice javno dostupne na webu, a te su stranice indeksirane na mnogim pretraživačima. Dajemo vlasnicima stranica jasne kontrole da odluče mogu li se stranice indeksirati, i uvijek poštujemo te smjernice.”
Lani je Forbes izvijestio o sličnom problemu u kojem su stotine Claudeovih chatova indeksirane od strane pretraživača — tada je Google procijenio da je indeksirao nešto manje od 600 razgovora prije nego što su stranice nestale iz pretraživačkih rezultata. Koliko je trenutna izloženost bliska toj razini nije neovisno potvrđeno, iako su brojni korisnici prijavili pronalaženje dijeljenih razgovora putem iste vrste Google pretraživačkog upita korištenog za prikaz prošlogodišnjeg predmemoriranja. Također lani, 404 Media izvijestio je da je istraživač mogao prikupiti oko 100,000 ChatGPT razgovora koji su bili postavljeni za javno dijeljenje.
Da biste pregledali koje ste Claudeove chatove postavili na javnu poveznicu, idite na Postavke -> Privatnost -> Dijeljeni chatovi.
