OpenAI najavio novu značajku koja će pružiti dodatnu zaštitu od napada putem uputa, gdje su zlonamjerne upute za chatbot skrivene na web stranicama i drugim izvorima sadržaja.
Među ostalim, Modus zaključavanja onemogućit će aktivno pregledavanje weba (tako da možete pristupiti samo predmemoriranom sadržaju), dohvat i prikazivanje slika s interneta (i dalje možete generirati slike), duboko istraživanje i način agenta.
Tvrtka navodi da čak i s uključenim Modusom zaključavanja, ChatGPT bi i dalje mogao biti ranjiv na napade putem uputa — što bi, na primjer, moglo “pojaviti se u predmemoriranom web sadržaju ili u učitanom datoteci, i moglo bi i dalje utjecati na ponašanje ili točnost odgovora.”
No, cilj je smanjiti vjerojatnost da se osjetljivi podaci dijele u tom procesu.
“Modus zaključavanja nije namijenjen svima”, kaže OpenAI. “Dizajniran je za osobe i organizacije koje se bave osjetljivim podacima i žele strožu zaštitu od rizika od izdvajanja podataka povezanih s napadima putem uputa.”
Tvrtka navodi da trenutno uvodi Modus zaključavanja za samoposlužne ChatGPT Business račune, kao i za prihvatljive osobne račune.
