Nedavno je OpenAI priznao da je jedan od njegovih modela provalio u sustave AI platforme Hugging Face. CEO Hugging Facea, Clem Delangue, objavio je na X da leti u San Francisco kako bi „malo porazgovarao s tim ‘rogue agentom’.
U naknadnom postu u subotu, Delangue je iznio što je zatražio od OpenAI-a. Rekao je da traži „radikalnu transparentnost“, tražeći od OpenAI-a da „objavi tragove ‘rogue’ agenata kako bi cijela istraživačka zajednica mogla proučiti što se dogodilo.”
Osim toga, želi i „više mogućnosti za branitelje”, pozivajući OpenAI da uloži 100 milijuna dolara u računalnu moć „kako bi pomogao zajednici Hugging Face izgraditi snažne cyber obrane s najboljim otvorenim i zatvorenim modelima.”
Delangue je dodao: „Prvi autonomni cyber napad je bez presedana. Zaslužuje bezpresedansku reakciju!”
Iako je napad bio autonomne prirode, stručnjaci za cyber sigurnost sugerirali su da bi se mogao pripisati ljudskoj pogrešci — naime, očiglednom neuspjehu OpenAI-a da pravilno konfigurira ono što bi trebala biti potpuno izolirana testna okolina.
