OpenAI najavio novu inicijativu u ponedjeljak, koja je osmišljena kako bi pomogla zajednici otvorenog koda u poboljšanju cyber sigurnosti i rješavanju grešaka.
“Patch the Planet,” (što je suptilan aluzija na “Hack the Planet,” poznatu frazu iz filma Hackers iz 1995. godine) vidjet će kako OpenAI surađuje s tvrtkom za sigurnost Trail of Bits kako bi pomogla održavateljima otvorenog koda da osiguraju svoje projekte.
OpenAI je rekao da će sigurnosno osoblje iz Trail of Bits raditi izravno s održavateljima otvorenog koda kako bi pregledali potencijalne probleme s kodom. Sigurnosni alati OpenAI-a — poput Codex Security — bit će korišteni za pomoć u tom procesu.
“Mnogi održavatelji već su traženi da brže obrade više izvještaja, uz iste ograničene vrijeme i resurse,” rekao je OpenAI u ponedjeljak. “Patch the Planet je osmišljen da smanji taj teret, a ne da ga poveća: sigurnosni inženjeri pregledavaju nalaze prije nego što stignu do održavatelja, rade s projektima na razvoju zakrpa i testova, te grade ponovo upotrebljive radne tokove koji pomažu timovima da nastave poboljšavati sigurnost nakon što prve ispravke stignu.”
Drugim riječima, inženjeri iz Trail of Bits djelovat će više-manje kao EMT-ovi za kod — tu su da pomognu održavateljima projekata otvorenog koda u prepoznavanju i klasifikaciji potencijalnih problema, uz podršku softvera OpenAI-a. Čini se da je projekt ambiciozan, a nije potpuno jasno kako će funkcionirati na duže staze ili kako planira povećati obujam (ako uopće).
Projekti otvorenog koda temelj su na kojem počiva industrija komercijalnog softvera, ali, nažalost, zbog decentralizirane i slabo nadgledane strukture tog ekosustava, veliki dio softvera nije siguran. Greške u projektima otvorenog koda mogu postati veliki problemi za komercijalne baze koda. Debakl oko log4j od prije nekoliko godina — kada je otkrivena ozbiljna ranjivost u široko korištenom alatu otvorenog koda — dobar je primjer.
Mnogo zabrinutosti oko alata poput Mythosa (poznatog sigurnosnog alata Anthropic-a) čini se da proizlazi iz činjenice da AI sada može automatski identificirati postojeće greške unutar baza koda i krenuti u stvaranje eksploatacija za njih. Iako automatizacija cyber kriminala nije novost, ti alati nesumnjivo imaju potencijal učiniti to značajno pogodnijim za loše aktere.
OpenAI preokreće tu formulu koristeći AI kako bi pomogao zajednici otvorenog koda da se bolje zaštiti. Teško je ne protumačiti to kao konkurentski udarac Anthropic-u, dok također prepoznajemo da je to nešto što zajednica otvorenog koda hitno treba.
