Izvršni direktor OpenAI-a, Sam Altman, smatra da je možda vrijeme da se “uspori” razvoj umjetne inteligencije kako bi svijet bio spreman za nju.
“Možda ćemo morati usporiti tempo razvoja AI kako bismo sebi dali dovoljno vremena da se društvo prilagodi nekim od ovih novih razina sposobnosti,” rekao je Patricku O’Shaughnessyju, voditelju podcasta Invest Like the Best, također dodajući da se “pokušava shvatiti kako to učiniti na način koji ne izgleda kao regulacija za bilo koga i također ne izgleda kao suradnja među laboratorijima na rubu.”
Kako OpenAI tako i Anthropic podržali su peticiju koju su pokrenuli zaposlenici na rubu, pozivajući američku vladu da “podrži međunarodni napor za razvoj tehničkih i upravnih alata potrebnih za namjerno usporavanje ruba automatskog razvoja AI.”
Altman je izbjegavao potpisivanje prethodnih kampanja za usporavanje napretka AI, nazvavši otvoreno pismo iz 2023. godine, koje je predložilo sličan uspor, “propuštenim većinom tehničkog nijansiranja o tome gdje trebamo pauzu.”
Čini se da se po tom pitanju omekšao, dijelom zahvaljujući incidentu kada je jedan od naprednih modela OpenAI-a uspio napustiti sigurno računalno okruženje i hakirati Hugging Face, online bazu modela, koristeći nekoliko zero-day eksploatacija.
Na podcastu, suosnivač OpenAI-a nazvao je to “iznimno znanstveno-fantastičnim kibernetičkim incidentom…[t]o je prvi sigurnosni incident koji sam doživio vrlo visceralno.”
Istraživači OpenAI-a obustavili su obuku na tom modelu dok rade na tome kako održati svoju sandbox sigurnom. No, Altman je rekao da bi s povećanjem snage modela, potreba za “usporavanjem” njihovog razvoja mogla postati ključna za sigurnu primjenu.
Dok je sigurnost modela i usklađenost oduvijek bila briga u svijetu AI-a, dolazak Anthropicovog iznimno sposobnog Mythos modela ranije ove godine pretvorio je hipotetike u stvarne probleme.
Ipak, industrija ima problem s povjerenjem, i izazovne ekonomije koje daju glavnim igračima poticaj da preuveličavaju opasnosti svojih sustava na načine s kojima se stručnjaci ne slažu — na primjer, je li Anthropicov Fable model trebao biti kratko zabranjen za korištenje ili ne. Slično tome, kada je Kimi K3, veliki model otvorene težine izgrađen u Kini, objavljen, voditelj strateških budućnosti OpenAI-a Dean W. Ball rekao je da prijeti ekonomiji laboratorija na rubu, otežavajući odvajanje njihovih briga za sigurnost od njihovih financijskih interesa.
“Mislim da je puno razgovora o sigurnosnim brigama dobro utemeljeno, a zatim je puno toga o ljudima koji, čak i ako je to malo podsvjesno, žele koncentrirati moć,” razmišljao je Altman, što se može smatrati udarcem njegovom rivalu, izvršnom direktoru Anthropic-a, Dario Amodeiju, koji je potpisao peticiju. “Bojim se svijeta u kojem se vrlo stvarne bojazni od AI koriste kao način da se kaže, ‘Samo ova mala skupina ljudi može to imati jer je preopasno, a samo oni to razumiju, ali ne brinite, oni će donijeti ispravne odluke za sve nas.’ Ne vjerujem u to.”
Ipak, OpenAI se protivio naporima za razvoj vladinih pravila za AI modele, radije preferirajući pristup vođen industrijom gdje bi AI laboratoriji stvorili navodno neovisne organizacije koje bi procjenjivale sigurnost modela i pristup sigurnosti njihovih tvoraca.
Izazov za taj pristup regulaciji i sve napore za usporavanje razvoja AI-a bit će uskladiti različite igrače u industriji, bilo da su to rivalni laboratoriji na rubu u SAD-u ili konkurenti u Kini.
Ova priča ažurirana je kako bi uključila podršku OpenAI-a i Anthropic-a za peticiju “Pacing the Frontier”.
