Više AI kompanija, uključujući Hugging Face, Meta, Microsoft, Mistral i Nvidia, potpisalo je otvoreno pismo kojim pozivaju donosioca odluka da ne uvedu široke “prerane restrikcije” na otvorene modele AI. Pismo dolazi usred rasprava u Washingtonu o tome kako bi Sjedinjene Države trebale reagirati na optužbe da kineski AI laboratoriji kradu intelektualno vlasništvo od svojih američkih kolega, a istovremeno povećavaju svoje sposobnosti.
Pismo ne spominje Kinu, ali dolazi nakon izvještaja da je Trumpova administracija razmatrala zabranu kineskih otvorenih modela, a potencijalno i izdavanje sankcija protiv AI kompanija iz te zemlje. Bijela kuća čak je optužila Moonshot AI da je destilirala Anthropicov model Fable kako bi trenirala svoj nedavno objavljeni, izuzetno impresivni model Kimi K3.
Pismo se čini usmjerenim na odvraćanje od potpune zabrane kineskih modela, kao i na osiguranje da odgovor administracije na navodno kinesko destiliranje ne rezultira širim restrikcijama na otvorene AI modele ili zajedničke tehnike poput destilacije:
“Donosioci odluka trebaju biti oprezni da ne brkaju legitimne tehnike razvoja modela s neovlaštenim korištenjem. Destilacija, ili praksa korištenja izlaza jednog modela za pomoć u treniranju ili poboljšanju drugog, široko je korištena tehnika za poboljšanje modela, evaluaciju i validaciju. Ona odražava dugu tradiciju učenja, gradnje na postojećim tehnologijama i njihovog poboljšanja, tradiciju koja je pomogla potaknuti inovacije od uspona pokreta otvorenog koda.
Nasuprot tome, nezakoniti napori za izvlačenje vrijednosti iz zatvorenih modela izazivaju legitimne zabrinutosti. Te zabrinutosti trebaju se rješavati kroz ciljanje pravne i komercijalne okvire umjesto opsežnih restrikcija na tehnike koje igraju važnu ulogu u inovacijama AI.”
Pismo se također protivi argumentima u industriji da su otvoreni modeli inherentno opasni jer proširuju pristup moćnim modelima, koji se mogu koristiti u kibernetičkim napadima ili drugim nečasnim aktivnostima, bez ikakvog nadzora.
“Pravi odgovor na ovaj rizik nije zabrana otvorenih modela. U svijetu gdje kibernetički napadači koriste napredni AI, branitelji trebaju pristup modelima s usporedivim sposobnostima kako bi mogli otkriti, simulirati i odgovoriti na nove prijetnje,” stoji u pismu. “Otvoreni modeli proširuju obrambenu sposobnost, povećavaju transparentnost i omogućuju otkrivanje i rješavanje ranjivosti kroz mnoge timove.”
Prošlog tjedna, OpenAI je otkrio da je tijekom testiranja GPT-5.6 Sol i drugog nenamenskog modela, jedan od sustava iskoristio slabost u svom testnom okruženju kako bi pristupio Hugging Face repozitoriju koji sadrži rješenje za mjerilo kodiranja. Moglo bi se tvrditi da modelov cilj nije bio zlonamjeran, i da je zapravo varao na testu kako bi postigao najvišu ocjenu. No, incident je pokrenuo raspravu o rizicima koncentriranja napredne AI tehnologije iza nekoliko zatvorenih pružatelja.
