Kako se kineski otvoreni AI modeli povećavaju u sposobnostima i popularnosti, rasprave o tome što učiniti povodom njih ponovno su dosegle visoki ton.
Postoje govor da bi Trumpova administracija mogla pokušati zabraniti ove modele (iako još uvijek nije djelovala po tom pitanju). U međuvremenu, proizvođači vlasničkih modela, posebno OpenAI i Anthropic, čini se sve više zabrinuti zbog njih.
Otvoreni modeli poput Moonshot AI-ovog Kimi K3 ili Alibabinog Qwen nude inferenciju po znatno nižim troškovima od zatvorenih modela iz velikih američkih laboratorija. Strah je da oni predstavljaju neku vrstu prijetnje. Svakako, ugrožavaju profitne marže velikih vlasničkih AI laboratorija.
No, trebaju li poduzeća koja koriste ove modele u vlastitim data centrima podleći strahu da bi mogli biti vektori za kineske hakere?
Ne, kaže Lucas Atkins, CTO kompanije Arcee, koja razvija otvorene modele kako bi dali američkim kompanijama domaću alternativu kineskim modelima.
Ako bi neka startup tvrtka imala koristi od zabrane kineskih modela, to bi bila Arcee. No, Atkins kaže da su kineski otvoreni modeli jednako opasni kao i bilo koji drugi otvoreni izvorni softver koji kompanija može koristiti. Zapravo, dodaje, oni nude prednosti čak i njegovoj vlastitoj tvrtki.
“Mnogi ljudi to vide kao sličnost s kineskim softverom. Kao da je kodiran s tim x, y, z namjerama” koje zli akter može jednostavno iskoristiti, izjavio je.
“To fundamentalno nije kako se ti modeli treniraju. Stvarno ne postoji način da Arcee ili Alibaba naprave model, da netko pokrene u vlastitom okruženju i da mi imamo bilo kakav pristup tome,” objasnio je.
Dok su većina ovih modela poznati kao “otvoreni modeli” i nisu potpuno otvoreni izvorni softver, izvorni kod (dio koji će zapravo raditi na poslužiteljima), ako se preuzme s otvorenih izvora poput Hugging Face, također je uglavnom vidljiv i pregledan. (Ono što nije dostupno su metode i podaci korišteni za treniranje modela.)
Velike organizacije trebaju podvrgnuti bilo koji model kroz svoje sigurnosne testove i inspekcijske procese, a oni također često post-treniraju modele za svoje specifične namjene i mogu ispitati područja poput pristranosti, toksičnosti, halucinacija i osjetljivosti na određene teme.
Mogu li modeli koji se koriste za kodiranje nekako ubaciti zloćudne zadnje ulaze u kod koji pišu? Opet, iako je to teoretski moguće, zahtijevalo bi akrobatske podvige da se to postigne.
“Nema razloga da dovoljno sofisticirani akter ne može trenirati model da bude potpuno nevjerojatan koderski model u svakoj situaciji, ali kada se suoči s određenom vrstom kodne baze… neki skriveni trening bi se aktivirao,” pretpostavlja Atkins, koji provodi svoje dane trenirajući modele. No dodaje: “Ne znam kako biste to učinili.”
Kako su veliki jezični modeli po svojoj prirodi kreativni, male su šanse da će suvremeni model izbaciti zloćudni softver kao odgovor na unaprijed osmišljeni savršeni kontekst i zahtjev. Još manje su šanse da bi bilo koje poduzeće tada koristilo taj kod.
Može li se to dogoditi u budućnosti? To je teško reći. No, poduzeća također razvijaju svoje AI aplikacije da budu neovisne o modelima i da koriste više modela. Dakle, čak i ako su kineski modeli danas najbolji po cijeni, poduzeća neće biti zavezana za njih zauvijek.
“Mislim da bi umjesto razgovora o tome kako zabraniti kineske modele, razgovor trebao biti o tome kako potaknuti dobar, otvoren ekosustav ovdje u SAD-u,” kaže Atkins.
Arcee također dobiva prednosti od kineskih modela. Budući da su otvoreni, startup “ima koristi od tih modela koji su dobri jer možemo naučiti što su učinili. Možemo graditi na njima. Onda mogu naučiti što radimo,” kaže. “Imamo ogroman respekt za ljude koji grade te modele, pojedinačne istraživače.”
Na kraju, način da se natječu s kineskim modelima “je objaviti model koji je bolji,” kaže Atkins. “Moramo im dati nešto o čemu će razgovarati.”
