Dario Amodei, osnivač i izvršni direktor Anthropic-a, odgovorio je u ponedjeljak poslijepodne na šuškanja u industriji da njegova tvrtka na neki način podržava napore američke vlade da zabrani otvorene kineske modele, ili možda općenito otvorene modele.
“Svatko tko je pročitao moje prijašnje tekstove trebao bi znati da takve zabrane ne smatram korisnom mjerom, ali neka bude jasno da nema sumnje: Anthropic nikada nije zagovarao zabranu otvorenih modela,” napisao je, naglašavajući vlastite riječi.
Njegov odgovor došao je nakon što je osnivač i izvršni direktor Nvidije, Jensen Huang, na platformi X (njegov prvi post) podijelio otvoreno pismo u petak u kojem su Nvidia i duga lista drugih AI tvrtki, uključujući Hugging Face, Meta, Microsoft, Mistral i Nvidia, pozvali donosioca odluka da ne nameću široke „prerane restrikcije“ na otvorene AI modele.
Iako to pismo nije izrijekom spominjalo Kinu, debata u industriji usredotočila se na optužbe da kineski AI laboratoriji rastu u mogućnostima često kradom intelektualnog vlasništva od svojih američkih kolega. Jedna od metoda je destilacija, gdje AI bombardira drugi model s upitima kako bi naučio kako funkcionira.
Amodei je u blog postu objavljenom u ponedjeljak izjavio da otvorene modele vidi kao nešto što spada u drugačiju kategoriju od prijetnje koju Kina predstavlja. “Otvoreni modeli koji nemaju opasne sposobnosti su javno dobro: ne koštaju ništa osim računalne snage potrebne za njihovo pokretanje i daju vrijednost poslovanjima, programerima i istraživačima.”
Amodei je rekao da ima dugogodišnje strahove u vezi s AI-jem, ali da poduzeća koja koriste otvorene modele, čak i one iz Kine, nisu među njima.
Njegov strah je da će “autoritativne vlade” izgraditi modele koji su moćniji od onih u SAD-u kako bi postigle “trajnu vojnu superiornost” i/ili koristile AI za represiju vlastitog naroda. Rekao je da Kineska komunistička partija (KPK) nije jedina autoritativna vlada o kojoj se brine, ali da je ona “najspobnija.”
Amodei je također izrazio strah da će AI omogućiti “biološke napade”, a ne samo napade na kibernetsku sigurnost. U njegovom pogledu, otvoreni modeli su opasniji u tim scenarijima jer je teško primijeniti zaštitne mjere ili nadzirati njihovu upotrebu. Također je napomenuo, citirajući izvještaj britanskog Instituta za sigurnost AI, da se jednom kada su otvoreni modeli objavljeni, ne mogu povući.
To je u suprotnosti s onim što zagovornici otvorenog koda tvrde: da pristup moćnim otvorenim modelima koji nisu pod kontrolom jedne jedinice pomaže braniteljima da se zaštite.
Amodei je naveo mjere koje vjeruje da bi osujetile Kinu, uključujući ograničavanje njezinog pristupa moćnim čipovima (što je dugogodišnja politika SAD-a) i poziv na formalno suzbijanje destilacije. SAD je zaprijetio sankcijama protiv Kine ako utvrde da je došlo do krađe intelektualnog vlasništva u vezi s američkim modelima.
Zanimljivo, Amodei je također rekao da podržava rastuće napore, neki vođeni SAD-om, za stvaranje organizacije za testiranje sigurnosti modela, posebno ako bi cijeli svijet, uključujući Kinu, pristao podložiti se tome.
“Mislim da je ova ideja zapravo blizu konsenzusa: ohrabren sam što je Trumpova administracija u posljednjim mjesecima krenula u ovom smjeru i nedavnim industrijskim prijedlozima koji bi primijenili takvo testiranje na najmoćnije modele bez obzira na njihovu zemlju podrijetla ili jesu li otvoreni ili zatvoreni (izuzimajući manje sposobne modele, kao što su oni iz startupova i akademske zajednice, potpuno),” napisao je Amodei.
“Imajte na umu da bi za učinkovitost,” dodao je, “testiranje trebalo biti globalno, što znači da bi čak i KPK trebala biti uključena. Mislim da je to zapravo moguće… ograničena suradnja oko sprječavanja bioloških oružja AI mogla bi biti moguća jer je to i u interesu Kine.”
