Novi AI laboratorij pod nazivom Flapping Airplanes pokrenut je u srijedu, uz 180 milijuna dolara početnog financiranja od Google Ventures, Sequoia i Indexa. Osnivački tim je impresivan, a cilj — pronalaženje manje resursnom intenzivnog načina za obuku velikih modela — posebno je zanimljiv.
Na temelju onoga što sam do sada vidio, ocijenio bih ih kao razinu dva na ljestvici pokušaja da se zaradi novac.
No, postoji nešto još uzbudljivije u projektu Flapping Airplanes što nisam mogao prepoznati dok nisam pročitao ovaj post od Sequoia partnera Davida Cahna.
Kao što Cahn opisuje, Flapping Airplanes je jedan od prvih laboratorija koji prelazi izvan skaliranja, neprekidnog širenja podataka i računalnih resursa koji je dosad definirao većinu industrije:
Paradigma skaliranja zagovara posvećivanje ogromnih resursa društva, koliko god ekonomija može prikupiti, kako bi se povećali današnji LLM-ovi, u nadi da će to dovesti do AGI. Paradigma istraživanja tvrdi da smo 2-3 istraživačka proboja daleko od “AGI” inteligencije, a kao rezultat toga, trebali bismo posvetiti resurse dugoročnim istraživanjima, posebno projektima koji mogu potrajati 5-10 godina da bi se ostvarili.
[…]
Pristup orijentiran na računala prioritizirao bi veličinu klastera iznad svega, i uvelike bi favorizirao kratkoročne pobjede (u rasponu od 1-2 godine) nad dugoročnim ulaganjima (u rasponu od 5-10 godina). Pristup orijentiran na istraživanje širio bi uloge vremenski, i trebao bi biti spreman na mnogo ulaganja koja imaju nisku apsolutnu vjerojatnost uspjeha, ali koja kolektivno proširuju prostor pretraživanja za ono što je moguće.
Moguće je da su računalni stručnjaci u pravu, i da je besmisleno fokusirati se na bilo što osim na frenetično širenje servera. No, s obzirom na to da su mnoge tvrtke već usmjerene u tom smjeru, lijepo je vidjeti nekoga tko ide u suprotnom smjeru.
