Startup Thinking Machines Lab, osnovan od strane bivše CTO-a OpenAI-a Mire Murati, u srijedu je predstavio svoj prvi vlastiti AI model nazvan Inkling. Za razliku od vodećih modela OpenAI-a, Anthropic-a ili Google-a, Inkling je otvorenog tipa, što znači da ga vanjski programeri i tvrtke mogu preuzeti i izravno modificirati.
Inkling je sustav mješavine stručnjaka s ukupno 975 milijardi parametara, iako za bilo koju zadanu zadaću koristi samo mali dio od toga — oko 41 milijardu — što je uobičajen dizajn koji omogućava brže i jeftinije pokretanje vrlo velikih modela. Obučen je na 45 trilijuna tokena teksta, slika, zvuka i videa, te razmišlja nativno kroz sve četiri kategorije, navode materijali kompanije. Trenutno su njegovi rezultati ograničeni na tekst, uključujući kod, stilizirane artefakte i strukturirane podatke.
Ovaj model predstavlja prvi javni dokaz rada Thinking Machines Labs nakon godine i pol izgradnje AI infrastrukture većinom izvan javnog pogleda. Dio tog rada već je bio predstavljen u svibanjskom istraživačkom pregledu “interakcijskih modela” — AI dizajniranih za slušanje i govor (pa čak i prekidanje), umjesto zaustavljanja i čekanja kao što to rade tipični chatboti. Također je test centralne pretpostavke iza startupa, koja je da će AI koji organizacije mogu prilagoditi same nadmašiti modele koji su jedinstveni za sve koje trenutno prodaju najveći laboratoriji.
Inkling je dizajniran da daje kalibrirane odgovore, uključujući označavanje neizvjesnosti umjesto nagađanja, i omogućava korisnicima da prilagode „napor razmišljanja“ kada žele brže rezultate. Prema jednoj mjeri, Inkling koristi trećinu tokena u odnosu na Nvidia-in Nemotron 3 Ultra — njegov najnoviji otvoreni model — za postizanje iste performanse kodiranja.
Thinking Machines ne tvrdi da je Inkling najbolji model u klasi. Njihovi materijali izričito navode da Inkling „nije najjači model dostupan danas, zatvoren ili otvoren“. Umjesto toga, očito im je cilj dobro zaokružena izvedba i prilagodljivost.
To postavlja pitanje za koga je ovaj proizvod zapravo namijenjen unutar tržišta poduzeća na koje se cilja. Trenutno, Thinking Machines Inkling manje promovira kao gotov proizvod, a više kao početnu točku, nešto što organizacije mogu same fino podešavati putem Tinkera, platforme za prilagodbu modela koju nudi tvrtka. To također znači da su kupci odgovorni za sigurnost svojih prilagodbi, a ne Thinking Machines. (Fino podešavanje zahtijeva ozbiljan talent u strojnom učenju.)
