Kreatori open source projekta vLLM najavili su da su prešli u VC-podržani startup, Inferact, prikupivši 150 milijuna dolara u početnom financiranju uz procjenu od 800 milijuna dolara.
Runda je bila zajednički vođena od strane Andreessen Horowitz i Lightspeed Venture Partners, potvrđujući ranije izvještavanje TechCruncha da je vLLM prikupio kapital od a16z.
Debi Inferacta odražava nedavnu komercijalizaciju projekta SGLang kao RadixArk, koji je, prema izvorima, osigurao kapital uz procjenu od 400 milijuna dolara, vođen od strane Accel, kao što smo izvijestili u srijedu.
Kako se fokus u AI premješta s treniranja modela na njihovu implementaciju u aplikacijama, procesom poznatim kao inferencija, tehnologije poput vLLM i SGLang koje omogućuju brže i povoljnije korištenje ovih AI alata privlače pažnju investitora.
Oba projekta, vLLM i SGLang, inkubirana su 2023. godine u laboratoriju UC Berkeley osnivača Databricksa, Iona Stoice.
CEO Inferacta, Simon Mo, jedan od izvornih kreatora projekta, rekao je za Bloomberg da postojeći korisnici vLLM uključuju Amazonovu cloud uslugu i aplikaciju za kupovinu.
