Uloga alata za promatranje ponovno se razvila. Dok je tržište rješenja za osiguranje pouzdanosti tehnoloških sustava raslo tijekom godina, središnja točka se postepeno premjestila s “praćenja svega” na “kontrolu složenosti i troškova.” U međuvremenu, brzi ulazak i usvajanje AI agenata unutar poduzeća dodalo je potpuno novu kategoriju radnog opterećenja koju je potrebno promatrati.
InsightFinder AI, startup temeljen na 15 godina akademskog istraživanja, dobro poznaje ovaj problem.
<p tvrtka koristi strojno učenje za praćenje, prepoznavanje i proaktivno rješavanje problema s IT infrastrukturom od 2016. godine i sada se suočava s problemom pouzdanosti AI modela rješenjem koje može obaviti sve od otkrivanja i dijagnosticiranja do sanacije i prevencije.
Tvrtku je osnovala CEO Helen Gu, profesorica računalnih znanosti na Sveučilištu North Carolina State, koja je ranije radila u IBM-u i Googleu. Nedavno je prikupila 15 milijuna dolara u Series B financiranju koje je predvodio Yu Galaxy.
Prema Gu, najveći problem s kojim se industrija danas suočava nije samo praćenje i dijagnosticiranje gdje AI modeli griješe; to je dijagnosticiranje kako cijeli tehnološki sloj funkcionira sada kada je AI njegov dio.
„Kako bismo dijagnosticirali probleme AI modela, trebate zapravo pratiti i analizirati podatke, model i infrastrukturu zajedno,” rekla je Gu. „To nije uvijek problem modela ili podataka; to je kombinacija. Ponekad je jednostavno riječ o vašoj infrastrukturi.”
Gu je objasnila kako to izgleda u stvarnom životu s anegdotom: Jedan od njihovih klijenata, velika američka kreditna kartica, primijetila je da jedan od njihovih modela za otkrivanje prijevara nije učinkovit. Budući da je InsightFinder pratio cijelu infrastrukturu tvrtke, mogao je identificirati da je drift modela uzrokovan zastarjelim predmemorijama na nekim poslužiteljima.
„Najveća zabluda je da je promatranje AI-a ograničeno na evaluaciju LLM-a tijekom faza razvoja i testiranja. Naprotiv, dobra platforma za promatranje AI-a trebala bi pružiti end-to-end povratnu informaciju koja pokriva faze razvoja, evaluacije i proizvodnje,” rekla je.
Najnoviji proizvod InsightFindera, nazvan Autonomous Reliability Insights, može sve to učiniti korištenjem kombinacije nesupervizanog strojnog učenja, vlastitih velikih i malih jezičnih modela, prediktivnog AI-a i uzročnih inferencija. Ova osnovna razina je agnostična na podatke, što omogućuje sustavu da upija i analizira cijele podatkovne tokove kako bi prikupio signale koji se mogu korelirati i međusobno validirati kako bi se došlo do uzroka.
Sada je prostor promatranja prepun konkurenata koji žele ostvariti udio na novom tržištu koje je otvoreno dolaskom AI alata. Gotovo deset godina nakon svog osnivanja, InsightFinder se natječe s tvrtkama kao što su Grafana Labs, Fiddler, Datadog, Dynatrace, New Relic i BigPanda, koje svi razvijaju mogućnosti za rješavanje novih problema koje predstavljaju AI alati.
Međutim, Gu nije zabrinuta. Naprotiv, tvrdi da stručnost, iskustvo i prilagodljivost InsightFindera čine dovoljnu prednost. „Uistinu rijetko gubimo [klijente] do sada… Ovo je o uvidima, zar ne? Problem je u tome što mnogi data znanstvenici razumiju AI, ali ne razumiju sustav. A mnogi SRE [inženjeri pouzdanosti weba] razumiju sustav, ali ne i AI… Ne gledaju to i ne razumiju intrinzične odnose.”
Danas, popis klijenata InsightFindera uključuje UBS, NBCUniversal, Lenovo, Dell, Google Cloud i Comcast. Gu uspjeh pripisuje desetogodišnjem radu na razumijevanju potreba velikih poduzeća.
„Sve se svodi na rad s našim klijentima iz Fortune 50 kako bismo oblikovali i razumjeli zahtjeve poduzetničkog okruženja za implementaciju ovakvih modela,” rekla je. „Radili smo s Delom na implementaciji naših AI sustava širom svijeta kod nekih od najvećih klijenata koje imamo. Ovo nije nešto što možete jednostavno uzeti i staviti na podatke iz stroja.”
Gu je rekla da je prihod tvrtke “jak”, rasteći “više od tri puta” u protekloj godini. Uistinu, kaže da InsightFinder nije planirao prikupiti ovaj Series B, a investitori su pristupili tvrtki nakon što je osvojila ugovor sa sedam znamenki s tvrtkom iz Fortune 50 unutar tri mjeseca.
InsightFinder će iskoristiti svježi kapital za zapošljavanje svojih prvih prodajnih i marketinških stručnjaka kako bi proširila svoj tim manji od 30 ljudi i ulagati u svoje marketinške strategije. Tvrtka je do sada prikupila ukupno 35 milijuna dolara.
