Dok tvrtke rješavaju probleme sa svojim AI sustavima, upravljanje postaje ključni izazov. Neki koriste dvostruki pristup: jedan model za obradu dolaznih upita i drugi kako bi spriječili prvi model da napravi greške.
To je osnovna ideja ZeroDrift, novog AI servisa za usklađenost koji je u utorak objavio da je prikupio 10 milijuna dolara u krugu inicijalnog financiranja, uz ulaganja a16z Speedrun, Reign Ventures, PitchDrive Ventures i U&I Ventures, među ostalima. Tvrtka se potpuno fokusira na drugi dio sustava, djelujući između AI modela i krajnjih korisnika kako bi označila i zamijenila poruke koje bi mogle predstavljati problem s usklađenošću.
Možda se čini čudnim razvijati AI alat za ispravljanje grešaka drugih AI sustava, ali ZeroDrift tvrdi da njegov sustav ima nekoliko arhitektonskih prednosti u odnosu na modele koje će ispravljati. Sustav se pokreće konvencionalnim programima koji deterministički primjenjuju poznate standarde usklađenosti poput SOC 2 ili GDPR-a, a LLM dolazi u igru tek kada je poruka označena, prepisujući usklađenu verziju iste poruke.
“Možemo deterministički identificirati koja su sve regulirana područja, koja je prekršena i onda imamo LLM-ove koji mogu izvršiti prepravke,” kaže CEO Kumesh Aroomoogan.
Kritički, tvrtka tvrdi da se cijeli sustav može pokretati s nižom latencijom i većom pouzdanošću nego konvencionalni LLM. To je ono što ZeroDrift ističe kao svoju glavnu prednost u odnosu na velike laboratorije poput OpenAI i Anthropic, koje su često već prisutne u osnovnom sustavu.
Najodgovarajući primjer primjene su AI chatbotovi, koji su već postavljeni ispred potrošača gdje mogu postojati ozbiljne posljedice za netočne odgovore. No, Aroomoogan vidi mnogo veći ukupni adresabilni tržišni segment, potencijalno obuhvaćajući AI-generirane poruke koje se generiraju samo unutar automatiziranih sustava koje ljudi nikada neće vidjeti. Do sada je to relativno malo tržište, ali će rasti kako se AI širi.
Ako je prikupljanje sredstava ikakav pokazatelj, postoji velika potražnja za takvim proizvodima. “Vjerojatno je to bilo najbrže prikupljanje sredstava koje sam ikada radio,” kaže Aroomoogan, zahvaljujući Andressen Horowitzu na pomoći u strukturiranju inicijalnog kruga. “Zatvorili smo unutar tri tjedna, a bit ćemo prekoračeni za 3x u iznosu.”
