U svim raspravama o potencijalnim nedostacima umjetne inteligencije, postoji jedna zabrinutost koja najviše muči entuzijaste AI-a u Silicijskoj dolini. Njihova briga je da velike AI laboratorije koje prodaju vlasničke modele zapravo djeluju kao Trojanski konji.
Zabrinutost je da, dok startupi i poduzeća koriste AI modele iz laboratorija poput OpenAI i Anthropic, laboratoriji dobivaju sve veći pristup osjetljivim poslovnim informacijama tih kompanija. Proizvođači modela tada mogu iskoristiti to znanje za vlastite potrebe, potencijalno postajući konkurenti vlastitim kupcima. Ti koji izdaju takva upozorenja kreću se od VC-a poput Jasona Calacanisa do izvršnog direktora Palantira, Alexa Karpa.
U iznenađujućem blog postu objavljenom u nedjelju, izvršni direktor Microsofta Satya Nadella pridružio se ovoj grupi. Nadella upozorava da korisnici AI-a (kako ih on naziva „kupcima“) plaćaju dvostruko. Oni svjesno troše novac na korištenje AI tokena, ali istovremeno nesvjesno predaju dragocjene podatke u tom procesu.
„U osnovi plaćate za inteligenciju dvaput, jednom novcem, a drugi put nečim još vrijednijim: vlasničkim znanjem koje morate otkriti kako biste tu inteligenciju učinili korisnom. Što bolje želite da model funkcionira, više tog znanja morate mu dati!“ piše on.
Najopasnije je, tvrdi, da poduzeća doslovno podučavaju modele o nijansama svojih poslovanja.
„Modeli uče iz ‘otpadaka’, upita koje ljudi pišu, alata koje agenti koriste i posebno ispravki koje ljudi čine kada model pogriješi. Svaka ispravka se destilira u institucionalno znanje,“ piše on.
Ovo je „vrsta znanja koju konkurent nikada ne može kupiti“, a ipak ga poduzeća predaju.
Nadella tvrdi da ako AI kompanije slobodno pretražuju internet kako bi obučile svoje modele, pravedno je da poduzeća također mogu proučavati — ili „destilirati“ — te modele u zamjenu. „Destilacija“ je praksa korištenja vlastitih izlaza modela kako bi se naučilo kako on funkcionira i obučio novi, često jeftiniji model na temelju tih uvida.
Nadella ističe da proizvođači modela ne mogu imati i jedno i drugo. Licemjerno je da slobodno treniraju na podacima svijeta dok ograničavaju druge da rade isto na svojim modelima.
Nadellaovo rješenje je da poduzeća „zadrže vlasništvo“ nad svojim podacima, uključujući upite, povratne informacije itd. Također želi da poduzeća izgrade svoja „vlastita okruženja za učenje“ u oblaku. Također želi da poduzeća izgrade ono što on naziva „slojevima orkestracije“ — načine za lako prebacivanje između AI modela različitih dobavljača umjesto da budu vezana za jedan.
Nadella se posebno brine kada proizvođači modela „zadrže pravo da uče iz podataka o korištenju i interakciji kupaca.“
Izvršni direktor Microsofta otvoreno poziva poduzeća da budu oprezna pri korištenju vlasničkih modela, a očekuje se da će ovaj trend rasti. „U konzumiranju inteligencije, stvarate inteligenciju. I ono što stvorite treba pripadati vama,“ piše Nadella.
