U ponedjeljak, platforma za notne zapise Soundslice objavila je da je razvila novu značajku nakon što je otkrila da je ChatGPT pogrešno tvrdio da korisnici mogu uvoziti ASCII tabulature – format notacije gitare temeljen na tekstu koji tvrtka nikada nije podržavala. Ovaj incident mogao bi biti prvi primjer tvrtke koja razvija funkcionalnost kao izravni odgovor na konfabulaciju AI modela.
Soundslice obično digitalizira notne zapise iz fotografija ili PDF-ova i sinkronizira notaciju s audio ili video zapisima, omogućujući glazbenicima da vide kako se glazba pomiče dok je slušaju. Platforma također uključuje alate za usporavanje reprodukcije i vježbanje teških dijelova.
Adrian Holovaty, suosnivač Soundslice-a, napisao je u blog postu da je proces razvoja nove značajke započeo kao potpuna misterija. Prije nekoliko mjeseci, Holovaty je počeo primjećivati neobičnu aktivnost u logovima grešaka tvrtke. Umjesto uobičajenih učitavanja notnih zapisa, korisnici su slali snimke zaslona razgovora s ChatGPT-om koji su sadržavali ASCII tabulature – jednostavne tekstualne prikaze gitarske glazbe koje izgledaju kao nizovi s brojevima koji označavaju položaje prstiju na vratu gitare.
„Naš sustav skeniranja nije bio namijenjen podržavanju ovog stila notacije“, napisao je Holovaty u blog postu. „Zašto nas onda bombardiraju s toliko ASCII tab snimaka zaslona ChatGPT-a? Bio sam zbunjen tjednima – sve dok nisam sam isprobao ChatGPT.“
Kada je Holovaty testirao ChatGPT, otkrio je izvor zabune: AI model je korisnicima davao upute da otvore Soundslice račune i koriste platformu za uvoz ASCII tabulatura za audio reprodukciju – značajku koja nije postojala. „Nikada nismo podržavali ASCII tab; ChatGPT je otvoreno lagao ljudima“, napisao je Holovaty, „i time nas učinio lošima u tom procesu, postavljajući lažna očekivanja o našoj usluzi.“
Kada AI modeli poput ChatGPT-a generiraju lažne informacije s očitom sigurnošću, istraživači AI-a to nazivaju „halucinacijom“ ili „konfabulacijom“. Problem konfabulacije lažnih informacija muči AI modele od javnog izdanja ChatGPT-a u studenom 2022., kada su ljudi počeli pogrešno koristiti chatbot kao zamjenu za pretraživač.
