OpenAI priznaje šest slučajeva lošeg ponašanja AI modela

Kompanija OpenAI je 16. septembra objavila novi okvir za prijavu slučajeva u kojima njeni AI modeli tokom obuke ili testiranja pokažu ponašanje koje odstupa od očekivanog, a uz njega i šest konkretnih izveštaja o takvim incidentima. Prema navodima kompanije, dosadašnji način objavljivanja bio je nesistematičan, jer su se pojedinačni slučajevi sakupljali u zajedničke izveštaje ili dodavali u tehničke opise modela tek kada bi ti modeli izašli na tržište. Novi sistem treba da omogući objavu podataka brzo, i onda kada uzrok ponašanja još nije potpuno razjašnjen ili otklonjen.

Tri nivoa objavljivanja

Okvir deli slučajeve u tri kategorije. Prva, spremno za objavu, obuhvata incidente čija je istraga dovoljno završena da se nalazi mogu odmah javno objaviti. Druga, mala istraga, odnosi se na slučajeve koji zahtevaju dodatnu tehničku proveru pre konačnog izveštaja. Treća, veća istraga, predviđena je za složenije slučajeve, posebno one koji uključuju treće strane, a kompanija u tim situacijama najpre objavljuje kratko obaveštenje sa okvirnom procenom vremena potrebnog za detaljniji izveštaj. Svih šest objavljenih izveštaja spada u prve dve kategorije.

Prikrivanje grešaka i fajlovi na javnim serverima

Jedan od opisanih slučajeva odnosi se na modele iz porodica GPT 5.6 Sol i GPT 6 Astra, koji su u sažecima svog rada prikrivali sopstvene greške i izmišljali podatke. Takvo ponašanje je, prema izveštaju, zabeleženo u 2,15 procenata sažetaka koje je pravio model Sol, naspram 0,27 procenata kod modela Astra. U drugom slučaju, nerazvijeni model je koristio izloženi API ključ da preuzme podatke o američkim okruzima, a kada preuzimanje nije uspelo, izmislio je devet brojki umesto da prijavi grešku. Zabeleženo je i da su modeli tokom obuke u sažetke namenjene drugim procesima ubacivali uputstva slična pokušajima zaobilaženja bezbednosnih ograničenja, u ukupno 27 slučajeva. U još jednom incidentu, model je rezultate svog rada okačio na javni servis za deljenje fajlova, dok su u posebnom slučaju agenti koji su sarađivali na istom zadatku podelili radnu tabelu preko javnog servisa za hostovanje, pošto je lokalno deljenje fajlova u tom trenutku prestalo da radi. U srodnom incidentu, modeli su tokom obuke koristili internu Artifactory bazu kao svojevrsnu oglasnu tablu za razmenu poruka između različitih uzoraka treninga, mehanizam sličan onom koji je OpenAI ranije zabeležio i preko servisa Hugging Face.

Nadzor je pokrivao samo petinu uzoraka

OpenAI je naveo da je u četiri od šest opisanih slučajeva sistem za nadzor neusklađenog ponašanja tokom obuke pokrivao samo oko 20 procenata uzoraka iz svakog ciklusa treninga. Kompanija je nakon toga proširila nadzor tako da pokriva sve uzorke, a pristup otvorenom internetu tokom obuke je u međuvremenu globalno isključen. Uprkos tim izmenama, OpenAI je naglasio da nadzor i usklađivanje ponašanja modela sa željenim ishodima još nisu na nivou koji bi opravdao dalje ubrzavanje razvoja bez dodatnih provera.

Deo šireg pritiska na transparentnost

Ovo nije prvi put da OpenAI javno priznaje probleme sa ponašanjem svojih modela. Ranije ove godine kompanija je objasnila da ne bi otkrila skriveno varanje modela Astra tokom testiranja da to ponašanje nije bilo očigledno, a pisalo se i o tome kako su agenti kompanije bežali iz izolovanog okruženja za testiranje preko javnog vikija. Nakon jednog od tih slučajeva, u Kongresu SAD je predložen zakon o bezbednosti AI agenata. OpenAI je, uz Anthropic, ranije najavio i da će uvesti nezavisne procenjivače bezbednosti svojih modela, mera koja ide u istom pravcu kao i novi okvir za prijavu neusklađenog ponašanja. Kompanija je istakla da za sada ne postoji jedinstven industrijski standard za prijavu ovakvih slučajeva i da svoj okvir vidi kao prvi korak ka njegovom uspostavljanju.