OpenAI osniva savet matematičara za nadzor AI otkrića

OpenAI je u ponedeljak, 21. septembra, najavio formiranje nezavisnog saveta matematičara koji će nadgledati način na koji kompanija objavljuje rezultate koje njen model postiže u matematici. Odluka dolazi nedelju dana posle otvorenog pisma u kome je dvadeset pet dobitnika Fildsove medalje upozorilo da AI laboratorije ugrožavaju matematičku nauku trkom za rešavanje poznatih problema, zbog čega je OpenAI povukao sponzorstvo jednog matematičkog skupa.

Telo nazvano Advisory Group on Mathematics and Artificial Intelligence smešteno je pri Institutu za napredne studije (IAS) u Prinstonu, istoj instituciji gde radi i matematičar Terens Tao, jedan od najglasnijih komentatora uloge veštačke inteligencije u matematici. Tao je najavu saveta objavio kao gostujući tekst na sopstvenom blogu.

Devet imena i ograničen mandat

Savet čini devet matematičara: Fransoa Šarl (ENS-PSL), Kamilo De Lelis (IAS, GSSI), Timoti Gauers (Kolež de Frans, Kembridž), Martin Hajrer (EPFL, Imperijal koledž London), Nikil Srivastava (Berkli), Ulrike Tilman (Oksford), Ravi Vakil (Stanford), Edvard Viten (IAS) i Melani Mačet Vud (Harvard). Prema saopštenju, niko od njih ne prima naknadu od OpenAI-ja, a grupa zadržava pravo da javno komentariše uticaj kompanije na matematiku i da iznosi savete koje OpenAI nije ni tražio.

Mandat saveta je ipak ograničen. Zadatak je da pomogne kompaniji da proceni značaj novih rezultata, da savetuje kako da se oni objavljuju i da prati poštovanje akademskih standarda, ali grupa nema ovlašćenje da utiče na tempo OpenAI-jevog internog istraživanja. U saopštenju se izričito navodi da savet neće odlučivati o tome da li kompanija treba da uspori rad. Vredi primetiti i da je od devet članova samo Kamilo De Lelis potpisao raniji kritički apel dvadeset pet dobitnika Fildsove medalje, što ukazuje da savet ne predstavlja direktno telo koje je pokrenulo kritiku.

Sto rešenih problema iza najave

Kontekst za formiranje saveta je tvrdnja OpenAI-ja da je njegov interni model, na kome se trenira od 28. avgusta, rešio više od sto dugo otvorenih problema u različitim oblastima matematike, od teorije brojeva do kombinatorike. Ta tvrdnja se nadovezuje na spor iz ranijeg dela meseca, kada je OpenAI objavio da je njegov sistem rešio Navije Stoksov problem, jedan od sedam milenijumskih problema Instituta Klej, posle čega je izbila rasprava o tome kome pripadaju zasluge za rešenje. Kompanija tvrdi da savet postoji upravo da bi se izbegle slične nedoumice ubuduće, koordinacijom objavljivanja i proverom pre nego što rezultati dospeju u javnost. Slična pitanja o proverljivosti tvrdnji ranije su se pojavila i kada je OpenAI bio osumnjičen da je u sopstvenim rezultatima preuzeo tuđi matematički rad bez odgovarajućeg pripisivanja, što je dodatno pojačalo pritisak da kompanija uvede proveru pre objavljivanja.

Sumnja matematičke zajednice

Reakcije u komentarima ispod Taovog teksta pokazale su da deo matematičke zajednice ostaje nepoverljiv. Čitaoci su izrazili zabrinutost da savet, iako nezavisan i neplaćen, ipak daje OpenAI-ju legitimitet, da uključuje premalo glasova iz redova onih koji su potpisali kritičko pismo i da dugoročno preti da istraživanje u matematici prepusti sistemima kompanija umesto ljudima. Nijedan od članova saveta do sada nije javno komentarisao ove primedbe.

Za sada, savet nema formalna ovlašćenja niti budžet o kome je javno izveštavano, a njegov prvi zadatak biće da pomogne u proveri i objavljivanju rezultata koje OpenAI najavljuje kao rešenja otvorenih matematičkih problema. Kompanija je najavila i da će u narednim mesecima objavljivati detalje o pojedinačnim rešenim problemima, uz recenziju koju će savet prethodno pregledati.