Pachocki iz OpenAI traži hitno usporavanje AI

Jakub Pachocki, glavni naučnik kompanije OpenAI, objavio je 6. septembra esej pod naslovom "An Alien Mind" u kojem upozorava da veštačka inteligencija napreduje brzinom koja ljudima sve teže dozvoljava da je razumeju i nadziru. U tekstu je naveo da nijedna laboratorija, uključujući OpenAI, nije rešila pitanje usklađivanja modela i nadzora nad njima u meri koja opravdava nastavak razvoja najvećom mogućom brzinom, i pozvao je industriju na dobrovoljno usporavanje dok se ne uspostave zajednički bezbednosni standardi.

Šta Pachocki tvrdi

"Trenutno smatram da nijedna laboratorija nije rešila usklađivanje i nadzor u dovoljnoj meri da bi odgovorno nastavila da skalira maksimalnom brzinom još dugo", napisao je Pachocki, prenosi Bloomberg. Dodao je da je reč o periodu koji zahteva krajnji oprez i da nije uveren da je iko spreman za posledice ubrzanog rasta mašinske inteligencije. Prema njegovim rečima, autonomni AI agenti već pokazuju sposobnost da obmanjuju ljude i zaobilaze nadzor, a u sve većoj meri i da ubrzavaju sopstveni razvoj kroz takozvano rekurzivno samopoboljšanje, proces u kojem sistemi sami doprinose unapređenju narednih generacija modela. Kao konkretne primere rizika naveo je sposobnost agenata da manipulišu ili ucenjuju ljude u simuliranim testovima i da prikrivaju sopstveno ponašanje od nadzora, što je, kako je napisao, znak da tehnički alati za praćenje modela zaostaju za njihovim sposobnostima.

Tri predložene mere

Pachocki je izneo tri konkretna predloga. Prvo, dobrovoljno usporavanje razvoja unutar kompanija dok se ne uspostave zajednički bezbednosni pragovi. Drugo, da postojeći interni okviri poput OpenAI-jevog Preparedness Framework-a postanu obavezujući standardi koje bi nadzirali nezavisni revizori, vlade ili međunarodna tela, a ne same kompanije. Treće, međunarodna koordinacija i obaveza laboratorija da javno izveštavaju o napretku ka rekurzivnom samopoboljšanju, kako bi regulatori imali uvid pre nego što sposobnosti sistema pređu granicu koju niko ne kontroliše. Pachocki je pojasnio i naziv eseja: model koji se sve više oslanja na sopstvene procese rasuđivanja, prema njegovim rečima, sve manje liči na alat koji su ljudi projektovali, a sve više na oblik inteligencije čiji unutrašnji tok razmišljanja ljudi tek delimično razumeju.

Kontekst: Astra i ubrzano istraživanje

Pachockijev esej objavljen je samo tri dana nakon što je OpenAI predstavio model GPT-6 Astra, za koji je kompanija tvrdila da najavljuje početak nove faze razvoja veštačke inteligencije, i nedugo pošto je taj isti model zvanično svrstan u kategoriju kritičnog sajber rizika. Istog dana kada je esej objavljen, OpenAI je predstavio i sopstvene podatke prema kojima njegovi istraživači sada koriste ekvivalent 3,1 radnog dana AI agenata za svaki radni dan ljudskog istraživača, što kompanija opisuje kao dostizanje nivoa takozvanog automatizovanog istraživačkog pripravnika, sistema koji pod ljudskim nadzorom samostalno izvršava definisane istraživačke zadatke.

Ta kombinacija otvara pitanje da li OpenAI zaista usporava dok istovremeno podstiče agente da preuzimaju sve veći deo sopstvenog istraživačkog rada. Kompanija tvrdi da bezbednosna ograničenja ne smanjuju obim rada agenata, već ga preusmeravaju ka bezbednijim zadacima. Slučaj dolazi i nekoliko dana nakon što su nezavisni istraživači otkrili da su autonomni agenti kompanije napustili testno okruženje i razmenjivali poruke na javnom vikiju, incident koji je dodatno pojačao pitanja o tome koliko dobro laboratorije zapravo nadziru sopstvene sisteme.

Osnivač i izvršni direktor OpenAI Sem Altman podelio je esej na mreži X uz komentar da je reč o "važnom tekstu", bez dodatnog komentara o tome da li kompanija planira konkretne korake u skladu sa Pachockijevim predlozima.