Vodeći svetski proizvođači AI modela, OpenAI, Anthropic i Google DeepMind, nedeljama pregovaraju o osnivanju zajedničkog tela za bezbednosne standarde u industriji. To je u utorak potvrdio šef globalne politike OpenAI-ja Kris Lehejn, prenosi TechCrunch. Prema pisanju lista Washington Post, razgovori na nivou radne grupe traju još od jula, a poslednji sastanak održan je prošle nedelje.
Inicijativa je, prema dostupnim navodima, nastala nezavisno od nedavnog javnog poziva direktora Anthropica Darija Amodeija da kompanije uspore razvoj najsnažnijih modela. Tri firme su počele razgovore mesecima pre nego što je Amodejev tekst izazvao politički sukob s administracijom predsednika Trampa.
Ideja modelovana po Vol stritu
Povod za pregovore bio je julski esej Demisa Hasabisa, direktora Google DeepMind-a, koji je predložio telo modelovano po Američkoj asocijaciji finansijskih regulatora, organizaciji koja nadgleda Vol strit pod okriljem Komisije za hartije od vrednosti. Prema Hasabisovom predlogu, novo telo bi finansirala sama industrija, radilo bi pod saveznim nadzorom, a nezavisni stručnjaci bi sprovodili procenu bezbednosti modela otprilike trideset dana pre javnog lansiranja.
Amodei je u planu koji je nedavno predstavio otišao korak dalje, predlažući da kompanije zajednički uspore tempo razvoja najmoćnijih modela, uz uzak izuzetak od antimonopolskih pravila koji bi im omogućio da o bezbednosti koordinišu bez pravnog rizika. Lehejn je, međutim, poručio da OpenAI, Anthropic i Google smatraju da im takav izuzetak nije ni potreban da bi nastavili razgovore o zajedničkim standardima.
Tramp odbacuje usporavanje
Pregovori se odvijaju uz otvoreno protivljenje Bele kuće. Kao što je Agenti.rs već pisao, Tramp je odbacio Amodejev poziv na usporavanje AI trke, tvrdeći da bi bilo kakvo kočenje razvoja dalo prednost Kini. Njegov savetnik za AI Dejvid Saks ocenio je strahove od egzistencijalnog rizika AI tehnologije preteranim.
Nacrt predsedničkog naloga koji bi ranije tokom godine uveo savezni mehanizam prethodnog pregleda najnaprednijih modela pre javnog lansiranja izgubio je podršku unutar administracije i, prema pisanju medija, ostao je bez daljeg pomaka. Time je inicijativa triju kompanija za sada jedini konkretan pokušaj da se u AI industriji uspostavi nezavisan mehanizam procene bezbednosti, iako bez učešća države.
Različiti pristupi unutar same industrije
Predstavnici tri kompanije, prema navodima upućenih u razgovore, do sada nisu usaglasili ni strukturu ni rokove budućeg tela. Anthropic je dosledno zagovarao tešnju saradnju s regulatorima, a njegov tim zadužen za bezbednosno testiranje modela još je u julu javno pozivao na standarde koje bi industrija razvijala zajedno s vlastima. OpenAI i Google DeepMind su, s druge strane, do sada davali prednost samoregulaciji bez direktnog učešća države, a izvršni direktor OpenAI-ja Sam Altman ranije je isticao da najveće laboratorije treba same da izgrade takvo telo, posebno u odsustvu podrške vlasti.
Za sada nije jasno ni da li bi ocene budućeg tela bile obavezujuće, ni kako bi se ono odnosilo prema modelima koji dostignu tržište pre nego što mehanizam počne da funkcioniše. Anthropic se, prema izveštajima američkih medija, sprema i za prvu javnu ponudu akcija, što dodatno usložnjava pitanje koliko će kompanija biti spremna da javno insistira na strožim pravilima za sopstvenu industriju.
Sumnja u samoregulaciju
Ideja da tri najveće kompanije same napišu pravila po kojima će raditi nailazi i na skepticizam. Analitičari tehnološke politike dugo upozoravaju da telo koje finansira i osmišljava sama industrija po pravilu odražava interese svojih osnivača, a ne nezavisan nadzor, i da bez oslonca u zakonu takva pravila ostaju dobrovoljna. Slični pokušaji samoregulacije u AI sektoru postojali su i ranije, uključujući forume koje su formirale iste kompanije, ali retko su rezultirali obavezujućim ograničenjima ili spoljnom proverom.
Upravo to je razlog zbog kog deo stručne javnosti smatra da bez učešća regulatora, poput one uloge koju bi savezna vlada imala u Hasabisovom FINRA modelu, novo telo teško da može da nadomesti odsustvo zakonskog okvira o kom Kongres za sada nije ni započeo ozbiljnu raspravu.
Često postavljana pitanja
Da li je telo za AI standarde već formirano?
Ne. Razgovori su, prema dostupnim navodima, još na nivou radne grupe, bez javno objavljene strukture, finansiranja ili rokova.
Zašto se u predlogu pominje FINRA?
Demis Hasabis je predložio model po ugledu na Američku asocijaciju finansijskih regulatora, telo koje nadgleda tržište hartija od vrednosti uz saveznu superviziju, kao okvir za nezavisnu procenu AI modela pre lansiranja.
Zašto Trampova administracija odbija ovakvu inicijativu?
Administracija tvrdi da bi regulatorno usporavanje AI industrije dalo prednost Kini u globalnoj trci za najnaprednije modele, pa izbegava svaki oblik obaveznog nadzora.
Traži li Anthropic zakonski izuzetak za saradnju kompanija?
Amodejev predlog uključuje uzak antimonopolski izuzetak, ali predstavnik OpenAI-ja tvrdi da kompanije mogu da nastave razgovore i bez njega.
Da li ovo utiče na svakodnevne korisnike AI alata?
Direktno još ne. Reč je o pregovorima na nivou industrije o budućim standardima procene bezbednosti, bez najave konkretnih promena u dostupnim proizvodima.
