Čelnici Anthropica i OpenAI-ja, Dario Amodei i Sem Altman, obratili su se u sredu Savetu bezbednosti Ujedinjenih nacija na sednici posvećenoj uticaju veštačke inteligencije na međunarodnu bezbednost. Sastanak je sazvala Francuska, koja u septembru predsedava Savetom, a vodio ga je francuski ministar za Evropu i spoljne poslove Žan Noel Baro, tokom nedelje visokog nivoa 81. zasedanja Generalne skupštine.
Altman je učestvovao lično, dok se Amodei uključio putem video veze, prenose CNBC i Security Council Report. Pred članovima Saveta izlagali su i Jošua Bendžio, kosaradnik Nezavisnog međunarodnog naučnog panela UN za veštačku inteligenciju, i Kleman Delang, izvršni direktor Hugging Facea. Kineske kompanije DeepSeek i Moonshot dobile su poziv da takođe iznesu svoja izlaganja, što je učinilo sednicu jednim od retkih trenutaka da predstavnici suprotstavljenih AI industrija javno govore pred istim telom.
Tri mere koje predlaže Amodei
Prema pisanju portala Startup Fortune, Amodei je pred Savetom predstavio tri konkretne mere za usporavanje razvoja najmoćnijih AI sistema. Prva podrazumeva da nezavisni procenjivači budu ugrađeni direktno u laboratorije koje grade granične modele, kako bi u realnom vremenu pratili rizike pre nego što novi sistemi postanu javno dostupni. Druga mera predviđa koordinaciju kompanija iz demokratskih zemalja uz podršku njihovih vlada, a treća se odnosi na dogovor sa drugim državama o zajedničkom testiranju modela pre objave i o ograničenjima tempa takozvanog rekurzivnog samopoboljšanja, procesa u kom AI sistemi sami ubrzavaju sopstveni razvoj.
Koncept nezavisnih procenjivača nije nov. Anthropic ga je zajedno sa OpenAI-jem najavio ranije ove godine, a sada ga Amodei predstavlja kao model koji bi trebalo da prihvate i druge zemlje i kompanije.
Amodejeva kampanja i dosadašnja odbijanja
Amodei mesecima javno poziva industriju da uspori tempo razvoja modela, a njegov raniji poziv na usporavanje naišao je na hladan prijem kod ključnih aktera. I američka administracija Donalda Trampa i Kina odbacile su ideju o usporavanju, ocenjujući da bi to ugrozilo njihovu poziciju u globalnoj trci za veštačku inteligenciju. Sednica Saveta bezbednosti predstavlja Amodejev pokušaj da istu poruku prenese na najviši mogući nivo, pred telom čija je osnovna nadležnost očuvanje međunarodnog mira, a ne regulisanje tehnologije.
Altman je, prema dosadašnjim najavama, pred Savetom zagovarao međunarodnu koordinaciju i zajedničke standarde za procenu naprednih AI sistema, uključujući mehanizme kojima bi zemlje mogle da razmenjuju informacije o pretnjama koje se pojavljuju. Time se njegov nastup nadovezuje na ranije pregovore OpenAI-ja, Anthropica i Googlea o zajedničkim AI standardima.
Francuska agenda i granice sednice
Koncept beleška koju je Francuska pripremila za sednicu, uz saorganizatore Bahrein, Grčku i Letoniju, fokusira se na rizik da AI sistemi izmaknu ljudskoj kontroli i na posledice po tradicionalne oblasti rada Saveta, poput mirovnih operacija, zaštite civila i prevencije sukoba. Prema pisanju Security Council Reporta, za sednicu nije planiran nikakav zaključni dokument, jer je cilj bio otvorena razmena stavova između tehnoloških kompanija, naučnika i država članica, a ne usvajanje obavezujućih pravila.
Takav format ostavlja otvoreno pitanje da li će rasprava imati praktične posledice. Savet bezbednosti nema mandat da reguliše razvoj komercijalnih AI modela, pa je sednica pre svega simbolički signal da veštačka inteligencija ulazi u krug tema koje UN tretira kao pitanje globalne bezbednosti, uz vojne sukobe i nuklearno naoružanje.
Često postavljana pitanja
Da li je Savet bezbednosti doneo neku odluku posle sednice?
Ne. Sednica nije predviđala usvajanje zaključnog dokumenta ili rezolucije, već razmenu stavova između čelnika AI kompanija, naučnika i država članica.
Ko je Jošua Bendžio i zašto je učestvovao?
Bendžio je kanadski istraživač veštačke inteligencije i kosaradnik Nezavisnog međunarodnog naučnog panela UN za AI, tela koje savetuje Ujedinjene nacije o rizicima naprednih modela.
Zašto su na sednicu pozvani DeepSeek i Moonshot?
Reč je o kineskim AI kompanijama koje razvijaju sopstvene granične modele. Njihovo prisustvo trebalo je da doprinese da rasprava obuhvati i kinesku perspektivu, ne samo stavove američkih kompanija.
Šta znači rekurzivno samopoboljšanje koje pominje Amodei?
To je scenario u kom AI sistem sam ubrzava sopstveni razvoj, sa sve manjim učešćem ljudi u procesu, što pojedini istraživači smatraju jednim od najvećih dugoročnih bezbednosnih rizika.
