Vlada SAD bi, prema nacrtu zakona koji Anthropic tiho predlaže zakonodavcima na Kapitol Hilu, mogla da blokira objavljivanje ili korišćenje nekog AI modela samo ako preti neposredna šteta veća od milijardu dolara, ili smrt ili ozbiljna povreda više od 50 ljudi. Politico je 16. oktobra prvi objavio sadržaj nacrta, pozivajući se na dokument koji je dobio na uvid.
Prema tom tekstu, rizik mora da potiče iz tri uska izvora: biološkog oružja, modela koji izmakne kontroli sopstvenog razvojnog tima, ili sajber napada. Sama procena ne bi bila u rukama agencija. Ministarstvo trgovine bi moralo da se obrati saveznom sudiji u Vašingtonu, a tek bi sudska odluka mogla da zaustavi model. Nacrt istovremeno zabranjuje svim drugim saveznim telima da sama suspenduju razvoj, objavljivanje ili interno korišćenje nekog modela.
Predlog takođe uvodi mrežu nezavisnih procenitelja koji bi se registrovali kod Ministarstva trgovine i periodično revidirali kompanije i njihove najnaprednije modele. Procenitelje bi mogle da plaćaju same kompanije čije modele proveravaju, ali ne na način koji bi ishod procene učinio uslovom plaćanja, a svaki uočeni neposredni rizik moraju da prijave ministarstvu u roku od 72 sata.
Glasnogovornik Anthropica je izjavio da nacrt odražava principe iz sopstvenog dokumenta Advanced AI Framework, objavljenog u junu. "Ovo su razumne politike za koje verujemo da bi Kongres trebalo da ih usvoji", naveo je glasnogovornik, prema navodima agencije Rojters.
Kritike sa obe strane
Nacrt je odmah naišao na podeljene reakcije. Mother Jones je 17. oktobra ocenio prag od 50 poginulih ili ozbiljno povređenih kao zabrinjavajuće visok za bilo kakvu saveznu intervenciju. Na forumu LessWrong, nekoliko komentatora je predlog nazvalo slabijim od konkurentskog FRONTIER zakona (H.R. 9925), koji su u Predstavničkom domu predložili kongresmeni Lori Trahan i Dejvid Obernolte, posebno u delu koji se tiče ovlašćenja za dalje propisivanje pravila.
Drugi deo kritike tiče se tehničkog praga za koji modele bi zakon uopšte važio, postavljenog na 10 na 25 FLOP-a obračunske snage korišćene za obuku modela. Kritičari tvrde da je ta granica zastarela i da bi mogla da obuhvati znatno više modela nego što je nameravano, dok kalifornijski zakon SB 53 isti prag postavlja deset puta više, na 10 na 26 FLOP-a.
Preseca državne zakone
Osim pragova, nacrt predviđa da bi savezni zakon potisnuo deo državnih propisa koji se tiču javnog obelodanjivanja rizika, provere od strane trećih strana i prijavljivanja kritičnih incidenata. Anthropic je ranije ove godine, kako je agenti.rs pisao, podsticao strožu regulativu na nivou američkih država, dok je OpenAI tražio jedinstvena federalna pravila umesto šarenila propisa od države do države. Novi nacrt pokazuje da Anthropic sada pokušava da sam ponudi taj jedinstveni federalni okvir, ali uz prag za intervenciju koji neki smatraju previsokim, a drugi, obrnuto, previše širokim po broju modela koje bi obuhvatio.
Nacrt stiže u trenutku kada Kongres već razmatra posebne predloge o bezbednosti AI agenata nakon ranijih incidenata, i nekoliko nedelja pred Anthropicov planirani izlazak na berzu, za koji je kompanija nedavno prijavila rast prihoda od 45 odsto. Ministarstvo trgovine SAD nije odmah odgovorilo na upit agencije Rojters povodom nacrta.
Za razliku od ovog federalnog predloga, Evropska unija, čiji pravni okvir Srbija kao kandidat za članstvo postepeno prilagođava, u svom Zakonu o veštačkoj inteligenciji već sada koristi niži tehnički prag za obavezujuću proveru najmoćnijih modela. To znači da bi deo modela koji bi u SAD, prema Anthropicovom predlogu, ostao van domašaja savezne intervencije, u Uniji i dalje morao da prođe formalnu procenu rizika.
Nacrt za sada nije upućen u formalnu zakonodavnu proceduru, pun tekst nije javno objavljen, a predlog može znatno da se promeni pre nego što, ako uopšte, dođe do glasanja u Kongresu.
