Dario Amodei, izvršni direktor kompanije Anthropic, objavio je u ponedeljak, 27. jula, tekst na sajtu kompanije u kojem je demantovao raširenu tvrdnju da Anthropic zagovara zabranu otvorenih AI modela. "Anthropic nikada nije zagovarao zabranu modela otvorenih težina", napisao je Amodei, pozivajući se na ono što je opisao kao pogrešno tumačenje kompanijine pozicije u poslednjih nekoliko meseci.
Objava dolazi kao direktan odgovor na pismo koje je 21. jula poslala kompanija Nvidia, a u kojem su se Meta, Microsoft, Mistral i Hugging Face zajednički suprotstavili širim državnim ograničenjima otvorenih AI modela u Sjedinjenim Državama. Prema navodima iz tog pisma, takva ograničenja bi usporila američku konkurentnost i istraživanje, dok bi korist prvenstveno imali veliki zatvoreni, komercijalni sistemi.
Kontekst: Kimi K3 i sumnje o krađi
Rasprava o otvorenim modelima zaoštrila se posle objave kineskog modela Kimi K3, koji je razvila laboratorija Moonshot AI. Model je, prema ranijim izveštajima, približio performanse vodećim američkim sistemima uz znatno nižu cenu treniranja, što je u Silicijumskoj dolini izazvalo ozbiljnu zabrinutost oko održivosti američkog vodstva u razvoju veštačke inteligencije. Ubrzo potom pojavile su se optužbe iz Vašingtona da je Kimi K3 delimično nastao takozvanom industrijskom distilacijom, odnosno treniranjem na izlazima Anthropicovog modela Fable. Anthropic tu tvrdnju nije zvanično potvrdio, a nezavisni stručnjaci su je naknadno osporili, navodeći da dokazi nisu ubedljivi.
Amodei u ponedeljak objavljenom tekstu ne pominje Kimi K3 eksplicitno, ali jasno povlači liniju između, kako ih naziva, manjih i bezbednih otvorenih modela, koje opisuje kao javno dobro korisno za istraživanje, obrazovanje i konkurenciju, i najnaprednijih, graničnih sistema, čije bi nekontrolisano širenje moglo predstavljati ozbiljan bezbednosni rizik. Ta razlika je, prema njegovim rečima, ključna za bilo kakvu buduću regulativu.
Tri predložene mere umesto opšte zabrane
Umesto širokog zakonskog ograničenja, Amodei predlaže tri uže i ciljane politike koje bi, kako tvrdi, rešile stvarni bezbednosni problem bez gušenja otvorenog razvoja modela.
Kontrola izvoza čipova
Prva mera je nastavak i dodatno pooštravanje postojećih američkih ograničenja na izvoz naprednih AI čipova i opreme za njihovu proizvodnju prema autoritarnim vladama, uključujući Kinesku komunističku partiju. Amodei smatra da je pristup računarskoj snazi, a ne sama dostupnost težina modela, ključni faktor koji određuje ko može da razvije najnaprednije sisteme.
Zabrana industrijske distilacije
Druga mera cilja na praksu masovnog treniranja novih modela na izlazima naprednijih, tuđih sistema, što Amodei opisuje kao oblik krađe intelektualne svojine kada se sprovodi u velikom obimu i bez dozvole. Ovakva distilacija omogućava laboratorijama da za deo cene postignu performanse blizu vodećih modela, što direktno podriva podsticaje za ulaganje u skupa istraživanja i razvoj novih sistema od nule.
Obavezno bezbednosno testiranje
Treća mera predviđa uspostavljanje mehanizma nezavisnog bezbednosnog testiranja za sve modele, otvorene i zatvorene, pre javnog objavljivanja. Amodei je naveo da bi u idealnom slučaju u takvom mehanizmu trebalo da učestvuju sve vodeće zemlje u razvoju veštačke inteligencije, uključujući i Kinu, kako bi se izbegla situacija u kojoj se bezbednosni standardi primenjuju samo na jednu stranu.
Podeljena Silicijumska dolina
Amodeijev tekst dolazi u trenutku kada su vodeće američke tehnološke kompanije, uključujući Nvidiju, Microsoft, Metu, OpenAI i Google, javno stale na stranu odbrane otvorenih modela od širih regulatornih ograničenja, iako pojedinačno uglavnom razvijaju i prodaju zatvorene komercijalne proizvode. Anthropic, čija poslovna strategija u najvećoj meri počiva na zatvorenim, plaćenim modelima poput Claudea, dosad je bio među rezervisanijim glasovima u ovoj debati i češće je zagovarao stroziju regulativu AI industrije uopšte.
Amodei je u tekstu naglasio da njegova zabrinutost nije usmerena na otvorene modele kao koncept, već na konkretan scenario u kojem bi autoritarni režimi iskoristili najnaprednije sisteme za vojnu nadmoć ili unutrašnju represiju građana. Ta distinkcija, prema njegovim rečima, treba da usmeri buduću regulativu ka konkretnim rizicima, a ne ka načinu na koji se model distribuira.
Šta ovo znači za regulativu u SAD
Američki Kongres i pojedine državne administracije poslednjih meseci razmatraju široku lepezu predloga o nadzoru nad najmoćnijim AI sistemima, uključujući i predlog o obaveznom mehanizmu za hitno zaustavljanje najnaprednijih modela u slučaju ozbiljnog rizika. Amodeijev tekst se može čitati kao pokušaj da Anthropic, kompanija koja je ranije zagovarala strožu regulativu, ponudi konkretniji i uži paket mera u trenutku kada veći deo industrije intenzivno lobira protiv bilo kakvih ograničenja otvorenih modela.
Da li će zakonodavci prihvatiti neku od tri predložene mere, kombinovati ih sa drugim predlozima ili nastaviti sa široko postavljenim regulatornim inicijativama, za sada nije poznato. Rasprava se odvija paralelno sa širom debatom o tome koliko brzo kineske laboratorije sustižu američke u razvoju najnaprednijih AI sistema, a Kimi K3 ostaje najčešće navođen primer u toj raspravi. Anthropic za sada nije najavio nikakve promene u sopstvenoj politici objavljivanja modela kao posledicu ovog teksta.
Često postavljana pitanja
Da li Anthropic zagovara zabranu otvorenih AI modela?
Ne. Dario Amodei je eksplicitno demantovao tu tvrdnju u tekstu od 27. jula, navodeći da Anthropic nikada nije podržavao potpunu zabranu, već strožu kontrolu najnaprednijih sistema i obavezno bezbednosno testiranje.
Šta je konkretno pokrenulo ovu izjavu?
Pismo koje je 21. jula poslala Nvidia, uz podršku Mete, Microsofta, Mistrala i Hugging Facea, upozoravajući na rizike širih državnih ograničenja otvorenih modela u Sjedinjenim Državama.
Koje tri mere Amodei predlaže umesto zabrane?
Stroziju kontrolu izvoza naprednih AI čipova prema autoritarnim vladama, formalnu zabranu industrijske distilacije modela u velikom obimu i obavezno nezavisno bezbednosno testiranje svih modela, otvorenih i zatvorenih, pre objavljivanja.
Da li se izjava odnosi na kineski model Kimi K3?
Amodei ga ne pominje direktno, ali tekst dolazi nakon sumnji da je Kimi K3 delimično treniran na izlazima Anthropicovog modela Fable, što Anthropic nije zvanično potvrdio, a nezavisni stručnjaci su naknadno osporili.
