Endi Džesi, izvršni direktor Amazona, navodno je bio izvor bezbednosnih upozorenja koja su dovela do toga da kompanija Anthropic prošlog petka ukine pristup dvama svojim najmoćnijim modelima širom sveta. O tome je izvestio Wall Street Journal, a prenose TechCrunch i drugi tehnološki mediji. Reč je o modelima Claude Fable 5 i Claude Mythos 5, koji su do tada predstavljali najnaprednije što je Anthropic ikada izneo u javnost.
Prema pisanju lista, Džesi je predstavnicima američke administracije, među kojima je i sekretar Trezora Skot Besent, rekao da su istraživači Amazona koristili model Claude Fable 5 da dođu do informacija koje bi se mogle upotrebiti u sajber napadima. Ubrzo potom usledila je vladina mera kojom je uveden režim kontrole izvoza za oba modela.
Šta je tačno prijavljeno vlastima
Jezgro priče, kako je prenosi Wall Street Journal, jeste tvrdnja da je najmoćniji Anthropicov model mogao da posluži kao pomoć u pripremi sajber napada. Istraživači Amazona su, prema tom izveštaju, testirali model i došli do nalaza koje je Džesi potom podelio sa zvaničnicima. Na osnovu tih nalaza, vlast je procenila da napredne sposobnosti modela predstavljaju bezbednosni rizik dovoljan da se ograniči ko mu sme da pristupi.
Amazon nije potvrdio detalje. Portparol kompanije je, odgovarajući na pitanja novinara, naveo da nije neuobičajeno da vlade traže njihovo mišljenje o mogućim bezbednosnim rizicima, ali da kompanija ne deli sadržaj tih razgovora. Anthropic se, prema dostupnim izveštajima, nije detaljno oglašavao o ulozi Amazona, a Trezor nije javno komentarisao pojedinosti.
Zašto je važno ko je prijavio
Identitet onoga ko je pokrenuo lavinu ovde nije sporedan detalj. Amazon je jedan od najvećih ulagača u Anthropic, sa milijardama dolara uloženim u kompaniju i sa obavezom Anthropica da značajna sredstva potroši na Amazonovu računarsku infrastrukturu. Po nekim izveštajima, reč je o aranžmanu vrednom oko sto milijardi dolara u oblačnim uslugama. To znači da je kompanija koja je navodno upozorila vlasti istovremeno i finansijski duboko vezana za onoga na koga se upozorenje odnosi.
Takva konstelacija otvara pitanje sukoba interesa, koje su mediji odmah istakli. Investitor koji ima udeo u uspehu jedne laboratorije, a istovremeno gradi i sopstvene modele i prodaje računarsku snagu konkurentima, nalazi se u poziciji u kojoj njegove bezbednosne procene nije lako razdvojiti od poslovnih računica. Treba naglasiti da nijedan od izveštaja ne tvrdi da je Amazon postupao u zloj nameri. Tvrdi se samo da je upozorenje poteklo iz kuće koja je i ulagač i potencijalni takmac.
Kako je jedna mera oborila modele za ceo svet
Tehnička strana priče objašnjava zašto je posledica bila tako široka. Vladina direktiva, prema dostupnim opisima, suspendovala je pristup modelima Fable 5 i Mythos 5 za sve strane državljane. Problem je u tome što Anthropic ne može da u realnom vremenu pouzdano filtrira korisnike po državljanstvu. Pošto nije mogao da garantuje da modelima neće pristupiti neko ko potpada pod zabranu, ugasio je oba modela za sve, uključujući i korisnike u Sjedinjenim Državama.
Drugim rečima, mera koja je formalno bila usmerena na strane državljane u praksi je dovela do potpunog povlačenja dva modela iz javne upotrebe. Korisnici koji su se oslanjali na Fable 5 ostali su bez njega praktično preko noći, a Anthropic je morao da ih preusmeri na ranije, slabije verzije.
Kontekst: buran život jednog modela
Claude Fable 5 je u javnost izašao 9. juna kao model klase Mythos prilagođen opštoj upotrebi, opisan kao najsposobniji koji je Anthropic do tada učinio dostupnim. Već u prvim danima pojavile su se kritike pojedinih istraživača bezbednosti na račun zaštitnih mehanizama modela. Svega nekoliko dana kasnije usledila je vladina intervencija i gašenje. Ceo luk, od lansiranja do povlačenja, odigrao se za manje od nedelju dana.
Za Anthropic, koji svoj javni identitet gradi upravo na opreznom pristupu bezbednosti, ovo je neugodan obrt. Kompanija godinama insistira na tome da njeni modeli prolaze stroge provere i da se objavljuju tek kada su rizici procenjeni. Sada se našla u situaciji da je jedan od tih rizika, bar prema verziji koju su izneli mediji, potvrdio upravo njen veliki ulagač, i to direktno pred vlastima.
Šire posledice za tržište i regulativu
Slučaj se uklapa u širi trend u kojem napredni AI modeli sve češće dolaze u domet kontrole izvoza i bezbednosne politike, oblasti koje su donedavno bile rezervisane za oružje, čipove i osetljive tehnologije dvostruke namene. Ako sposobnost modela da pomogne u sajber napadu postaje osnov za zabranu izvoza, onda se i razvoj i objavljivanje takvih modela menjaju iz osnova. Laboratorije moraju da računaju na to da državna intervencija može da usledi brzo i da pogodi i domaće korisnike.
Za korisnike izvan Sjedinjenih Država, uključujući region, slučaj nosi konkretnu pouku o pouzdanosti pristupa. Kada se vrhunski modeli mogu povući zbog političke ili bezbednosne odluke u jednoj zemlji, oslanjanje isključivo na jedan model ili jednog dobavljača postaje rizik za svakoga ko gradi proizvod na toj osnovi. To je razlog zbog kojeg deo razvojne zajednice već duže insistira na mogućnosti zamene modela bez velikih troškova.
Šta ostaje nejasno
Više ključnih pojedinosti i dalje nije potvrđeno. Nije javno objavljeno koliko su tačno ozbiljni bili nalazi Amazonovih istraživača, niti koliko su lako bili dostupni običnom korisniku. Nije poznato ni da li će zabrana biti privremena ili trajna, ni pod kojim uslovima bi se modeli mogli vratiti. Anthropic nije detaljno objasnio kako planira da reši tehnički problem filtriranja korisnika koji ga je naterao da ugasi modele u celosti. Dok se te praznine ne popune, slučaj ostaje primer koliko brzo se najnaprednija tehnologija može naći između poslovnih interesa i državne politike.
Često postavljana pitanja
Koje modele je Anthropic ugasio?
Reč je o modelima Claude Fable 5 i Claude Mythos 5, dvema verzijama klase Mythos koje su važile za najnaprednije u Anthropicovoj ponudi. Pristup im je suspendovan širom sveta.
Kakva je uloga Amazona u svemu?
Prema pisanju Wall Street Journala, izvršni direktor Amazona Endi Džesi je vlastima preneo bezbednosna upozorenja koja su prethodila zabrani. Amazon je potvrdio samo da povremeno savetuje vlade o rizicima, ali nije izneo detalje razgovora.
Zašto je zabrana pogodila i korisnike u SAD?
Mera je formalno bila usmerena na strane državljane, ali Anthropic ne može pouzdano da filtrira korisnike po državljanstvu u realnom vremenu, pa je ugasio oba modela za sve kako ne bi prekršio direktivu.
Da li je potvrđeno da je model zaista opasan?
Detalji nalaza nisu javno objavljeni. Izveštaji navode tvrdnju da je model mogao da posluži u pripremi sajber napada, ali stepen rizika i lakoća zloupotrebe nisu nezavisno potvrđeni.
