Grupa od više desetina stručnjaka za sajber bezbednost objavila je otvoreno pismo američkoj vladi sa zahtevom da povuče naredbu o izvoznoj kontroli koja je primorala kompaniju Anthropic da obustavi pristup svojim najjačim modelima, Fable i Mythos. Potpisnici tvrde da je odluka oslabila upravo one koji brane softver i mreže, u trenutku kada protivnici brzo napreduju.
Pismo je, prema pisanju TechCruncha, do objave prikupilo 76 potpisa poznatih imena iz industrije. Među njima su Alex Stamos, bivši direktor bezbednosti Facebooka, Katie Moussouris, osnivačica firme Luta Security i jedna od pionirki programa za prijavu ranjivosti, Rachel Tobac, izvršna direktorka kompanije SocialProof Security, Casey Ellis, osnivač platforme Bugcrowd, kriptograf Jon Callas, računarski naučnik Paul Vixie i Dino Dai Zovi, nekadašnji šef primenjenog bezbednosnog inženjeringa u kompaniji Block.
Šta se dogodilo sa modelima Fable i Mythos
Američka vlada je krajem prošle nedelje naložila kompaniji Anthropic da ograniči izvoz modela Fable i Mythos, pozivajući se na razloge nacionalne bezbednosti. U naredbi, kako prenose TechCrunch i Cybersecurity Dive, nisu navedeni konkretni razlozi. Anthropic je potom suspendovao pristup tim modelima za sve korisnike širom sveta, a ne samo za one izvan Sjedinjenih Država.
Reč je o modelima iz najnovije generacije. Fable 5 je objavljen za širu javnost 9. juna, dok Mythos predstavlja jaču, ranije ograničeno dostupnu klasu. Oba modela isticala su se sposobnostima u oblasti sajber bezbednosti, uključujući autonomno pronalaženje i povezivanje ranjivosti. Upravo te sposobnosti, koje kompanija navodi kao argument u prilog jačoj odbrani, postale su i osnov za zabrinutost vlade.
Anthropic je saopštio da je naredba o izvoznoj kontroli možda zasnovana na izveštaju da postoji metod kojim se Fable može zaobići, odnosno da se kroz takozvani jailbreak otključaju sposobnosti na nivou Mythosa. Prema pisanju lista Fortune, do odluke Bele kuće došlo je nakon upozorenja koje je stiglo iz kompanije Amazon, jednog od velikih ulagača u Anthropic.
Argumenti potpisnika pisma
Centralna poruka otvorenog pisma jeste da zabrana šteti odbrambenoj strani. Potpisnici navode da je ovakav potez oduzeo najbolje modele braniocima, koji ih više ne mogu koristiti za pronalaženje ranjivosti i osiguravanje sopstvenih proizvoda i sistema.
U pismu se navodi da je opasno povlačiti najbolje sposobnosti od branilaca bez dobrog razloga, dok protivnici ubrzano napreduju. Logika potpisnika počiva na pretpostavci da napredni modeli koriste obema stranama, ali da odbrana, koja radi u zakonskim okvirima i pod nadzorom, gubi više kada joj se alat oduzme nego što napadači gube kada im se pristup oteža. Napadači, kako tvrde, ionako traže puteve do najjačih dostupnih alata, bez obzira na propise.
Katie Moussouris je u javnim istupima ovu raspravu svela na praktičan primer, na zahtev koji bezbednjaci svakodnevno upućuju modelima kada traže pomoć da poprave kod. Po toj argumentaciji, sposobnost koja zabrinjava regulatore u ofanzivnom kontekstu istovremeno je rutinska alatka u rukama onih koji softver čine bezbednijim.
Pitanje presedana
Slučaj se izdvaja jer je, kako su preneli domaći i strani mediji, prvi put da je javno dostupan AI model povučen po nalogu države. To otvara pitanje koliko je industrija veštačke inteligencije zaštićena od državne intervencije. U analizi TechCruncha navodi se da odluka može biti reaktivna, odmazda ili oboje, ali da je poruka jasna, a to je da ova grana nije izuzeta od mogućnosti da vlada zaustavi proizvod koji je već na tržištu.
Za kompaniju koja je javno gradila identitet oko teme bezbednosti veštačke inteligencije, situacija je neobična. Anthropic je upozoravao na rizike svojih modela, a deo komentatora primetio je da su upravo ta upozorenja mogla doprineti odluci da se pristup obustavi. Time se otvara šire pitanje za celu industriju, a to je kako saopštavati rizike naprednih modela, a ne izazvati reakciju koja zaustavlja i njihovu legitimnu upotrebu.
Šta to znači za korisnike u regionu
Suspenzija pristupa važi globalno, pa se posredno tiče i korisnika u Srbiji i regionu koji su koristili ili planirali da koriste najnovije Anthropicove modele. Praktična posledica je da timovi koji su se oslanjali na Fable za zahtevnije zadatke, uključujući analizu koda i bezbednosne provere, za sada moraju da se vrate na ranije modele ili na alternative drugih proizvođača.
Za manje firme i pojedinačne stručnjake, koji retko imaju pristup skupim komercijalnim bezbednosnim alatima, dostupnost naprednih modela bila je način da se delom izjednače sa većim igračima. Otvoreno pismo upravo na taj disbalans skreće pažnju, tvrdeći da odluka najviše pogađa one sa najmanje resursa, dok dobro finansirani napadači lakše nalaze zaobilazne puteve.
U ovom trenutku nije poznato koliko će suspenzija trajati niti pod kojim uslovima bi pristup mogao biti vraćen. Anthropic nije objavio rok, a vlada nije iznela detaljne razloge. Otvoreno pismo nema pravnu snagu, ali okuplja deo struke oko stava da pristup naprednim modelima treba posmatrati i kroz prizmu odbrane, a ne samo rizika.
Često postavljana pitanja
Zašto je SAD ograničio izvoz Anthropicovih modela Fable i Mythos?
Američka vlada se pozvala na nacionalnu bezbednost, ali nije iznela konkretne razloge. Anthropic navodi da je naredba možda zasnovana na izveštaju o metodu kojim se Fable može zaobići i otključati sposobnosti na nivou Mythosa.
Ko je potpisao otvoreno pismo?
Prema pisanju TechCruncha, pismo je potpisalo 76 stručnjaka za sajber bezbednost, među kojima su Alex Stamos, Katie Moussouris, Rachel Tobac, Casey Ellis, Jon Callas, Paul Vixie i Dino Dai Zovi.
Šta potpisnici traže?
Traže da vlada povuče naredbu o izvoznoj kontroli, uz obrazloženje da zabrana oduzima najbolje modele braniocima i otežava im da pronalaze ranjivosti i osiguravaju softver.
Da li korisnici u regionu mogu da koriste ove modele?
Ne za sada. Anthropic je suspendovao pristup modelima Fable i Mythos na globalnom nivou, pa su nedostupni i korisnicima u Srbiji i regionu dok traje naredba.
