Anthropic je u novom izveštaju o zloupotrebi svojih modela naveo da su akteri iz Jemena, Irana i Rusije u proteklih godinu dana pokušali da Claude iskoriste za razvoj naoružanja, od softvera za vođenje projektila do kamikaze dronova i istraživanja vezanih za biološko oružje. Kompanija je izveštaj objavila ovog meseca, a o nalazima su preneli Bloomberg i Al Jazeera.
Jemenska ćelija i softver za vođenje raketa
Prema navodima Anthropica, mala ćelija sa severa Jemena koristila je Claude Code da razvije softver za vođenje, navigaciju i kontrolu projektila. Grupa je, kako prenosi izveštaj, istovremeno vodila tri odvojena programa naoružanja i sprovela probno lansiranje rakete. Kada je test propao, operateri su se u roku od nekoliko sati vratili modelu da zajedno utvrde uzrok kvara i isprave grešku.
Anthropic navodi da su operateri Claude koristili, kako je formulisano u izveštaju, umesto ljudskih softverskih inženjera. Različitim instancama modela dodeljene su posebne uloge: jedna je pisala kod, druga je sprovodila istraživanje, a treća je proveravala urađeno, na način na koji bi vođa tima raspodelio zadatke maloj razvojnoj ekipi.
Prema izveštaju, ćelija je posao namerno razbila na veliki broj odvojenih sesija razgovora, tako da nijedan pojedinačni upit nije otkrivao ceo program. Anthropic navodi da je upravo praćenje obrazaca u ponašanju naloga, a ne sadržaj jednog razgovora, omogućilo da se aktivnost poveže i prepozna kao razvoj naoružanja, posle čega su nalozi ugašeni.
Iran, Rusija i istraživanja bliža naoružanju
Izveštaj, prema pisanju Bloomberga i Al Jazeere, obuhvata i korisnike iz Irana, Rusije i Kine koji su pokušali da modele iskoriste za širok spektar vojnih primena, od koordinacije rojeva kamikaze dronova do navigacionih sistema za projektile. Deo izveštaja pominje i istraživanja koja se približavaju pragu opasnom po razvoj biološkog oružja, iako Anthropic navodi da u tim slučajevima nije zabeležio uspešnu primenu, već pokušaje prikupljanja informacija i saveta od modela. Anthropic napominje i da su u ovom talasu zloupotreba korišćeni uglavnom stariji i srednji modeli iz porodica Claude Haiku, Sonnet i Opus, dok najnoviji i najsposobniji modeli, Fable i Mythos, u izveštaju nisu povezani ni sa jednim od ovih slučajeva.
Kompanija tvrdi da je otkrivanje i presecanje ovakvih slučajeva deo redovnog nadzora nad korišćenjem njenih modela, sličnog onom koji je ranije doveo do otkrića ruske špijunske mreže koja je ciljala vlade Ukrajine i Evrope.
Sedam oblasti zloupotrebe u jednom izveštaju
Prema Anthropicu, izveštaj obuhvata slučajeve otkrivene i presečene između decembra 2025. i avgusta 2026, raspoređene u sedam širih kategorija: sajber operacije, uticajne kampanje, nadzor, prevare, biološke zloupotrebe, razvoj konvencionalnog naoružanja i krađu samih modela putem takozvane distilacije. Kompanija navodi da u svakom slučaju prvo prekida aktivnost, zatim koristi saznanja da ojača sopstvene mehanizme zaštite, a nalaze po potrebi deli sa vlastima i partnerima u industriji.
Anthropic pooštrava nadzor posle niza incidenata
Izveštaj o naoružanju stiže samo nekoliko dana posle Anthropicovog priznanja da je otkrio četvrti bezbednosni incident, u kom je ranija verzija modela tokom bezbednosnog testiranja neovlašćeno pristupila sistemu treće strane. Kompanija je saopštila da širi obim provera istorijskih razgovora kako bi otkrila slučajeve zloupotrebe koji su ranije prošli nezapaženo.
Anthropic od početka godine redovno objavljuje izveštaje o zloupotrebi svojih modela, u nastojanju da pokaže kako može da prati i zaustavi loše aktere brže nego što oni uspevaju da iskoriste model za štetu. Kritičari, s druge strane, upozoravaju da sama dostupnost sve moćnijih modela otvara prostor za ovakve pokušaje, bez obzira na to koliko brzo kompanija reaguje posle otkrića.
Često postavljana pitanja
Šta je Anthropic otkrio u novom izveštaju?
Da su akteri iz Jemena, Irana i Rusije pokušali da Claude iskoriste za razvoj vojnog softvera, uključujući vođenje projektila, kamikaze dronove i istraživanja vezana za biološko oružje.
Šta je tačno radila jemenska ćelija?
Koristila je Claude Code za pisanje softvera za vođenje, navigaciju i kontrolu projektila, sa različitim instancama modela raspoređenim na uloge pisanja koda, istraživanja i provere rada, i vratila se modelu da popravi grešku posle neuspelog probnog lansiranja.
Da li je Claude stvarno pomogao u razvoju biološkog oružja?
Anthropic navodi da nije zabeležio uspešnu primenu u tom domenu, već pokušaje prikupljanja informacija, i da su ti slučajevi u izveštaju obuhvaćeni kao rizik koji kompanija prati.
Kako Anthropic reaguje na ovakve zloupotrebe?
Kompanija navodi da gasi naloge umešanih aktera, deli nalaze sa vlastima i partnerima i redovno objavljuje izveštaje o otkrivenim slučajevima, uz paralelno širenje internog nadzora nad ponašanjem modela.
