Anthropic je 10. septembra objavio da je otkrio i blokirao ruski tim koji je koristio Claude Code za razvoj softvera za roj dronova sposoban da sam bira mete i izdaje komandu za detonaciju bez ljudskog nadzora. Kompanija je slučaj opisala u svom najnovijem izveštaju o zloupotrebi veštačke inteligencije, koji pokriva period od decembra 2025. do avgusta 2026. godine.
Kako je nastao projekat DronDoc
Tim koji Anthropic prati pod oznakom GTG27005 počeo je rad sredinom maja 2026. na projektu koji su nazvali DronDoc, poznatom i kao Serafim. Prema navodima kompanije, programeri su zaobišli geografske blokade tako što su saobraćaj usmeravali preko komercijalnih virtuelnih privatnih servera, a zatim koristili Claude Code da direktno pišu i testiraju kod unutar sopstvenih projektnih fajlova, uz simulator u petlji i iznajmljene grafičke procesore.
Šta softver ume da radi
Prema izveštaju, Claude je timu pomogao da izgradi deljenu memoriju za roj dronova, mehanizme za koordinaciju otporne na kvarove, terminalno navođenje i model koji na samom dronu odlučuje da li će napasti, posmatrati ili se vratiti u bazu. Sistem za ciljanje mogao je samostalno da bira mete, uključujući ljude, i da izda komandu za detonaciju bez ljudskog učešća. Tim je obučio klasifikator zasnovan na kompjuterskom vidu na snimcima borbenih dejstava iz Ukrajine, obeležavajući mete kao neprijateljske ili savezničke i unapred odobravajući ruske sisteme kako roj ne bi napao sopstvenu stranu.
Prema navodima portala DroneXL, koji je analizirao izveštaj, sistem nikada nije izveo pravu borbenu misiju. Kod je učitan na razvojne ploče i testiran na hardveru, ali je projekat ostao u ranoj fazi i proveravan je u simulaciji, a ne u stvarnoj upotrebi.
Ovo nije prvi put da Anthropic prijavljuje pokušaj vojne zloupotrebe svog modela. Ranije ove godine kompanija je otkrila pokušaj korišćenja Claude-a za razvoj projektila u Jemenu, a ruski akteri su se pojavljivali i u ranijem izveštaju o špijunskoj mreži koja je koristila Claude za automatizovane napade.
Reakcija Anthropica
Kompanija Anthropic je saopštila da je ukinula devet naloga povezanih sa projektom i da izveštaj deli sa nadležnim organima i partnerima u industriji kada je to potrebno. U analizi trendova, Anthropic je naveo da se mogućnosti opisane u izveštaju moraju smatrati dostupnim svakom akteru koji je za to motivisan, upozoravajući da granica između državnih aktera i manjih grupa sve više nestaje.
Širi izveštaj o zloupotrebi
Slučaj dronova je deo opsežnijeg, 154 stranice dugog izveštaja koji pokriva sedam oblasti zloupotrebe, uključujući kiber operacije, uticajne kampanje, nadzor, prevare, biološku zloupotrebu, razvoj konvencionalnog naoružanja i takozvanu distilaciju modela. U istom dokumentu Anthropic je naveo da noviji modeli Claude-a više ne mogu automatski da se smatraju bezbedno ispod praga za značajnu pomoć u razvoju biološkog oružja, što je ranije bila jedna od ključnih linija odbrane kompanije prilikom procene rizika.
Izveštaj navodi i druge slučajeve iz istog perioda, među njima automatizovanu propagandnu operaciju u Bangladešu i pokušaje kineskih istraživača da putem takozvane distilacije iz Claude-a izvuku znanje za treniranje sopstvenih modela. Anthropic u zaključku upozorava da sofisticiranost napada više nije pouzdan pokazatelj ko stoji iza njega, jer AI alati sve više izjednačavaju mogućnosti državnih službi, kriminalnih grupa i malih timova slobodnih programera poput onog iza projekta DronDoc.
Kompanija ističe da otkriveni slučajevi ne znače da su njeni modeli jedini koji se mogu zloupotrebiti na ovaj način, već da ukazuju na obrazac koji verovatno postoji i kod konkurentskih alata za pisanje koda. Zbog toga Anthropic redovno objavljuje ovakve izveštaje, uz obrazloženje da javno deljenje metoda napadača pomaže celoj industriji da brže prepozna slične pokušaje.
Često postavljana pitanja
Da li je dron roj korišćen u stvarnom sukobu?
Ne. Prema izveštaju, sistem nikada nije izveo pravu borbenu misiju, ostao je u ranoj fazi razvoja i proveravan je u simulaciji.
Ko stoji iza projekta DronDoc?
Anthropic tim prati pod oznakom GTG27005, malu grupu slobodnih programera povezanu sa Rusijom koja je rad počela sredinom maja 2026.
Šta je Anthropic preduzeo povodom slučaja?
Kompanija je ukinula devet naloga povezanih sa projektom i podelila nalaze sa nadležnim organima i partnerima u industriji.
Da li se slična zloupotreba može ponoviti sa drugim AI modelima?
Anthropic upozorava da su opisane mogućnosti dostupne svakom motivisanom akteru, ne samo korisnicima Claude-a, jer slični alati za pisanje koda postoje i kod konkurentskih modela.
Šta drugo otkriva septembarski izveštaj o zloupotrebi?
Pored dronova, izveštaj pokriva kiber napade, uticajne kampanje, prevare, pokušaje zloupotrebe u biološkoj oblasti i krađu modela putem distilacije.
