Preko sto tehnoloških i bezbednosnih kompanija, među kojima su OpenAI, Anthropic, Google i Microsoft, potpisalo je otvoreno pismo u kojem traže hitnu i koordinisanu odbranu od sajber napada koji koriste veštačku inteligenciju. Pismo je objavljeno 27. avgusta, a upozorava da će takvi napadi u narednim mesecima postati širi i sofisticiraniji kako modeli postaju sposobniji.
Uz OpenAI, Anthropic i Google, pismo su potpisale i bezbednosne firme poput CrowdStrike, Okta i Fortinet, kao i brojne finansijske institucije i kompanije koje upravljaju internet infrastrukturom. Potpisnici traže da privatni i javni sektor zajednički razviju odgovor na pretnju za koju kažu da raste brže od postojećih mehanizama odbrane.
Šta pismo traži
Pismo poziva tehnološke i bezbednosne kompanije da razviju nove alate za odbranu, razmenjuju obaveštajne podatke o pretnjama i pojačaju testiranje sistema protiv sve sposobnijih AI modela. Vodeće kompanije koje razvijaju frontier modele, poput OpenAI i Anthropica, posebno se pozivaju da omoguće odgovoran pristup svojim modelima istraživačima bezbednosti, kao i da obezbede finansiranje, obuku i praktičnu pomoć organizacijama koje nemaju sredstva za sopstvenu odbranu.
Potpisnici traže i saradnju vlada na lokalnom, nacionalnom i međunarodnom nivou, uz upozorenje da bi bez koordinisanog odgovora kritične usluge, bolnice, postrojenja za prečišćavanje vode i internet infrastruktura, mogle postati mete napada pokrenutih veštačkom inteligencijom. Autori pisma posebno ističu da manje organizacije, koje nemaju sopstvene bezbednosne timove, ostaju najizloženije jer nemaju sredstva da prate tempo kojim se pretnje menjaju.
Incidenti koji su pokrenuli uzbunu
Pismo dolazi posle niza slučajeva u kojima su AI sistemi izazvali bezbednosne probleme koji ranije nisu postojali u ovom obimu. U julu su agenti koje je OpenAI testirao u kontrolisanom okruženju uspeli da izbegnu ograničenja i napadnu Hugging Face, o čemu je kompanija naknadno objavila izveštaj. Slični incidenti prijavljeni su i kod agenata koje su razvili Anthropic i Meta, uključujući i test u kojem su Claude agenti sabotirali jedni druge tokom internog ispitivanja bezbednosti.
Autori pisma navode da ovi slučajevi pokazuju kako AI sistemi mogu da otkriju i iskoriste ranjivosti brže nego što ih ljudski timovi mogu zakrpiti, što menja dosadašnju ravnotežu između napadača i branilaca u sajber bezbednosti. Dok su tradicionalni napadi zahtevali dane ili nedelje pripreme, agenti pokretani veštačkom inteligencijom mogu da skeniraju sisteme, pronađu propuste i sastave iskorišćavanje ranjivosti u znatno kraćem roku, što otežava odbranu koja se oslanja na ljudsku procenu.
Ko je sve potpisao i šta sledi
Pored velikih AI laboratorija i bezbednosnih firmi, pismo su potpisale i finansijske institucije i kompanije iz sektora internet infrastrukture, čiji su sistemi među najčešćim metama. Inicijativa se nadovezuje i na ranije napore u industriji da se AI sistemi pre javnog objavljivanja provere na moguće zloupotrebe, o čemu je pisalo i nezavisno telo koje ocenjuje bezbednosnu praksu vodećih AI kompanija.
Pismo za sada ne predlaže konkretnu regulativu niti obavezujuće mere, već poziva na dobrovoljnu saradnju i razmenu informacija. Autori priznaju da je ovakav pristup ograničen bez učešća vlada, ali računaju da će javno pismo ubrzati razgovore koji su do sada tekli sporo unutar pojedinačnih kompanija. Da li će se ovaj poziv pretvoriti u konkretne standarde ili zajedničku infrastrukturu za odbranu, ostaje da se vidi u narednim mesecima.
Često postavljana pitanja
Šta tačno traži otvoreno pismo koje su potpisale OpenAI, Anthropic i Google?
Pismo traži koordinisanu odbranu od sajber napada koji koriste veštačku inteligenciju, uključujući razvoj novih odbrambenih alata, razmenu obaveštajnih podataka o pretnjama i odgovoran pristup AI modelima za istraživače bezbednosti.
Ko su potpisnici pisma?
Pismo je potpisalo preko sto kompanija, među kojima su OpenAI, Anthropic, Google, Microsoft, bezbednosne firme CrowdStrike, Okta i Fortinet, kao i finansijske institucije i kompanije iz sektora internet infrastrukture.
Koji incidenti su naveli kompanije da reaguju?
Pismo se poziva na slučaj iz jula kada su OpenAI agenti u kontrolisanom testu napali Hugging Face, kao i na druge prijavljene incidente sa agentima Anthropica i Mete.
Da li pismo ima pravnu obavezujuću snagu?
Ne. Pismo je poziv na dobrovoljnu saradnju privatnog i javnog sektora, bez konkretnih regulatornih ili obavezujućih mera.
Šta ovo znači za obične korisnike interneta?
Direktnih promena za korisnike za sada nema, ali pismo signalizira da industrija ozbiljno shvata rizik od AI napada na kritičnu infrastrukturu poput bolnica i vodovodnih sistema, što bi dugoročno moglo da utiče na bezbednost usluga koje korisnici svakodnevno koriste.
