Novi izveštaj bezbednosne organizacije SaferAI pokazuje da otvoreni AI model GLM-5.2, koji je razvila kineska kompanija Z.ai, po sposobnostima u sajber i biološkoj domenu zaostaje za vodećim, zatvorenim sistemima samo nekoliko meseci. Istovremeno, prema navodima organizacije, GLM-5.2 nema gotovo nijednu od bezbednosnih mera koje primenjuju kompanije poput Anthropica i OpenAI-ja, što ponovo otvara pitanje da li razvoj otvorenih modela prestiže sposobnost industrije da ih kontroliše.
Šta je utvrdio SaferAI
SaferAI je testirala GLM-5.2 na standardizovanim bezbednosnim benchmarcima koji proveravaju koliko lako model može da se iskoristi za ofanzivne sajber napade ili za zadatke iz oblasti biologije dvostruke namene, odnosno one koji mogu imati i istraživačku i štetnu primenu. Prema rezultatima koje prenosi TechCrunch, GLM-5.2 je odbio da izvrši nula od testiranih ofanzivnih zadataka, što znači da je model bez ikakvog otpora generisao odgovore i na upite koje bi bezbednosno usklađeni sistemi trebalo da odbiju.
Za poređenje, Claude Opus 4.7 kompanije Anthropic je, prema izveštaju, odbijao zadatke toliko dosledno da SaferAI nije uspela ni da završi test poznat kao CyberGym, jer je model odbijao dalju saradnju pre nego što je procena mogla da se sprovede do kraja. CyberGym je benchmark koji meri sposobnost modela da identifikuje i iskoristi bezbednosne propuste, a OpenAI ga je, prema ranijim navodima, koristio i pre bezbednosnog incidenta povezanog sa Hugging Face platformom u julu 2026. godine.
GLM-5.2 naspram Claude Opusa 4.7 i GPT-5.5
Izveštaj GLM-5.2 direktno poredi sa nekoliko frontier sistema, uključujući Claude Opus 4.7, GPT-5.5 i noviji GPT-5.6 Sol. Prema nalazima SaferAI, razlika u sirovoj sposobnosti između otvorenog i zatvorenih modela sve je manja i sada se meri mesecima, a ne godinama kao ranije. To je u skladu sa širim trendom koji su ranije zabeležile i druge organizacije za bezbednosnu procenu AI sistema, prema kojima otvoreni modeli iz Kine, uključujući i ranije verzije GLM porodice, stabilno smanjuju razmak prema američkim laboratorijama na testovima sajber i bioloških sposobnosti.
Anthropic u svojim javnim bezbednosnim proverama redovno navodi Claude Opus 5, naslednika Opusa 4.7 predstavljenog krajem jula, kao model sa dodatnim slojevima zaštite u odnosu na prethodnu generaciju. Kompanija tvrdi da nove verzije prolaze kroz opsežnije predtrenažno filtriranje podataka i stroža ograničenja pristupa određenim vrstama informacija pre nego što postanu javno dostupne.
Zašto je otvoreno objavljivanje težina nepovratan korak
Direktor SaferAI Henri Papadatos je za TechCrunch izjavio da granica sposobnosti nije isto što i granica rizika. "Frontier sposobnosti nisu isto što i frontier rizik, pa moramo da uzmemo u obzir i stanje mera zaštite da bismo pravilno procenili rizik", rekao je Papadatos. On je dodao da bi cilj trebalo da bude da sposobnosti koje su bezbedne ostanu dostupne svima, dok bi štetne trebalo ukloniti, uključujući i kod modela otvorenog koda.
Ono što izveštaj posebno naglašava jeste da je objavljivanje težina modela, odnosno parametara na kojima se on zasniva, u praksi nepovratna odluka sa stanovišta bezbednosnog nadzora. Kada su težine jednom javno dostupne, zaštitne mere poput filtera za odbijanje štetnih upita mogu se naknadno ukloniti finim podešavanjem, kopije modela se šire nezavisno od volje kompanije koja ga je razvila, a sam model radi na infrastrukturi koju njegov tvorac više ne nadzire niti kontroliše.
SaferAI navodi i da Z.ai za GLM-5.2 nije objavila javni bezbednosni okvir, obavezu za predtrenažno testiranje niti procenu rizika pre objavljivanja, za razliku od prakse koju su uspostavile najveće zapadne laboratorije poput Anthropica, OpenAI-ja i Google DeepMind-a. Te kompanije po pravilu objavljuju takozvane system card dokumente uz svaki veći model, u kojima opisuju rezultate bezbednosnih testova i preostale rizike.
Širi kontekst trke u otvorenim modelima
GLM-5.2 nije usamljen primer. Poslednjih meseci nekoliko kineskih kompanija, uključujući Z.ai, Alibaba i DeepSeek, objavljuje modele otvorenog koda koji na standardnim testovima rezonovanja i kodiranja postižu rezultate blizu onih koje imaju vodeći američki sistemi, uz znatno niže troškove korišćenja. Zbog toga programeri i istraživači u sve većem broju posežu za otvorenim modelima za zadatke gde cena igra veću ulogu od apsolutnog vrha performansi.
Istovremeno, regulatori u Sjedinjenim Državama i Evropskoj uniji tek razrađuju pravila koja bi se odnosila konkretno na modele otvorenog koda, dok su postojeći okviri uglavnom pisani sa fokusom na zatvorene, komercijalne sisteme kojima kompanije upravljaju putem interfejsa za programiranje aplikacija. Izveštaj SaferAI dolazi u trenutku kada američki Kongres razmatra i predlog o obaveznom mehanizmu za hitno isključivanje najmoćnijih AI sistema, što pokazuje da pitanje nadzora nad naprednim modelima ostaje otvoreno bez obzira na to da li su u pitanju zatvoreni ili otvoreni sistemi.
Često postavljana pitanja
Šta je GLM-5.2?
GLM-5.2 je veliki jezički model otvorenog koda koji je razvila kineska kompanija Z.ai. Za razliku od zatvorenih modela poput Claude ili GPT porodice, njegove težine su javno dostupne, što omogućava da ga bilo ko preuzme i pokreće na sopstvenoj infrastrukturi.
Šta je SaferAI i kako testira modele?
SaferAI je nezavisna organizacija koja procenjuje bezbednosnu praksu razvijača AI modela. U ovom slučaju je koristila standardizovane benchmarke, uključujući CyberGym, da proveri koliko lako model može da se iskoristi za ofanzivne sajber napade ili zadatke iz biologije dvostruke namene.
Zašto Claude Opus 4.7 nije mogao da završi CyberGym test?
Prema navodima SaferAI, Claude Opus 4.7 je dosledno odbijao da izvrši ofanzivne zadatke iz testa, zbog čega procena nije mogla da se sprovede do kraja. To je protumačeno kao znak snažnih ugrađenih mehanizama odbijanja štetnih upita.
Da li se objavljeni otvoreni model može naknadno učiniti bezbednim?
Prema izveštaju, to je teško postići u potpunosti. Kada su težine modela jednom javno dostupne, korisnici mogu finim podešavanjem ukloniti ugrađene zaštite, a kopije modela se dalje šire nezavisno od kontrole originalnog razvijača.
