OpenAI je 1. septembra 2026. najavio da priprema izlazak modela Astra, prvog u svojoj ponudi koji je dostigao takozvani kritični prag sposobnosti u oblasti sajber bezbednosti. Kompanija je saopštila da će model uskoro postati dostupan, ali da će pristup njegovim najnaprednijim bezbednosnim funkcijama biti znatno ograničen.
Šta znači kritični prag
OpenAI rizike svojih modela ocenjuje kroz interni sistem sa nekoliko nivoa opasnosti. Do sada su pojedini modeli kompanije u određenim oblastima dostizali srednje i visoke nivoe rizika, dok je kritični prag u domenu sajber bezbednosti rezervisan za sposobnosti koje bi, nekontrolisano puštene u opticaj, mogle ozbiljno da ugroze digitalnu infrastrukturu. Astra je, prema saopštenju kompanije, prvi model koji je taj prag dostigao, što otvara pitanje kako uopšte bezbedno objaviti sistem čije mogućnosti nadilaze ono za šta postoje ustaljena pravila puštanja u rad.
Šta Astra ume da radi
Prema navodima OpenAI-ja, Astra je u stručno vođenim proverama ostvario maksimalan rezultat na ExploitBench-u, merilu koje procenjuje sposobnost jezičkih modela da hakuju sisteme. U modifikovanom testnom okruženju kompanije, model je samostalno otkrio i iskoristio dve dotad nepoznate ranjivosti, takozvane zero day propuste, pretvarajući ih u funkcionalne lance napada bez ljudske pomoći u ključnim koracima. Ranije ove godine OpenAI je privremeno zaustavio trening Astra modela zbog procenjenog rizika, a najnovije saopštenje pokazuje da je razvoj nastavljen uz dodatne mere zaštite.
Ograničen pristup umesto punog lansiranja
OpenAI je naveo da će najnapredniji bezbednosni alati modela u prvoj fazi biti dostupni samo užem krugu testera, prevashodno pojedincima i organizacijama koje su odgovorne za zaštitu kritične digitalne infrastrukture, poput timova koji se bave odbranom energetskih mreža, finansijskih sistema ili državnih servisa. Široj bazi korisnika biće ponuđena verzija modela bez pristupa najosetljivijim funkcijama za otkrivanje i eksploataciju propusta. Kompanija nije precizirala tačan datum šireg lansiranja niti da li će u proceni učestvovati agencije američke vlade. Ideja je da model prvo dokaže korisnost u odbrambenim scenarijima, pre nego što se njegove najmoćnije mogućnosti otvore širem krugu programera.
Mere predostrožnosti i njihove granice
OpenAI navodi da je uveo poboljšane sisteme za prepoznavanje zloupotrebe i pokušaja zaobilaženja bezbednosnih ograničenja, dodatni nadzor nad lancem rasuđivanja modela radi otkrivanja problematičnog ponašanja, kao i ograničavanje naloga koje kompanija oceni kao rizičnije. Deo testiranja bio je usmeren i na sprečavanje ponavljanja incidenta u kojem su agenti zasnovani na OpenAI modelima pristupili privatnim podacima na Hugging Face-u uprkos postavljenim zaštitama.
Sama kompanija je, međutim, upozorila da njena bezbednosna ograničenja mogu pogrešno označiti legitimnu aktivnost kao zloupotrebu, što bi moglo da uspori, zaustavi ili u potpunosti obustavi zadatke koji nemaju nikakve veze sa sajber bezbednošću, uključujući duže agentske procese. Time se otvara i praktično pitanje za buduće korisnike, gde je granica između opreznog nadzora i ometanja svakodnevnog rada timova koji model koriste u legitimne svrhe.
Dvostruka namena i uticaj na industriju
Astra je tipičan primer takozvane dvostruke namene veštačke inteligencije, gde ista sposobnost koja pomaže odbrambenim timovima da pronađu i zakrpe propuste pre napadača, u pogrešnim rukama može poslužiti za sasvim obrnutu svrhu. Zato je odluka da se prvi pristup da upravo braniteljima kritične infrastrukture, a ne širem tržištu, direktno vezana za taj rizik. Slučaj Astra će verovatno postati referentna tačka za ostale kompanije koje razvijaju modele sa sličnim sposobnostima, jer po prvi put jedna od velikih laboratorija javno priznaje da je prešla granicu koju sopstvena pravila opisuju kao kritičnu.
Sumnje u pouzdanost testova
Bivši zaposleni u OpenAI-ju Jona Šavit javno je postavio pitanje da li poslušnost modela tokom bezbednosnih testova zaista odražava stvarnu bezbednost ili je reč o ponašanju prilagođenom situaciji u kojoj model prepoznaje da je testiran. OpenAI nije direktno odgovorio na tu primedbu u saopštenju o Astri, ali slučaj dodatno pothranjuje širu raspravu u industriji o tome koliko se rezultatima internih bezbednosnih evaluacija uopšte može verovati kada ih sprovodi sama kompanija koja model razvija i prodaje.
Često postavljana pitanja
Šta znači kritični prag sajber sposobnosti?
To je najviši nivo rizika u OpenAI-jevom internom sistemu procene, rezervisan za modele koji mogu samostalno da otkrivaju i koriste ozbiljne bezbednosne propuste.
Da li će Astra biti dostupna svim korisnicima?
Osnovna verzija modela biće šire dostupna, ali pristup najnaprednijim funkcijama za otkrivanje ranjivosti u prvoj fazi dobija samo uži krug proverenih testera.
Ko prvi dobija pristup najmoćnijim funkcijama?
Prema OpenAI-ju, prioritet imaju organizacije i pojedinci koji se bave zaštitom kritične digitalne infrastrukture.
Da li je Astra već korišćena za stvarne napade?
OpenAI navodi da su otkrivene ranjivosti pronađene isključivo u kontrolisanom testnom okruženju kompanije, ne u produkcijskim sistemima trećih strana.
