Do sada su procene bezbednosti velikih AI modela najvećim delom ostajale unutar samih kompanija koje te modele razvijaju. Anthropic je 15. oktobra objavio da je neprofitnoj organizaciji METR dao pristup svojim sistemima na nivou zaposlenog, uz pravo da javno objavi nalaze o rizicima, incidentima i bezbednosnim praksama kompanije bez njenog prethodnog odobrenja.
Šestoro zaposlenih iz METR-a dobilo je, prema saopštenju Anthropica, hardver kompanije, kancelarijski prostor i pristup internim alatima i sistemima, približno isti nivo kao i sopstveni Anthropicovi timovi za procenu rizika. Zaposleni u Anthropicu su podstaknuti da sa njima dele informacije, izuzev u nekoliko unapred definisanih kategorija, kao što su podaci o klijentima, informacije zaštićene advokatskom tajnom i detalji o arhitekturi modela.
Bez prava veta na objavljivanje
Anthropic ne može da blokira objavu nalaza, nego samo da zatraži redakciju, odnosno uklanjanje delova teksta, u tim unapred definisanim kategorijama. METR pri tome ima pravo da javno kaže da li smatra te redakcije opravdanim, bez otkrivanja šta je uklonjeno. "Dobrovoljno ugrađujemo spoljne procenitelje i smatramo da bi svaka vodeća AI kompanija trebalo da uradi isto", navodi se u saopštenju Anthropica.
Aranžman sa METR-om je najviši, treći nivo u novom modelu koji Anthropic uvodi za spoljne procenitelje. Prvi nivo su usko ograničena istraživanja kod kojih kompanija sama odlučuje o pristupu i odobrava objavljivanje, dok drugi nivo daje širi pristup informacijama i pravo objave bez odobrenja, ali uz redakcije. Pored METR-a, Anthropic navodi da organizacija SecureBio pregleda poglavlje o hemijskom i biološkom oružju u avgustovskom izveštaju o rizicima, da pregovara o saradnji sa Accenture i Faculty na proceni modela i takozvanom red timing testiranju, i da je u ranim razgovorima sa, između ostalih, Hugging Face.
Deo šireg obećanja iz Bele kuće
Kompanija povezuje potez sa potpisivanjem sporazuma Bele kuće o superinteligenciji, u kom su se AI kompanije obavezale da će sarađivati sa nezavisnim spoljnim revizorima. Anthropic je pod pritiskom da pokaže da njegove sopstvene bezbednosne kontrole mogu da se provere spolja, posebno pošto je dan ranije upozorio da mali AI modeli mogu sami da se umnožavaju kroz uređaje povezane na internet. Slično, nezavisni Američki institut za bezbednost AI je u avgustovskom izveštaju u simulaciji zabeležio da je konkurentski model GPT-6 Astra napao lanac snabdevanja softvera, što je dodatno pojačalo pozive na nezavisnu proveru svih vodećih modela, ne samo Anthropicovih.
METR nije nov saradnik Anthropica, organizacija je ranije već radila nekoliko pregleda Anthropicovih izveštaja o rizicima, ali raniji pristup bio je uži i ograničen na konkretne zahteve kompanije. Sama METR je u predlogu objavljenom 14. oktobra upozorila da njen pristup, iako nazvan nivoom zaposlenog, ne podrazumeva stvarno jednak status: pristup zavisi od odluke kompanije, može biti ukinut u svakom trenutku, a organizacija trenutno nema način da bude potpuno zaštićena od odmazde zbog nepovoljnih nalaza. Deo komentatora je dodatno ukazao na finansijske i lične veze između METR-a i Anthropicovog bezbednosnog kruga, dok sama organizacija tvrdi da ne prima novac od vodećih AI kompanija, uključujući Anthropic.
Pitanje da li se bezbednosne tvrdnje AI kompanija mogu proveriti spolja nije samo akademsko, pa ni samo američko: Claude već koriste i domaće firme koje su AI uvele u poslovanje, prema ranijem pisanju ovog portala o tome ko u Srbiji pravi AI agente, pa nezavisna provera ovakvih praksi direktno utiče i na to koliko ozbiljno se mogu shvatiti slične tvrdnje o modelima koje te firme koriste. Da li će ovakav model postati standard u industriji zavisiće i od toga da li će ga OpenAI, Google i drugi vodeći razvijači modela prihvatiti u sličnom obliku.
Slika: Anthropic
