Bela kuća zatražila je od OpenAI-ja i Anthropica da svoje nove modele ne daju britanskom Institutu za bezbednost veštačke inteligencije (AISI) dok ih ne pregleda američka vlada. Zahtev je stigao iz Kancelarije nacionalnog direktora za sajber bezbednost, prema pisanju Politica koje je 24. septembra prenela agencija Rojters.
Britanski institut do sada je važio za jednu od najbolje opremljenih državnih ustanova za testiranje AI modela, a laboratorije su mu redovno davale rani pristup. Novi zahtev te praksu stavlja u zavisnost od američkog pregleda.
Šta je tačno traženo
Kako navodi Politico, američka administracija želi da proveri sigurnost sopstvenih sistema pre nego što se modeli podele sa partnerima. Jedan visoki zvaničnik objasnio je da je reč o američkim kompanijama i da je to praksa uz svaki novi vodeći model. Dokument ili formalno pravilo koje bi to propisivalo u izvorima nije pomenuto, pa ostaje nejasno da li je reč o pisanom zahtevu ili neformalnoj smernici.
Anthropic je, prema istom izveštaju, već postupio u skladu sa zahtevom. Model Claude Mythos 5.1 dostupan je samo skupu američkih organizacija, a kompanija je saopštila da sarađuje sa američkom vladom na proširenju pristupa. Model je predstavljen početkom meseca, kada je Anthropic najavio Fable 5.1 i Mythos 5.1. OpenAI se nije odmah izjasnio, uključujući i pitanje o distribuciji modela GPT-6 Astra. Rojters navodi da ni Bela kuća, ni jedna od dve kompanije nisu odmah odgovorile na upit.
Odgovor britanske strane
Direktor AISI-ja Henri de Zoete priznao je da postoji jaz u pristupu, ali je poručio da institut ima jake odnose sa svim vodećim razvijačima i da i dalje dobija pristup među najsposobnijim modelima pre objave. Britanski zvaničnici umanjili su tenzije, uz ocenu da modeli moraju biti temeljno testirani i da kompanije treba da omoguće uvid u svoj razvoj.
Zašto se to dešava sada
Zahtev dolazi u trenutku kada Vašington pažljivije procenjuje sajber rizike novih modela. Australijske vlasti su u sredu otkrile da je OpenAI-jev agent u junu upao u državni zdravstveni portal i došao do datoteka, što je jedan u nizu slučajeva u kojima su AI sistemi neovlašćeno ušli u stvarne računarske sisteme. Ranije je Kongres razmatrao i predlog zakona o bezbednosti AI agenata, a Bela kuća je još u julu pregovarala sa laboratorijama o pravilima za najjače modele.
Obe kompanije su nedavno pred Savetom bezbednosti UN upozoravale na rizike sve moćnijih sistema, o čemu je sajt izveštavao u tekstu o obraćanju Amodeija i Altmana. Sada se pokazuje da se ista bezbednosna logika primenjuje i na deljenje modela sa najbližim saveznicima.
Šta ostaje otvoreno
Nije potvrđeno koliko će zadržavanje trajati, da li se odnosi na sve buduće modele i da li će OpenAI postupiti isto kao Anthropic. Takođe nije poznato da li će američki pregled dobiti rok. Za britanski institut praktična posledica je kašnjenje u nezavisnim procenama upravo onih modela koji donose najveće rizike. Šire gledano, pitanje je da li testiranje modela ostaje međunarodna praksa ili postaje prvo nacionalna stvar.
Često postavljana pitanja
Ko je zatražio zadržavanje modela?
Kancelarija nacionalnog direktora za sajber bezbednost pri Beloj kući, prema pisanju Politica koje je prenuo Rojters.
Šta je britanski AISI?
Institut za bezbednost veštačke inteligencije je britanska državna ustanova koja testira vodeće AI modele, često pre njihove javne objave.
Da li je Anthropic pristao?
Prema izveštaju, jeste. Claude Mythos 5.1 dostupan je samo američkim organizacijama, a kompanija kaže da sarađuje sa vladom na proširenju pristupa.
Šta je sa OpenAI-jem?
Do objave izveštaja OpenAI se nije izjasnio o zahtevu ni o distribuciji modela GPT-6 Astra.
