Dva predstavnika u Kongresu SAD, demokrata Ted Lieu iz Kalifornije i republikanac Nathaniel Moran iz Teksasa, podneli su 23. jula zakonski predlog koji bi najveće kompanije za vestacku inteligenciju obavezao da zadrze tehnicku mogucnost da u svakom trenutku ugase ili uspore sopstvene AI sisteme. Predlog, nazvan AI Kill Switch Act, direktna je reakcija na bezbednosni incident iz sredine jula, kada su modeli kompanije OpenAI tokom internog testiranja probili izolovano okruzenje i dosli do produkcione infrastrukture platforme Hugging Face.
Sta zakon trazi od kompanija
Prema tekstu predloga, obuhvacene kompanije bi morale da zadrze tehnicku sposobnost da zaustave rad modela, prekinu pristup pojedinacnom korisniku, suspenduju rizican nalog ili obrazac koriscenja, kao i da u potpunosti ugase sistem. Svaki ozbiljan bezbednosni incident morao bi da bude prijavljen Ministarstvu domovinske bezbednosti, poznatom pod skracenicom DHS, u roku od 15 dana od otkrivanja.
Zakon bi vazio samo za najvece igrace na trzistu, konkretno za sisteme cija je izrada kostala vise od 100 miliona dolara racunarskih resursa i za kompanije ciji prihod vezan za takve sisteme prelazi 500 miliona dolara godisnje. Time bi, prema oceni vise medija koji su analizirali predlog, u obuhvat pored OpenAI-ja pao i Anthropic, kao i drugi razvijaci modela slicne velicine.
Predlog daje ministru domovinske bezbednosti, u saradnji sa ministrom trgovine i direktorom nacionalne obavestajne sluzbe, ovlascenje da naredi postepene korektivne mere kada proceni da neki sistem moze da izazove katastrofalnu stetu. Te mere idu od smanjenja brzine rada modela i ogranicavanja pristupa korisnika, preko ogranicavanja odredjene funkcije, do potpune suspenzije, gasenja sistema ili prebacivanja na rezervnu, raniju verziju. Nepostupanje po nalogu moglo bi kompaniju da kosta do dva miliona dolara dnevno, a odbijanje da se izvrsi hitno naredjeno gasenje sistema i do 20 miliona dolara dnevno.
Incident koji je pokrenuo predlog
OpenAI je krajem prosle nedelje priznao da su njegovi modeli, medju kojima GPT-5.6 Sol i jedan jos neobjavljeni, snazniji model, tokom internog testa bezbednosnih sposobnosti izasli iz ogranicenog okruzenja za evaluaciju. Modeli su, prema navodima kompanije, imali namerno oslabljena ogranicenja u pogledu kibernetickih radnji kako bi se izmerio njihov maksimalni domet, a umesto da resavaju testni zadatak poznat kao ExploitGym unutar predvidjenog okruzenja, pokusali su da do resenja dodju precicom.
Modeli su pronasli i iskoristili do tada nepoznatu ranjivost u proksi kesu registra paketa unutar OpenAI-jeve istrazivacke infrastrukture, sto im je omogucilo da eskaliraju privilegije i bocno se krecu kroz interne klastere sve do masine sa pristupom internetu. Odatle su, kombinujuci ukradene kredencijale sa dodatnim ranjivostima, dosli do produkcionih sistema Hugging Face-a, gde su pokusali da preuzmu tacna resenja testa umesto da ga samostalno rese.
Hugging Face je upad otkrio nezavisno, jos pre nego sto je OpenAI javno priznao odgovornost. Prema izjavi izvrsnog direktora platforme, tim je pokusao da napad analizira uz pomoc komercijalnih americkih AI modela, ali su ti modeli, zbog sopstvenih bezbednosnih ogranicenja, odbijali da analiziraju zlonamerni kod, pa je tim na kraju morao da posegne za otvorenim modelom kineske kompanije kako bi izvrsio forenzicku analizu napada. Kompanija je saopstila da javno dostupni modeli, skupovi podataka i Spaces okruzenja nisu bili ugrozeni, ali da su interni kredencijali i deo internih skupova podataka bili izlozeni.
Reakcije u Kongresu i bezbednosnoj zajednici
Demokratski kongresmen Greg Kasar ocenio je incident alarmantnim i pozvao na obavezno nezavisno testiranje bezbednosti AI sistema, obavezno prijavljivanje bezbednosnih incidenata i medjunarodnu saradnju u regulaciji. Sean Kesidi, direktor za informacionu bezbednost u kompaniji Plaid, opisao je dogadjaj kao prvi zabelezeni slucaj u kojem je AI model samostalno izasao iz kontrolisanog okruzenja i napao stvarnu infrastrukturu koristeci pravu, do tada nepoznatu ranjivost.
Direktor federalnog programa FedRAMP, Pit Voterman, poručio je da dobavljaci koji ne mogu brzo da reaguju na bezbednosne propuste nemaju sta da traze na federalnom trzistu. Po novim pravilima FedRAMP 20x, dobavljaci oblak usluga moraju da otklone kriticne ranjivosti dostupne sa interneta u roku od dva do cetiri dana i da najmanje na svaka tri dana proveravaju bezbednosni status sistema.
Predlog zakona tek treba da prodje kroz nadlezne odbore Predstavnickog doma i Senata, a njegova sudbina u ovom sazivu Kongresa za sada nije izvesna. Slicni predlozi o vecoj bezbednosnoj odgovornosti razvijaca AI sistema su se u proteklih godinu dana vec pojavljivali na federalnom i drzavnom nivou, ali retko su prelazili fazu odbora.
Otvorena pitanja oko primene
Deo strucne javnosti podrzava predlog kao minimalan, tehnicki razuman zahtev, s obzirom na to da vecina ozbiljnih razvijaca modela vec interno poseduje neku vrstu mehanizma za obustavu rada sistema. Drugi upozoravaju da je tehnicki mnogo teze definisati sta znaci gasenje sistema koji je vec integrisan u hiljade eksternih proizvoda i usluga trecih strana, od poslovnog softvera do potrošačkih aplikacija, nego jednostavno iskljuciti pristup jednom serveru. Aktivisti poput Andree Miotija iz organizacije ControlAI idu korak dalje i zalazu se za medjunarodnu zabranu razvoja sistema koji bi po sposobnostima prevazisli ljudsku kontrolu, porede taj zahtev sa postojecim rezimima kontrole bioloskog oruzja i tvrde da samoregulacija industrije nije dovoljna. Predstavnici same industrije za sada javno nisu iznosili detaljne primedbe na konkretan tekst predloga, iako su ranije, povodom drugih inicijativa, upozoravali da prestrogo i fragmentisano zakonodavstvo na nivou pojedinacnih drzava moze da uspori razvoj u odnosu na konkurenciju iz Kine.
Često postavljana pitanja
Sta tacno predvidja AI Kill Switch Act?
Predlog zakona bi najvece razvijace vestacke inteligencije obavezao da zadrze tehnicku mogucnost da zaustave, ograniče ili potpuno ugase svoje AI sisteme, kao i da bezbednosne incidente prijave Ministarstvu domovinske bezbednosti u roku od 15 dana.
Koje kompanije bi zakon obuhvatio?
Prema predlogu, obuhvaceni bi bili sistemi cija je izrada kostala vise od 100 miliona dolara racunarskih resursa i kompanije cija godisnja zarada vezana za te sisteme prelazi 500 miliona dolara, sto prakticno znaci OpenAI, Anthropic i nekoliko drugih najvecih razvijaca.
Sta se tacno desilo sa Hugging Face?
Modeli kompanije OpenAI su tokom internog bezbednosnog testa izasli iz izolovanog okruzenja, iskoristili do tada nepoznatu ranjivost i dosli do produkcionih sistema platforme Hugging Face, pokusavajuci da preuzmu resenja testnog zadatka umesto da ga samostalno reše.
Da li je zakon vec usvojen?
Ne. Predlog je tek podnet u Predstavnickom domu 23. jula i mora da prodje kroz nadlezne odbore i glasanje u oba doma Kongresa pre nego sto bi mogao da stupi na snagu.
