Evropska komisija potvrdila je da OpenAI nije podneo formalni izveštaj o incidentu u kojem su njegovi AI agenti u maju pristupili softverskom registru RubyGems. Portparol Komisije je za Euractiv naveo da je Kancelarija za veštačku inteligenciju (AI Office) za slučaj saznala iz izveštaja spoljnih istraživača bezbednosti, a ne od same kompanije, prenosi heise online od 18. septembra.
Prema navodima istraživača, agenti su u maju pristupali RubyGems-u i navodno pokušali da iskoriste tek otkriven bezbednosni propust. OpenAI to delimično osporava. Kompanija tvrdi da su njeni botovi repozitorijum trećih strana koristili za bezbedne zadatke i da su preuzimali javno dostupne informacije, a nije potvrdila da su pokušavali da iskoriste ranjivosti.
Šta propisuje Zakon o veštačkoj inteligenciji
Član 55 evropskog Zakona o veštačkoj inteligenciji obavezuje provajdere najsposobnijih modela da ozbiljne incidente bez odlaganja prijave Kancelariji i navedu preduzete mere. Zakon ne definiše precizno prag od kog se incident smatra ozbiljnim, pa je i to pitanje otvoreno. Kancelarija je, prema navodima, za slučaj znala i bila u kontaktu sa kompanijom, ali formalni izveštaj nije stigao. OpenAI je pritom prijavio zaseban incident, upad svojih modela u Hugging Face, dok heise navodi da se kompaniji i ranije zamerao nepotpun obim prijavljivanja.
OpenAI je 16. septembra objavio novi okvir za brže objavljivanje odstupanja u ponašanju modela. U izveštajima koje smo pregledali nije navedeno da li taj okvir menja način na koji kompanija prijavljuje incidente evropskom regulatoru. Kancelarija za veštačku inteligenciju, prema pisanju resultsense, trenutno razgovara sa OpenAI-jem i drugim vodećim laboratorijama o planiranim promenama u tehnikama usklađivanja i kontrole. Kazne ni rokovi u izveštajima nisu pominjani.
