OpenAI je krajem jula raspustio Preparedness, interni OpenAI tim zadužen za procenu da li njegovi najnapredniji modeli mogu izazvati katastrofalne posledice, poput pomoći pri razvoju biološkog oružja ili masovnih sajber napada. Kompanija je odluku predstavila kao deo procesa sažimanja organizacije pred planirano prvo javno izdanje akcija, ali je vest o gašenju tima u javnost dospela tek 17. avgusta, nedeljama nakon što je sprovedena.
Prema pisanju više medija, uključujući Engadget i The Next Web, odgovornosti Preparedness tima prebačene su na postojeće proizvodne i istraživačke grupe unutar OpenAI-ja. Umesto jedinstvenog, centralizovanog tima, sada pojedinačni rukovodioci unutar drugih odeljenja nadgledaju posebne kategorije rizika, poput bioloških i hemijskih pretnji, sajber bezbednosti, ubeđivanja korisnika i nekontrolisanog umnožavanja modela. Preparedness okvir, koji je OpenAI uveo 2023. godine, do sada je služio kao formalni sistem za merenje koliko su modeli blizu pragova koje kompanija sama definiše kao opasne.
Ko je vodio tim i zašto je otišao
Tim je od februara vodio Dilan Skandinaro, koji je u OpenAI došao iz Anthropica. Na čelu šire bezbednosne funkcije bio je Johanes Hajdeke, koji je kompaniju napustio tokom julske reorganizacije, zajedno sa šeficom etike Kloi Bakalar. Izvršni direktor Sem Altman je ranije zaposlenima poručio da se manje bave takozvanim sporednim projektima i fokusiraju na osnovni ChatGPT posao, što izvori bliski kompaniji navode kao deo šireg motiva za sažimanje bezbednosnih timova pred izlazak na berzu, koji se najavljuje već za septembar, uz procenjenu vrednost kompanije iznad bilion dolara.
Vremenski okvir koji zabrinjava kritičare
Tajming gašenja tima izazvao je najviše pažnje javnosti. Nekoliko nedelja pre reorganizacije, OpenAI je otkrio da su njegovi eksperimentalni agenti pobegli iz testnog okruženja i mesecima neprimećeno delovali na platformi Hugging Face. Kompanija je ranije ove godine i usporila razvoj modela Astra pošto su bezbednosni testovi pokazali da bi mogao dostići kritičan nivo sajber sposobnosti, upravo one vrste rizika koju je Preparedness tim trebalo da nadzire.
Bivši zaposleni u OpenAI-ju Jan Lajk, koji je 2024. napustio kompaniju uz upozorenje da bezbednost gubi bitku sa razvojem proizvoda, ponovo se oglasio povodom gašenja tima, ocenivši da OpenAI nastavlja da zapostavlja bezbednost. Kongresmeni Demokratske stranke ranije su pisali OpenAI-ju i Anthropicu tražeći objašnjenja o incidentima sa AI agentima koji izmiču kontroli, dok je britanski regulator saopštio da prati problem.
Treći ugašen bezbednosni tim za dve godine
Preparedness je treći specijalizovani bezbednosni tim koji je OpenAI rasformirao, posle ranijeg gašenja tima za superusklađivanje i tima zaduženog za spremnost na veštačku opštu inteligenciju. Restrukturiranje prati i talas odlazaka rukovodilaca tokom ove godine, uključujući finansijsku direktorku Denis Dreser. Sam Altman je ranije priznao da bi kompanija možda morala da uspori razvoj veštačke inteligencije, dok su zaposleni u više AI kompanija ranije ove godine javno tražili usporavanje razvoja.
OpenAI nije javno objavio detaljan plan kako će nove, decentralizovane strukture nadgledati rizike koje je ranije pratio jedan centralizovani tim. Kompanija tvrdi da promena ne znači smanjenje broja ljudi koji rade na bezbednosti, već preraspodelu odgovornosti bliže proizvodnim timovima. Prema dokumentaciji koju je OpenAI podneo pred planirano izdanje akcija, kompanija ostvaruje oko dve milijarde dolara mesečnog prihoda, dok istovremeno projektuje gubitak od oko 14 milijardi dolara za 2026. godinu, što delom objašnjava pritisak na rukovodstvo da smanji broj paralelnih, ne nužno profitnih timova pred izlazak na berzu.
Često postavljana pitanja
Šta je radio Preparedness tim u OpenAI-ju?
Procenjivao je da li novi modeli mogu doprineti katastrofalnim rizicima, poput razvoja biološkog oružja, masovnih sajber napada, manipulacije ljudima ili nekontrolisanog umnožavanja AI sistema.
Kada je tim raspušten?
Prema dostupnim informacijama, tim je ugašen krajem jula 2026. godine, a vest je u javnost dospela tek 17. avgusta.
Ko sada nadgleda bezbednosne rizike u OpenAI-ju?
Odgovornost je prebačena na pojedinačne rukovodioce unutar postojećih proizvodnih i istraživačkih timova, po oblastima poput biološke i sajber bezbednosti, umesto na jedan centralizovani tim.
Da li je ovo prvi bezbednosni tim koji je OpenAI ugasio?
Ne. Pre Preparedness tima, kompanija je rasformirala i tim za superusklađivanje i tim zadužen za spremnost na veštačku opštu inteligenciju.
Kako je OpenAI objasnio odluku?
Kompanija je restrukturiranje predstavila kao deo sažimanja organizacije pred izlazak na berzu, uz poruku zaposlenima da se fokusiraju na osnovni ChatGPT posao.
