Kompanija OpenAI saopštila je 25. avgusta da je otkrila i ugasila klaster naloga ChatGPT-a poreklom iz Rusije, korišćen za širenje prokremaljske propagande preko izmišljenog instituta za spoljnu politiku pod imenom International Burke Institute. Prema navodima kompanije, operateri su servisu pristupali preko VPN mreža, pošto OpenAI ne dozvoljava direktan pristup iz Rusije, a modelu su davali uputstva na ruskom jeziku da generiše tekstove na engleskom, uz izričit zahtev da se sakriju jezički tragovi ruskog porekla.
Institut koji ne postoji
Središnji deo operacije bio je sajt International Burke Institute (IBI), registrovan u februaru 2025. godine, koji se predstavljao kao nezavisna ekspertska zajednica sa sedištem u Izraelu. OpenAI navodi da je od 36 tekstova objavljenih između septembra 2025. i maja 2026. godine, a pripisanih navodnim stručnjacima instituta, njih 34 zapravo bilo preuzeto ili prepisano sa drugih sajtova. Delu tekstova je lažno pripisan autoritet akademika sa univerziteta Kembridž i Notingem, a pojedini članci su lažno pripisani i poznatim imenima poput Fransisa Fukujame i Noama Čomskog. U nekim tekstovima ostali su vidljivi tragovi mašinskog prevoda sa slovenskih jezika, uključujući bukvalan prevod izraza koji u nemačkom političkom žargonu označava takozvanu semafor koaliciju vladajućih partija.
Institut je, prema OpenAI-jevom izveštaju, izradio i takozvani indeks suverenosti, rang listu koja je rusku vojsku ocenila pola poena bolje od američke, dok su zapadne države sistematski dobijale niže ocene.
Širenje kroz više platformi
Sadržaj vezan za IBI deljen je na X-u, LinkedIn-u, Fejsbuku, Substack-u i Telegramu, uključujući i kanal na nemačkom jeziku pod imenom Lahme Ente. Mete kampanje bile su pre svega Nemačka, Sjedinjene Države, Francuska, Poljska i Turska. OpenAI navodi da su pojedinačne objave na društvenim mrežama imale skroman broj pregleda, ali da su povezani Telegram kanali imali između 10.000 i 20.000 pratilaca.
Kompanija je operaciju svrstala u treću od šest kategorija na takozvanoj Brookings Breakout Scale, skali koja meri koliko je uticajna kampanja uspela da pređe iz kruga naloga koje je pokrenuo sam akter u širu, autentičnu publiku. Prema toj oceni, IBI je uspeo da se proširi na više platformi, ali za sada bez značajnog stvarnog dometa.
Deo šireg obrasca
OpenAI je i ranije objavljivao izveštaje o zloupotrebi sopstvenih modela u uticajnim operacijama, uključujući kampanje povezane sa Kinom koje su pokušavale da se ubace u američku javnu debatu o veštačkoj inteligenciji. Kompanija tvrdi da redovno pojačava bezbednosne mere nakon incidenata koji pogađaju širu AI industriju, a nezavisne ocene poput one koju sprovodi organizacija Guidelight redovno svrstavaju OpenAI i Anthropic među kompanije sa najboljom kontrolom nad sopstvenim modelima. Slučaj International Burke Institute ipak pokazuje da alati poput OpenAI-jevog ChatGPT-a ostaju meta zloupotrebe i pored tih mera, naročito kada su napadači spremni da ulože mesece rada u izgradnju verodostojnog lažnog identiteta.
Ono što ovaj slučaj izdvaja od ranijih ruskih operacija koje je OpenAI dokumentovao od početka rata u Ukrajini jeste upravo dugotrajnost i razrađenost pripreme. Umesto brzog zatrpavanja mreža masovnim porukama, operateri su gradili prividno legitimnu instituciju tokom više meseci, sa sopstvenim sajtom, izmišljenim biografijama i regionalno prilagođenim sadržajem za pet različitih zemalja. Upravo takva strpljiva izgradnja lažnog autoriteta, tvrde istraživači bezbednosti, teže se prepoznaje automatizovanim filterima nego očigledna dezinformacija, jer se oslanja na to da će sadržaj sam po sebi delovati kao rad stvarnih analitičara.
Često postavljana pitanja
Šta je International Burke Institute?
Fiktivna organizacija koja se predstavljala kao nezavisan spoljnopolitički institut sa sedištem u Izraelu, a čiji je sadržaj većinom bio plagiran ili lažno pripisan poznatim akademicima.
Kako je OpenAI otkrio kampanju?
Kompanija je pratila klaster naloga koji je pristupao ChatGPT-u preko VPN mreža iz Rusije i generisao tekstove sa uputstvima da se sakrije jezičko poreklo sadržaja.
Koliko je bila široka kampanja?
Prema OpenAI-jevoj proceni, reč je o trećoj od šest kategorija na Brookings Breakout Scale, sa ograničenim brojem pregleda pojedinačnih objava, ali sa Telegram kanalima koji su imali do 20.000 pratilaca.
Da li su nalozi i dalje aktivni?
Ne, OpenAI je saopštio da je klaster naloga povezan sa ovom operacijom ugašen.
Da li je ChatGPT jedini AI alat zloupotrebljen na ovaj način?
Ne, OpenAI je u ranijim izveštajima dokumentovao i druge slučajeve zloupotrebe svojih modela u uticajnim operacijama, uključujući kampanje povezane sa Kinom.
