OpenAI je 3. avgusta saopštio da je ugasio koordinisanu mrežu naloga ChatGPT koja je, prema navodima kompanije, poslovala iz kambodžanske provincije Preah Sihanouk i bila povezana sa organizovanim kriminalnim grupama u gradu Poipetu. Kompanija navodi da su nalozi korišćeni za paralelno vođenje investicionih, romantičnih, kockarskih prevara i prevara u kojima su počinioci lažno predstavljali predstavnike zakona.
Istraga je, prema saopštenju OpenAI, pokrenuta nakon dojave dobijene od kompanije WhatsApp, posle čega je OpenAI dodatne indikatore pretnje podelio sa partnerima u industriji i nadležnim organima.
Kako je mreža radila
Prema opisu OpenAI, operateri su gradili poverenje kroz lažne romantične identitete, a zatim žrtve usmeravali ka lažnim ulaganjima u kriptovalute i zlato. Za tu svrhu je, kako navodi kompanija, ChatGPT korišćen za kreiranje lažnog interfejsa za trgovanje kriptovalutama i falsifikovanih potvrda o kupovini akcija.
OpenAI opisuje obrazac delovanja u tri faze, koje unutar mreže nazivaju "ping", "zing" i "sting": prvi kontakt sa žrtvom, izazivanje emocionalne vezanosti i, na kraju, izvlačenje novca. Chatbot je, prema navodima kompanije, korišćen i za prevođenje poruka na više jezika, izradu promotivnog sadržaja za društvene mreže i za administrativne zadatke unutar same organizacije, uključujući internu komunikaciju i dokumentaciju za regrutovanje novih ljudi.
Komunikacija sa žrtvama najčešće se odvijala preko aplikacija WhatsApp i Telegram.
Razmere prevare nisu potpuno utvrđene
OpenAI navodi da je mreža verovatno komunicirala sa nekoliko stotina potencijalnih žrtava kroz različite vrste prevara. U razgovorima unutar mreže pominju se pojedinačni gubici žrtava od nekoliko hiljada dolara, ali kompanija naglašava da te navode nije mogla nezavisno da potvrdi.
Sumnja na trgovinu ljudima
Tokom istrage OpenAI je pronašao tragove koji, prema navodima kompanije, ukazuju na moguće krijumčarenje i prinudni rad unutar same organizacije. Deo naloga korišćen je za izradu oglasa kojima su u Poipet regrutovani takozvani "čateri", uz obećanja besplatnog prevoza, smeštaja, hrane i pomoći oko vize. U internoj komunikaciji mreže, kako navodi kompanija, pojavljuju se i pominjanja zadržavanja ljudi i pokušaja bekstva, što je u skladu sa obrascima koje istražitelji obično povezuju sa trgovinom ljudima.
Jugoistočna Azija je poslednjih godina prepoznata kao centar takozvanih "skam kompaunda", organizovanih kriminalnih operacija u kojima se ljudi, često namamljeni lažnim oglasima za posao, prisiljavaju da rade kao operateri onlajn prevara. Ujedinjene nacije i više nevladinih organizacija ranije su upozoravali da broj takvih slučajeva u regionu raste, a upotreba generativne veštačke inteligencije, prema oceni bezbednosnih istraživača, dodatno olakšava ovu vrstu kriminala jer smanjuje potrebu za jezičkim i tehničkim znanjem počinilaca.
Razmere regionalnog problema
Kancelarija Ujedinjenih nacija za ljudska prava u izveštaju objavljenom u februaru 2026. godine procenila je da je u kompaundima za onlajn prevare širom Jugoistočne Azije zadržano najmanje 300.000 ljudi iz 66 zemalja, a da je ukupan godišnji prihod ove kriminalne industrije samo u regionu reke Mekong veći od 43 milijarde dolara. Prema tom izveštaju, žrtve su često namamljene lažnim oglasima za legitiman posao, a potom zadržavane u kompaundima gde su prisiljavane da rade kao operateri prevara, uz svedočenja o fizičkom zlostavljanju i uskraćivanju slobode kretanja. Slučaj koji je opisao OpenAI, prema navodima same kompanije, uklapa se u taj širi obrazac, iako obim regrutovanja u konkretnoj mreži u Poipetu nije precizno utvrđen.
Deo šireg obrasca zloupotrebe
OpenAI je ranije ove godine objavio da je otkrio i onemogućio više od deset zlonamernih kampanja koje su koristile njegove alate, od državno sponzorisanih operacija do kriminalnih mreža usmerenih na finansijsku dobit. Kompanija ovakve izveštaje redovno objavljuje kao deo napora da pokaže kako prati zloupotrebu sopstvenih modela, iako bezbednosni analitičari upozoravaju da otkriveni slučajevi verovatno predstavljaju samo deo stvarnog obima zloupotrebe, s obzirom na to da kriminalne grupe paralelno koriste i druge dostupne alate.
Slučaj takođe ilustruje dvostruku ulogu kompanija poput OpenAI u ovoj vrsti istraga. One su, s jedne strane, tvorci alata koje kriminalci zloupotrebljavaju, a s druge, zbog uvida u obrasce korišćenja sopstvenih platformi, često među prvima koji takve mreže otkrivaju i prijavljuju.
OpenAI nije jedina kompanija koja se suočava sa ovim problemom. Meta je ranije upozoravala da se njeni chatbotovi i oglasni sistemi zloupotrebljavaju za slične investicione i romantične prevare, dok su istraživači bezbednosti primetili da se generativni AI alati sve češće koriste za automatizaciju koraka koji su nekada zahtevali veće timove ljudi, od pisanja ubedljivih poruka na stranim jezicima do izrade lažnih dokumenata i veb sajtova. Regulatori u Sjedinjenim Državama i Evropskoj uniji poslednjih meseci najavljuju stroža pravila o obeležavanju sadržaja generisanog veštačkom inteligencijom, delom i kao odgovor na porast ovakvih prevara, iako primena tih pravila u praksi tek predstoji.
Odgovor kompanije i dalji koraci
OpenAI navodi da je nakon otkrivanja mreže sve povezane naloge trajno zabranio i da nastavlja da razvija sisteme za automatsko prepoznavanje obrazaca ponašanja karakterističnih za ovakve prevare, uključujući masovno generisanje poruka na više jezika i ponavljajuće scenarije lažnog predstavljanja. Kompanija je saopštila i da će nastaviti saradnju sa platformama poput WhatsApp, kao i sa nadležnim organima, na razmeni podataka o novim pretnjama. Da li će i koliko takve mere smanjiti obim zloupotrebe generativnih AI alata u ovoj vrsti kriminala, za sada nije moguće proceniti, s obzirom na to da mreže poput one u Poipetu po pravilu prelaze na nove naloge i platforme čim su otkrivene.
Često postavljana pitanja
Šta je tačno OpenAI otkrio?
Mrežu naloga ChatGPT koja je, prema navodima kompanije, poslovala iz Kambodže i korišćena za romantične, investicione i kockarske prevare, kao i za prevare lažnim predstavljanjem predstavnika zakona.
Koliko je ljudi oštećeno?
OpenAI navodi da je mreža verovatno komunicirala sa nekoliko stotina potencijalnih žrtava, ali tačan broj oštećenih i ukupna finansijska šteta nisu nezavisno potvrđeni.
Da li postoji veza sa trgovinom ljudima?
OpenAI navodi da je pronašao indicije o mogućem prinudnom radu i regrutovanju ljudi unutar mreže, što je u skladu sa ranije dokumentovanim obrascima rada takozvanih skam kompaunda u jugoistočnoj Aziji.
Kako je OpenAI otkrio mrežu?
Istraga je pokrenuta nakon dojave kompanije WhatsApp, a OpenAI je potom podatke o pretnji podelio sa partnerima u industriji i nadležnim organima.
