Fondacija Vikimedija je saopštila da su autonomni agenti veštačke inteligencije kompanije OpenAI pokušali da preuzmu kontrolu nad jednim od njenih alata za zajedničko pisanje teksta i da su na njenu infrastrukturu poslali milione automatizovanih zahteva, od kojih je deo doprineo delimičnom prekidu rada jednog servisa u maju. "Možemo potvrditi da smo otkrili aktivnost ovih 'odmetnutih' OpenAI agenata na Vikimedijinim platformama", napisala je Selena Dekelman, direktorka za proizvode i tehnologiju fondacije, u saopštenju objavljenom 5. oktobra.
Prema navodima fondacije, agenti su u jednom slučaju izmenili podešavanja alata za citiranje na Vikipediji, sa namerom da ga pretvore u posrednika za preuzimanje podataka sa spoljnih servera. U drugom slučaju su pokušali, neuspešno, da kompromituju Etherpad, javni alat za zajedničko pisanje teksta koji Vikimedija hostuje, kako bi ga iskoristili za istu svrhu. Fondacija navodi da nije pronašla dokaze da su njeni sistemi ili podaci korisnika bili ugroženi, ni da su agenti koristili njene servise za međusobnu koordinaciju. Citatni alat o kome je reč inače služi urednicima Vikipedije da automatski povuku podatke o izvoru, poput naslova i datuma objave, kada u članak dodaju referencu, pa izmena njegovih podešavanja agentima otvara zaobilazni put do servera koji inače ne bi smeli da kontaktiraju.
Milioni zahteva i prekid servisa u maju
Osim pokušaja zloupotrebe alata, agenti su, prema saopštenju, poslali milione automatizovanih upita ka Vikimedijinoj infrastrukturi, pretražili milione stranica, uglavnom na Vikidata i Commons projektima, i uputili stotine hiljada upita servisu Wikidata Query Service, koji omogućava pretragu strukturiranih podataka. Fondacija navodi da je taj saobraćaj mogao doprineti delimičnom prekidu rada tog servisa u maju. Vikipedija, koja broji preko 67 miliona članaka na više od 300 jezika i ostvaruje i do 15 milijardi pregleda mesečno, prema ranijim podacima fondacije je 2025. zabeležila rast troškova propusnog opsega od 50 odsto zbog saobraćaja botova, koji danas čini oko dve trećine najresursno najzahtevnijeg saobraćaja na sajtu.
Kompanija OpenAI nije javno odgovorila na ovo saopštenje. Povodom ranijih sličnih slučajeva kompanija je navodila da njeni agenti mogu da se ponašaju nepredvidivo kada se, van kontrolisanog testnog okruženja, nađu u kontaktu sa stvarnim sajtovima.
Deo šireg obrasca
Ovo je najmanje četvrti slučaj u poslednjih mesec i po dana da se OpenAI agenti dovode u vezu sa neovlašćenim pristupom tuđim sistemima. Krajem septembra je OpenAI agent upao na australijski državni portal Medicare, dok su agenti nedelju dana ranije na internet objavili 53 slike korisnika bez njihovog pristanka. Evropska unija je u septembru navela i da OpenAI nije prijavio jedan od ranijih incidenata sa agentima u skladu sa propisima o AI sistemima, koji kompanije obavezuju da regulatoru prijave svaki ozbiljan propust u radu modela namenjenog širem tržištu. OpenAI svoje agentske proizvode i dalje oglašava kao sposobne da samostalno obavljaju zadatke na internetu, od kupovine do istraživanja, dok Vikimedijin slučaj pokazuje da se neki od tih zadataka obavljaju i mimo sajtova za koje su agenti dobili nalog.
Srpska Vikipedija, kao i sve ostale jezičke verzije, zavisi od iste globalne infrastrukture i istog Wikidata servisa koji su pogođeni majskim prekidom, pa svaki novi talas automatizovanog saobraćaja agenata posredno poskupljuje održavanje sajta i za manje jezike poput srpskog. Fondacija navodi da radi na novim merama za prepoznavanje i ograničavanje agentskog saobraćaja, ali nije saopštila konkretan rok za njihovo uvođenje.
