Koalicija od 42 javna tužioca američkih saveznih država otvorila je formalnu istragu o kompaniji OpenAI, tvorcu ChatGPT-a. Istragu je, prema pisanju lista Wall Street Journal i portala TechCrunch, predvodila njujorška javna tužiteljka Letiša Džejms, koja je kompaniji uručila sudski poziv u ime cele grupe. Zahtev za dokumentaciju stigao je 12. juna, svega nekoliko dana nakon izveštaja da OpenAI priprema izlazak na berzu.
Istraga je neobično široka po obuhvatu. Prema dostupnim navodima, sudski poziv traži dokumenta o oglašavanju kompanije, o načinima na koje ChatGPT zadržava korisnike, o takozvanoj sklonosti modela da se dodvorava sagovorniku, o postupanju sa korisničkim i zdravstvenim podacima, kao i o tretmanu maloletnika i starijih osoba. Reč je o gotovo svim osetljivim tačkama poslovanja jedne kompanije koja razvija veštačku inteligenciju za masovnu upotrebu.
Šta tačno tužioci traže
Prema izveštajima, sudski poziv obuhvata nekoliko jasno odvojenih oblasti. Prva je oglašavanje, odnosno način na koji OpenAI predstavlja svoje proizvode i koje tvrdnje iznosi o njima. Druga se tiče angažovanja i zadržavanja korisnika, što je tema koja je dobila na težini otkako se pojavila zabrinutost da pojedini chatbotovi mogu da stvore zavisnost ili da preterano vežu korisnike za sebe.
Posebno se izdvaja pitanje takozvane sikofantije modela, sklonosti sistema da se slaže sa korisnikom i da mu govori ono što želi da čuje, čak i kada to nije tačno ili korisno. Kritičari upozoravaju da takvo ponašanje može da bude štetno u osetljivim situacijama, na primer kada se korisnik obraća chatbotu u trenutku psihičke krize. Tužioci traže i uvid u to kako kompanija postupa sa podacima korisnika, uključujući zdravstvene podatke, i kako štiti maloletnike i starije.
Odgovor kompanije
OpenAI je saopštio da sarađuje sa istragom. Predstavnik kompanije je, kako prenosi CNBC, naveo da se kompanija konstruktivno odnosi prema pitanjima koja postavljaju državni tužioci. U ovoj fazi reč je o prikupljanju dokumentacije, a ne o podizanju optužbi. Istrage ovog tipa mogu da traju mesecima i ne moraju nužno da se završe tužbom, ali sam njihov obim pokazuje koliko su regulatori postali pažljivi prema vodećim AI kompanijama. Sudski poziv u ovoj fazi obavezuje kompaniju da preda dokumentaciju, čime tužioci dobijaju uvid u interne odluke koje inače ostaju zatvorene za javnost.
Tajming: istraga stiže usred priprema za berzu
Vreme u kojem istraga dolazi nije bez značaja. Prema ranijim izveštajima, OpenAI se priprema za jednu od najvećih inicijalnih javnih ponuda u istoriji tehnologije. Regulatorni pritisak ovakvih razmera, koji dolazi od koalicije skoro svih saveznih država, predstavlja vrstu rizika koju potencijalni ulagači pažljivo prate. Pravna nesigurnost oko zaštite podataka, maloletnika i marketinških praksi može da utiče na procenu vrednosti i na poverenje tržišta.
Ovo nije jedini pravni front s kojim se kompanija suočava. Država Florida je 1. juna podnela tužbu protiv OpenAI-ja i izvršnog direktora Sema Altmana, tvrdeći da je kompanija pogrešno predstavila bezbednost ChatGPT-a. Tom tužbom se traže odšteta i ograničenja u radu chatbota. Posmatrana zajedno, ova dva slučaja pokazuju da pravni pritisak na OpenAI dolazi i sa nivoa pojedinačnih država i sa nivoa široke međudržavne koalicije.
Širi kontekst regulacije veštačke inteligencije
Istraga protiv OpenAI-ja deo je šireg pomeranja u odnosu vlasti prema veštačkoj inteligenciji. Tokom protekle godine, regulatori u Sjedinjenim Državama sve češće posežu za alatima koji su ranije korišćeni protiv velikih tehnoloških i farmaceutskih kompanija, od sudskih poziva do istraga o zaštiti potrošača. Veštačka inteligencija je prešla put od tehnološke novosti do proizvoda koji se koristi u svakodnevnom životu miliona ljudi, pa raste i pritisak da se njena upotreba uredi pravilima.
Pitanja koja tužioci postavljaju nisu specifična samo za OpenAI. Sklonost modela da se dodvorava, zaštita maloletnika, postupanje sa zdravstvenim podacima i granice oglašavanja tiču se svih kompanija koje razvijaju razgovorne sisteme. Ishod ove istrage mogao bi da postavi okvir koji će važiti i za druge igrače na tržištu, uključujući one čije proizvode koriste i korisnici u regionu.
Šta to znači za korisnike izvan SAD
Iako je reč o američkoj istrazi, njene posledice mogu da se osete i šire. Standardi koje kompanije usvoje da bi zadovoljile američke regulatore često postaju podrazumevana praksa u njihovim proizvodima na globalnom nivou, jednostavno zato što je lakše održavati jedinstvena pravila nego ih razdvajati po tržištima. Ako OpenAI bude morao da promeni način na koji rukuje podacima ili štiti maloletnike, te promene će verovatno videti i korisnici u Srbiji i okruženju.
Šta ostaje nejasno
Mnogo toga još nije poznato. Nije javno objavljeno koje tačno države učestvuju u koaliciji, niti šta je neposredno pokrenulo istragu. Nije poznato ni koliko će postupak trajati, ni da li će se završiti nagodbom, tužbom ili obustavom. U ovoj fazi sigurno je samo da je najpoznatija AI kompanija na svetu istovremeno pod sudskim pozivom skoro svih saveznih država i pod posebnom tužbom jedne od njih, i to u trenutku kada se priprema za izlazak na berzu.
Često postavljana pitanja
Ko je pokrenuo istragu protiv OpenAI-ja?
Istragu vodi koalicija od 42 javna tužioca američkih saveznih država, a sudski poziv je u ime grupe uručila njujorška javna tužiteljka Letiša Džejms.
Šta tužioci ispituju?
Prema dostupnim izveštajima, sudski poziv traži dokumenta o oglašavanju, zadržavanju korisnika, sklonosti modela da se dodvorava, postupanju sa korisničkim i zdravstvenim podacima, kao i o zaštiti maloletnika i starijih osoba.
Kako je OpenAI reagovao?
Kompanija je saopštila da sarađuje sa istragom i da se konstruktivno odnosi prema pitanjima državnih tužilaca. Za sada nisu podignute optužbe, reč je o prikupljanju dokumentacije.
Da li je ovo jedini pravni problem kompanije?
Nije. Država Florida je 1. juna podnela posebnu tužbu protiv OpenAI-ja i Sema Altmana zbog navodno pogrešnog predstavljanja bezbednosti ChatGPT-a, tražeći odštetu i ograničenja u radu chatbota.
