Kompanija Anthropic, tvorac čet-bota Kloda, saopštila je 9. jula da otvara javni poziv građanima da pošalju svoja najteža pitanja o tome kako veštačka inteligencija menja svet. Umesto klasične najave novog modela ili proizvoda, kompanija je ovoga puta u prvi plan stavila društvene posledice tehnologije koju sama razvija, uz obećanje da će javno pratiti i objavljivati konkretne korake koje preduzima kao odgovor na ta pitanja.
Poziv je objavljen na posebnoj stranici na adresi claude.com/hard-questions, gde posetioci mogu da pročitaju pitanja drugih i ostave svoja. Prema navodima kompanije, reč je o pokušaju da se razgovor o riziku i koristi od veštačke inteligencije izmesti iz zatvorenih istraživačkih laboratorija u širu javnost.
Šta tačno kompanija traži
Anthropic je naveo tri grupe pitanja koja ga posebno zanimaju. Prva se tiče uticaja veštačke inteligencije na radna mesta, porodice i društvo u celini. Druga se odnosi na to kako iskoristiti potencijal tehnologije u nauci i medicini. Treća je najšira i dotiče se pravca u kojem bi jedna od najmoćnijih tehnologija u istoriji mogla da odvede čovečanstvo.
Za razliku od uobičajenih anketa, kompanija je poziv uokvirila kao obavezu. Kako je saopštila, na pristigla pitanja neće odgovarati samo rečima, već će javno beležiti koje je konkretne poteze povukla povodom svakog od otvorenih problema. Nadzor nad tim procesom, prema navodima Anthropica, ostaje u rukama tela pod nazivom Long-Term Benefit Trust, koje ima zadatak da čuva javnu misiju kompanije nezavisno od komercijalnih interesa.
Na čemu se poziv zasniva
Kampanja se oslanja na obiman istraživački rad koji je prethodio objavi. Anthropic tvrdi da je u okviru projekta pod nazivom Anthropic Public Record anketirao 52.000 Amerikanaca o njihovim nadama i strahovima vezanim za veštačku inteligenciju. Odvojeno je, kroz alat nazvan Anthropic Interviewer, ispitao 81.000 korisnika Kloda u 159 zemalja i na 70 jezika. Uz to, kompanija navodi da je održala više fokus grupa uživo sa zajednicama na koje tehnologija utiče i da je analizirala anonimizovane podatke o stvarnoj upotrebi svojih alata.
Ti brojevi kompaniji služe kao osnova za tvrdnju da javni poziv nije marketinški potez, već nastavak već započetog rada. Nezavisna provera tih nalaza za sada nije dostupna, pa se navodi o obimu istraživanja oslanjaju na saopštenja same kompanije.
Institut iza kampanje
Poziv sprovodi Anthropic Institute, istraživačko telo unutar kompanije čiji je zadatak da se bavi najozbiljnijim izazovima koje moćna veštačka inteligencija postavlja pred društvo. Na čelu instituta je Džek Klark, suosnivač Anthropica, koji je preuzeo novu ulogu šefa za javnu dobrobit.
Institut objedinjuje tri ranije razdvojena tima. Prvi je Frontier Red Team, koji sistematski testira granice i slabosti naprednih modela. Drugi je tim za društveni uticaj, koji prati kako se veštačka inteligencija koristi u stvarnom svetu. Treći je tim za ekonomska istraživanja, zadužen za praćenje posledica po tržište rada i privredu. U institutu, prema navodima kompanije, rade inženjeri mašinskog učenja, ekonomisti i društveni naučnici.
Među osnivačkim imenima kompanija navodi Meta Botvinika, koji vodi rad na odnosu veštačke inteligencije i vladavine prava, Antona Korineka, koji usmerava ekonomska istraživanja o transformativnoj veštačkoj inteligenciji, i Zoi Hicig, ranije u OpenAI, čiji je fokus veza između ekonomije i obuke modela.
Zašto baš sada
Poziv stiže u trenutku kada javna rasprava o posledicama veštačke inteligencije na zaposlenost postaje sve oštrija. Izvršni direktor Anthropica Dario Amodei više puta je upozorio da bi razvoj tehnologije mogao da izazove, kako je rekao, neuobičajeno bolan kratkoročni šok na tržištu rada, i da bi promene mogle da budu šire i brže od onih koje su donosile ranije tehnološke smene.
Amodei je tokom prethodnih meseci menjao ton, od izrazito mračnih prognoza o gubitku kancelarijskih poslova do umerenijih ocena u kojima se poziva na istorijske primere u kojima je automatizacija na kraju otvarala nova zanimanja. Javni poziv da se postave najteža pitanja može se čitati i kao pokušaj kompanije da se predstavi kao akter koji o tim rizicima govori otvoreno, u trenutku kada regulatori i deo javnosti od velikih razvijača traže veću odgovornost.
Konkurencija se kreće u drugom smeru. Rivali poput OpenAI i Gugla poslednjih nedelja objavljuju nove modele i agente usmerene na produktivnost i poslovnu primenu. Anthropic ovom kampanjom skreće pažnju na pitanja koja se ne mere brzinom modela ni cenom tokena, već dugoročnim posledicama po društvo.
Skepsa i otvorena pitanja
Poziv je izazvao podeljene reakcije. Deo posmatrača vidi ga kao iskren pokušaj da se u oblikovanje tehnologije uključi šira javnost, a ne samo inženjeri i investitori. Drugi upozoravaju da kompanija koja istovremeno gradi i prodaje te modele teško može da bude neutralni arbitar u raspravi o njihovim rizicima, te da javni poziv nosi i element upravljanja reputacijom.
Ostaje i praktično pitanje kako će Anthropic meriti da je zaista odgovorio na neko pitanje. Kompanija je najavila da će izveštavati o konkretnim koracima, ali nije precizirala po kojim merilima će se ocenjivati da je problem rešen ili bar ublažen. Vrednost cele inicijative zavisiće od toga da li će objavljeni odgovori biti proverljivi i da li će nezavisni istraživači dobiti pristup podacima na koje se kompanija poziva.
Za sada je jasno jedino da je jedan od vodećih razvijača veštačke inteligencije odlučio da deo javne pažnje usmeri sa mogućnosti svojih modela na njihove posledice. Da li će taj potez ostati simboličan ili prerasti u trajan mehanizam odgovornosti, pokazaće izveštaji koje je kompanija obećala da objavljuje u narednim mesecima.
Često postavljana pitanja
Šta je kampanja koju je Anthropic pokrenuo
Reč je o javnom pozivu, objavljenom 9. jula, da građani pošalju svoja najteža pitanja o uticaju veštačke inteligencije na posao, društvo, nauku i medicinu. Kompanija je obećala da će javno pratiti i objavljivati korake koje preduzima povodom tih pitanja.
Ko sprovodi inicijativu
Inicijativu vodi Anthropic Institute, istraživačko telo unutar kompanije na čijem je čelu suosnivač Džek Klark. Institut objedinjuje timove za testiranje modela, društveni uticaj i ekonomska istraživanja.
Na kojim podacima se poziv zasniva
Anthropic navodi da je anketirao 52.000 Amerikanaca i ispitao 81.000 korisnika Kloda u 159 zemalja na 70 jezika, uz fokus grupe i analizu anonimizovanih podataka o upotrebi. Ti nalazi za sada nisu nezavisno provereni.
Kako se može učestvovati
Pitanja se ostavljaju na posebnoj stranici na adresi claude.com/hard-questions, gde je moguće i pročitati pitanja koja su postavili drugi korisnici.
