Google DeepMind pokreće institut za raspravu o AGI-ju

Google i Google DeepMind pokrenuli su u sredu, 16. septembra, DeepMind Institute, platformu za istraživanje i javnu raspravu o veštačkoj opštoj inteligenciji (AGI). Prema pisanju TechCrunch-a i The Next Web-a, institut vode tri direktora: Šejn Leg, suosnivač DeepMind-a i glavni naučnik za AGI, Demis Hasabis, predsedavajući DeepMind-a, i Džejms Manjika, koji u Guglu rukovodi istraživanjem, laboratorijama, tehnologijom i društvom. Leg je i glavni urednik instituta.

Cilj je, kako navode osnivači, da se na jednom mestu iznesu različita gledišta unutar Gugla, DeepMind-a i šire istraživačke zajednice. Direktori upozoravaju da se autori neće uvek slagati i da će verovatno menjati mišljenje kako budu stizali novi podaci. Institut je predstavljen kao odgovor na trenutak u kojem, prema njihovoj oceni, treba obezbediti da se AGI gradi bezbedno, a da njegove društvene koristi nadmaše rizike.

Četiri uvodna eseja

Institut je započeo radom sa četiri teksta. Prvi, „The case for reasoning transparency“, potpisuju Rohin Šah i Anka Dragan. Autori tvrde da opadanje transparentnosti modela nije neizbežno i predlažu ograničenja takozvane neprozirne serijske dubine, kako bi rezonovanje sistema ostalo čitljivo i podložno nadzoru.

Drugi esej, „Economic policy for AGI“, delo je Džulijana Džejkobsa i Aleksa Imasa. Oni su ocenili 11 mera ekonomske politike u tri scenarija poremećaja na tržištu rada. Univerzalni osnovni dohodak opisali su kao skupo i grubo sredstvo, a kao odgovore sa najmanje žaljenja izdvojili su proširenje osiguranja za slučaj nezaposlenosti, negativni porez na dohodak i univerzalni kapital. Prema podacima koje prenosi The Next Web, prekvalifikaciju podržava 85 odsto ispitanika, osiguranje za nezaposlene 72 odsto, a univerzalni kapital 54 odsto.

Treći tekst, „Principles for a new utopianism“, napisao je Stiven Kejv i bavi se principima ljudskog prosperiteta u svetu naprednih AI sistema. Četvrti, „A framework for frontier AI and the dawning of a new age“, potpisuje sâm Hasabis.

Hasabisov predlog spoljne provere modela

Najkonkretniji predlog dolazi upravo iz Hasabisovog teksta. On predlaže telo pod vođstvom Sjedinjenih Država kojem bi razvojni timovi dobrovoljno podnosili modele na proveru pre objavljivanja, uz mogućnost da usklađenost kasnije postane obavezna. Sličnu ideju, telo po uzoru na finansijski nadzor, izneo je u julskom eseju, o kojem je Agenti.rs pisao kada je postalo poznato da OpenAI, Anthropic i Google razgovaraju o zajedničkim standardima. Isti krug pitanja otvorila je i najava da će Anthropic i OpenAI uvesti nezavisne procenjivače bezbednosti.

Pozadina: rasprava o usporavanju

Institut je pokrenut nekoliko dana posle eseja u kojem je Dario Amodei pozvao kompanije da uspore razvoj najmoćnijih modela. Leg je za Financial Times ocenio da je taj poziv u načelu zanimljiv i vredan razmatranja, pri čemu je reč o usporavanju, a ne o zaustavljanju. Istovremeno je osporio tvrdnje da je AGI već stigao i ostao pri sopstvenoj proceni od 50 odsto verovatnoće da će „minimalni“ AGI postojati do 2028. godine.

Institut dolazi posle promene u rukovodstvu DeepMind-a. Hasabis je u avgustu, kako je Agenti.rs javio, prešao sa mesta izvršnog direktora na mesto predsedavajućeg, uz obrazloženje da mu je potrebno više vremena za pitanja koja se tiču opšte veštačke inteligencije i njenih posledica po društvo.

Politički okvir za takve predloge ostaje neizvestan, jer je predsednik Tramp već odbacio Amodejev poziv na usporavanje AI trke. Tekstovi instituta zato za sada predstavljaju stavove autora, a ne dogovor industrije ili države.

Nije navedeno kako će se institut finansirati, ko će ocenjivati tekstove niti kojom dinamikom će objavljivati nove. Ostaje otvoreno i da li će stavovi koji budu izneti, uključujući one koji odstupaju od zvanične linije kompanije, uticati na njene proizvode i politike.