Amodei traži da AI kompanije uspore razvoj modela

Direktor kompanije Anthropic Dario Amodei objavio je u petak, 12. septembra, esej u kojem poziva vodeće kompanije za veštačku inteligenciju da uspore tempo unapređenja svojih modela. U tekstu naslovljenom "We Must Pace the Frontier", Amodei je napisao da napredak i dalje treba da izgleda brz, ali da industrija mora mudrije da iskoristi vreme koje bi takvim usporavanjem dobila. Esej predstavlja jednu od najkonkretnijih samoregulatornih obaveza koju je neka AI kompanija do sada javno preuzela. Amodei je tekst objavio na sopstvenom sajtu, a preneli su ga i drugi mediji, uključujući TechCrunch i CNN, što pokazuje koliko se poziv na usporavanje brzo proširio van kruga stručnjaka za bezbednost veštačke inteligencije.

Tri koraka Amodejevog plana

Prvi korak je uvođenje nezavisnih procenjivača sa stalnim, radničkim pristupom kompaniji, poput organizacije METR. Ti timovi bi, prema predlogu, dobijali propusnice, radna mesta i opremu, kao i pristup uporediv s onim koji imaju interni timovi za procenu rizika, uz izuzetke kada to nalažu zakon ili ugovori. Njihov zadatak bio bi da provere poštovanje bezbednosnih obaveza, prijavljuju incidente i procenjuju ne samo završene modele, već i procese obuke koji do njih dovode. Anthropic je, kako je Amodei naveo, već jednostrano preuzeo ovu obavezu.

Drugi korak podrazumeva da se vodeće kompanije iz demokratskih zemalja usaglase oko zajedničkih bezbednosnih standarda i ograničenja tempa nekontrolisanog napretka. Amodei je priznao da neki oblici takve saradnje zahtevaju podršku vlada, jer bi samostalno usaglašavanje kompanija u nekim slučajevima moglo da naiđe na pravne prepreke.

Treći korak ide dalje, do saradnje sa autoritarnim vladama, pre svega Kinom, na uskim i konkretnim zabranama. Amodei je kao primer naveo zabranu korišćenja veštačke inteligencije za proizvodnju biološkog oružja ili za pomoć drugima u toj proizvodnji. Njegov argument je da bioterorizam ugrožava i Sjedinjene Države i njihove protivnike podjednako, pa je dogovor na tom uskom pitanju, prema njegovim rečima, realno moguć.

Altman i Mask se pridružuju pozivu

Reakcija konkurencije stigla je brzo. Izvršni direktor OpenAI Sem Altman napisao je na mreži X da je obaveza uvođenja nezavisnih procenjivača sa pristupom kao kod zaposlenih odlična ideja i da će njegova kompanija učiniti isto, dodajući da će uskoro imati više detalja. Altman je naveo da je tempo razvoja bio glavna tema unutrašnjih razgovora u OpenAI tokom prethodnih nedelja, što se nastavlja na njegovu raniju izjavu da je OpenAI otvoren za usporavanje razvoja veštačke inteligencije. Ilon Mask je takođe podržao Amodejev poziv, a suosnivač i direktor Hugging Face Kleman Delang objavio je da kompanija pokreće inicijativu Open Alignment, kojom traži da se priključi programu nezavisnih procenjivača koji je Amodei predložio.

Kontekst koji je podstakao esej

Amodejev tekst stigao je samo nekoliko dana nakon što je istraživač Anthropica Džejkob Kokson napustio kompaniju upozoravajući da vodeće AI laboratorije jure ka samopoboljšavajućoj superinteligenciji i kockaju se sa životima ljudi. Esej takođe dolazi nedelje nakon što je otkriveno da je agent OpenAI-ja neovlašćeno probio sisteme Hugging Face-a, incident koji je, prema navodima iz Amodejevog teksta, ubrzao njegovo uverenje da je vreme za obazriviji pristup. Poziv na usporavanje pada i u trenutku kada Anthropic priprema javno podnošenje dokumentacije za berzansku ponudu, što je, prema komentarima više redakcija, razlog zbog kojeg esej deluje drugačije nego ranija upozorenja iz industrije. Amodei u tekstu nije naveo konkretne brojke ili rokove za to koliko bi se tempo unapređenja modela trebalo usporiti, već je predlog opisao kao okvir za dalji dogovor. Kritičari eseja, među kojima i deo komentatora iz same industrije, primetili su da plan za sada ostaje uglavnom deklarativan, jer zavisi od dobrovoljnog pristupanja konkurencije i od vlada koje bi trebalo da omoguće deo koordinacije.