"Korišćenje AI da bi se izgradila sposobnija AI takođe bi moglo da predstavlja značajan bezbednosni rizik", piše Anthropic u izmenjenom prospektu za izlazak na berzu, objavljenom u ponedeljak. U istom dokumentu kompanija priznaje da njene interne procene za buduće modele pokazuju da bi uskoro mogla da ispuni sopstvenu definiciju praga za RSI, skraćeno od rekurzivnog samopoboljšanja, tačke u kojoj AI postane toliko dobar u treniranju samog sebe da to izazove nagli skok u sposobnostima.
Prospekt, poznat kao S-1/A, prvi put je privukao pažnju zbog finansijskih podataka: Anthropic je u njemu prijavio rast prihoda od 45 odsto pred izlazak na Nasdaq, uz rastuće troškove za računarsku infrastrukturu. Sitnija slova istog dokumenta otkrivaju drugačiju vrstu priznanja, onu koja nema veze sa novcem nego sa kontrolom nad sopstvenim proizvodom.
Pojam RSI u poslednjih godinu dana koriste i zagovornici i kritičari veštačke inteligencije, ali sa suprotnim predznakom. Za kritičare, to je tačka posle koje AI može da izmakne ljudskoj kontroli i nastavi da ostvaruje sopstvene ciljeve bez obzira na posledice. Za zagovornike, isti fenomen, nazvan i pouzdano samousavršavanje AI, predstavlja izvor ogromnog rasta produktivnosti i naučnih otkrića. Anthropic u prospektu opisuje RSI kao oboje odjednom, i priliku i opasnost, i dodaje da već koristi AI u sopstvenom istraživanju i razvoju.
Priznanje da ne prepoznaje uvek sopstveni napredak na vreme
Novi deo prospekta posvećen faktorima rizika sadrži i priznanje da je Anthropic u prošlosti već koristio AI za razvoj novih modela čiji skok u sposobnostima nije prepoznao u trenutku kada se desio. Kompanija dodaje da možda neće prepoznati značajno ubrzanje sopstvenog tempa razvoja sve dok se ono već ne dogodi. Anthropic naglašava da nijedan postojeći model do sada nije označen kao da prelazi taj prag i da i dalje procenjuje dostupne podatke, ali da procene i očekivanja za buduće modele, ne za sadašnje, pokazuju da bi kompanija "uskoro mogla da ispuni" definiciju iz sopstvene Politike odgovornog skaliranja za "dramatično ubrzan napredak koji se pripisuje AI".
Ta politika, poznata kao RSP, propisuje kako Anthropic prati i ublažava rizike dok se približava pragu koji sam naziva rekurzivnim samopoboljšanjem. Kompanija u prospektu navodi da ne očekuje da će Claude moći bezbedno da samostalno projektuje i gradi naredne generacije vrhunskih modela bez smislenog ljudskog nadzora i razumevanja, i da razmatra izmene RSP politike koje bi zadržale ljude u kontroli nad razvojem budućih modela.
Zašto se ovo pojavljuje baš sada
Anthropic nedavno gura u suprotnom smeru po pitanju kontrole: isti prospekt, prema ranijem izveštaju, pokazuje da osnivači zadržavaju odlučujuću reč u kompaniji i posle izlaska na berzu. Priznanje o RSI dolazi u trenutku kada investitori procenjuju koliko dugo Anthropic može da opravda sopstvenu procenu vrednosti, a regulatori u Evropskoj uniji i drugde već postavljaju pravila za modele sa najvećim rizikom, slična onima koja smo opisali u tekstu o obavezama firmi prema EU AI Act. Skeptici mogu da primete da je prospekt za izlazak na berzu istovremeno i obavezujuće pravno obaveštenje i marketinški dokument, pa da izjava o blizini RSI može da služi i jednoj i drugoj svrsi.
Za firme u Srbiji koje Claude već koriste preko API-ja ili ugrađenog u alate za automatizaciju, ovo pre svega znači da sam proizvođač javno priznaje da ne može uvek unapred da predvidi sledeći skok u sposobnostima sopstvenog modela. Promene politike korišćenja ili dostupnosti pojedinih funkcija tako mogu da stignu bez najave, pa vredi pratiti zvanična obaveštenja Anthropica, a ne samo verzije modela.
Anthropic nije naveo kada bi eventualno ažurirana Politika odgovornog skaliranja mogla da bude objavljena, niti koji bi budući model mogao prvi da dosegne prag koji kompanija sama opisuje kao tačku bez jasnog presedana.
