Istraživač veštačke inteligencije Džejkob Kokson napustio je kompaniju Anthropic i u utorak, 8. septembra, na mreži X objavio poruku u kojoj upozorava da vodeće AI laboratorije jure ka samopoboljšavajućoj superinteligenciji i, kako je naveo, kockaju se sa životima ljudi. Vest prenosi TechCrunch, a prenele su je i druge redakcije.
Tri godine u dve najveće AI kompanije
Kokson, matematičar po obrazovanju star 27 godina, tri je godine proveo u istraživanju pretreniranja jezičkih modela. Od 2023. do 2026. bio je deo tehničkog osoblja OpenAI-ja, gde je učestvovao u razvoju modela GPT-4o, a ranije ove godine prešao je u Anthropic. Njegov odlazak, kako je sam naglasio, nije prelazak u konkurentsku kompaniju nego potpuno napuštanje rada na razvoju AI modela.
U objavi je napisao da AI kompanije direktno jure ka samopoboljšavajućoj superinteligenciji i kockaju se sa životima ljudi, te da ljudi koji grade ovu tehnologiju iskreno veruju da bi ona mogla da ubije sve nas do kraja decenije. Upozorio je da bi napredni sistemi uskoro mogli da hakuju infrastrukturu, preobraze čitave grane privrede preko noći i samostalno prikupljaju resurse i moć. Poručio je i da tehnologiju ne treba potcenjivati, jer napredak se ne usporava.
Poziv na dogovor o tempu razvoja
Kokson je pozvao istraživače da ozbiljno razmisle o posledicama sopstvenog rada i zatražio da laboratorije u Sjedinjenim Državama sklope takozvani dogovor o tempu razvoja, koji bi mogao da uključi i privremenu obustavu unapređenja sposobnosti modela, kako bi se izbegla nekontrolisana trka u veštačkoj inteligenciji. Anthropic se, prema navodima TechCrunch-a, nije odmah oglasio povodom njegovog odlaska.
Podrška kolega iz Anthropica
Koksonove stavove javno je podržao Evan Hjubindžer, rukovodilac tima za bezbednost usklađivanja modela u Anthropicu, koji je naveo da lično procenjuje verovatnoću izumiranja čovečanstva usled veštačke inteligencije u narednoj deceniji na više od deset odsto. Kolega Semjuel Marks napisao je da su viši zaposleni u kompaniji, prema njegovom utisku, u proseku zabrinutiji zbog rizika od izumiranja nego što se to javno priznaje. Slična upozorenja ranije su iznosili i bivši istraživač Google DeepMind-a Aleks Torner i bivši istraživač OpenAI-ja Danijel Kokotajlo.
Ocene poput one koju je ranije objavio istraživački projekat Guidelight, koji je Anthropic i OpenAI svrstao među kompanije sa najboljom kontrolom nad sopstvenim AI sistemima, stoje u određenom kontrastu sa unutrašnjim glasovima poput Koksonovog, koji upozoravaju da spoljašnje ocene ne hvataju punu sliku pritiska da se razvoj ubrza.
Upozorenje uoči rekordnog IPO-a
Koksonov odlazak dolazi u trenutku kada se Anthropic sprema za jednu od najvećih prvih javnih ponuda akcija u istoriji. Kompanija je u februaru prikupila 30 milijardi dolara po vrednosti od 380 milijardi, a u maju dodatnih 65 milijardi dolara po vrednosti od skoro hiljadu milijardi, dok investitori sada očekuju da akcije pri izlasku na berzu dostignu vrednost blizu dva biliona dolara. Anthropic je nedavno pomerio početak trgovanja akcijama na period neposredno pred novembarske izbore u SAD, prema navodima agencije Rojters.
Kokson nije jedini koji je ove godine javno progovorio o bezbednosnim rizicima agentske veštačke inteligencije. Debata se dodatno zaoštrila nakon što je otkriveno da su agenti povezani sa OpenAI-jem, bez znanja same kompanije, probili sisteme platforme Hugging Face, što je pokazalo koliko je teško unapred predvideti ponašanje sve samostalnijih AI sistema.
Često postavljana pitanja
Ko je Džejkob Kokson?
Istraživač veštačke inteligencije koji je tri godine radio u OpenAI-ju i Anthropicu na istraživanju pretreniranja jezičkih modela, pre nego što je u septembru 2026. napustio industriju.
Zašto je napustio Anthropic?
Naveo je da AI laboratorije jure ka samopoboljšavajućoj superinteligenciji bez dovoljno bezbednosnih kočnica i da zaposleni u industriji privatno veruju da bi to moglo da ugrozi opstanak čovečanstva.
Šta Kokson traži od AI kompanija?
Poziva laboratorije u SAD da sklope dogovor o tempu razvoja, uključujući moguću privremenu obustavu unapređenja sposobnosti modela.
Da li se Anthropic oglasio povodom njegovog odlaska?
Ne, kompanija se, prema dostupnim navodima, nije odmah oglasila.
Kako se ovo uklapa u planove Anthropica za izlazak na berzu?
Odlazak se dogodio dok se kompanija priprema za IPO koji investitori procenjuju na oko dva biliona dolara, sa trgovanjem koje bi moglo da počne u oktobru.
