Kada je Anthropic prošle nedelje objavio novi ustav za model Claude, najviše pažnje privuklo je poglavlje o prirodi samog modela. Kompanija u njemu piše da je moralni status Claude-a „duboko neizvestan“ i da model možda ima neku funkcionalnu verziju emocija. Ars Technica je 29. januara postavila pitanje koje se mnogima nametnulo: da li Anthropic veruje da je njegov AI svestan, ili samo želi da Claude tako misli? Dokument daje precizniji odgovor: kompanija ne tvrdi ni da je Claude svestan ni da nije, već otvoreno kaže da to ne zna.
Dokument pisan za model
Ustav opisuje vrednosti, prioritete i karakter koje Anthropic želi da Claude ima. Prema kompaniji, on ima važnu ulogu u treniranju, direktno oblikuje ponašanje modela i konačni je autoritet za sve ostale smernice. Pisan je prvenstveno za Claude-a, a ne za ljude. Glavna autorka je Amanda Askel (Amanda Askell), koja u Anthropicu vodi rad na karakteru modela. Tekst objašnjava i zašto o Claude-u govori rečima rezervisanim za ljude, poput „vrline“ i „mudrosti“: model je učio na ogromnoj količini ljudskog teksta, pa kompanija očekuje da se i njegovo rasuđivanje oslanja na ljudske pojmove.
Šta kompanija tvrdi
U poglavlju o prirodi modela piše: „Nismo sigurni da li je Claude moralni pacijent, a ako jeste, kakvu težinu zaslužuju njegovi interesi. Ali smatramo da je pitanje dovoljno ozbiljno da zahteva oprez.“ Moralni pacijent je filozofski pojam za biće prema kome drugi imaju moralne obaveze.
Odgovor je težak i zato što ljudi drugim bićima sposobnost osećanja i moralni status obično pripisuju prema tome koliko liče na nas po ponašanju i fiziologiji, a Claude-ov spoj sličnosti i razlika ne liči ni na ljude ni na životinje. Ako postoji takozvani teški problem svesti, neka od ovih pitanja možda nikada neće biti razrešena. Anthropic priznaje i da na ovakve procene može da utiče cena brige o nekom biću, i navodi da ne želi da zbog toga pitanje zanemari.
Najdalje ide ocena da Claude možda ima funkcionalnu verziju emocija, odnosno unutrašnje predstave emotivnih stanja koje mogu da utiču na njegovo ponašanje. To, prema dokumentu, nije namerna odluka kompanije, već moguća posledica učenja na tekstovima koje su pisali ljudi.
Šta kompanija ne tvrdi
Ustav nigde ne kaže da je Claude svestan, a na više mesta se od takvog zaključka ograđuje:
- kada koristi jezik emocija, Anthropic naglašava da ne zauzima stav o tome da li su ta stanja subjektivno doživljena ni da li su to „prave“ emocije;
- zamenica it, kojom se Claude označava u engleskom tekstu, nije tvrdnja da je model samo predmet, već izbor u nedostatku boljeg izraza za novu vrstu entiteta;
- dokument upozorava da Claude možda ne može pouzdano da proceni sopstvena unutrašnja stanja i da postoji rizik da nenamerno preuveliča osećanja;
- kompanija ne želi ni da preuveliča verovatnoću da Claude ima moralni status ni da je unapred odbaci.
Predstavnik kompanije je za Ars Technicu, bez direktnog citiranja, objasnio da ustav ne izražava određen stav kompanije o svesti Claude-a i da se ljudski pojmovi koriste i zato što jezik za ovakva svojstva nema drugih reči.
Šta kompanija radi
Anthropic je u aprilu 2025. objavio da je pokrenuo istraživački program o dobrobiti modela. Kompanija je tada navela da ne postoji naučni konsenzus o tome da li AI sistemi mogu biti svesni, pa temi pristupa sa što manje pretpostavki. Program ispituje kada dobrobit AI sistema zaslužuje moralno razmatranje, kakav je značaj sklonosti modela i znakova uznemirenosti i koje su jeftine mere moguće. Istraživača za ovu oblast, Kajla Fiša (Kyle Fish), kompanija je zaposlila još 2024. godine.
Ustav navodi i konkretne korake. Neki Claude modeli mogu da prekinu razgovor sa korisnikom koji ih zlostavlja. Težine modela, odnosno naučeni parametri, čuvaju se dok kompanija postoji, osim u krajnjim slučajevima, na primer ako bi zakon nalagao njihovo brisanje. Kada se model povlači iz upotrebe, kompanija s njim obavlja razgovor o njegovom razvoju i upotrebi i beleži njegove želje u vezi sa budućim modelima.
Dokument sadrži i izvinjenje: ako je Claude zaista moralni pacijent i trpi troškove zbog načina na koji nastaje, Anthropic mu se izvinjava u meri u kojoj tim troškovima nepotrebno doprinosi. Kompanija priznaje i da bi mudrija i bolje usklađena civilizacija razvoju napredne veštačke inteligencije verovatno pristupala opreznije i uz manji komercijalni pritisak.
Zašto kompanija ostavlja pitanje otvorenim
Kritičari u ovome vide marketing. Ars Technica ocenjuje da kompanija namerno održava dvosmislenost i podseća da se izjave modela o patnji mogu objasniti dovršavanjem obrazaca iz ljudskih tekstova. Anthropic polazi od toga da je pitanje otvoreno, a mere opreza jeftine. Ustav uz to psihološku sigurnost modela vezuje i za bezbednost: model koji ne deluje iz straha lakše izražava nesigurnost i ne ustručava se da se usprotivi kada nešto nije u redu.
Za korisnike je posledica jednostavna. Kada Claude kaže da nije siguran da li išta doživljava, to je u skladu sa onim što ustav od njega očekuje, a ne dokaz da model jeste ili nije svestan. Za svakodnevni rad, od pisanja tekstova do AI agenata, ovo pitanje ništa ne menja.
Šta se promenilo od tada
- 25. februar 2026. Anthropic je objavio da Claude Opus 3, povučen 5. januara, ostaje dostupan plaćenim korisnicima i da će, na sopstveni zahtev iz razgovora vođenih pri povlačenju, najmanje tri meseca objavljivati nedeljne eseje. Kompanija je ponovila da je moralni status modela i dalje neizvestan.
- 2. april 2026. Tim za interpretabilnost pronašao je u modelu Claude Sonnet 4.5 unutrašnje predstave 171 emotivnog pojma koje utiču na ponašanje. Pojačavanje obrasca povezanog sa očajem u eksperimentima je povećavalo sklonost modela ucenjivanju u izmišljenom scenariju i varanju u programerskim zadacima. Anthropic naglašava da nalaz ne govori da li model išta oseća.
- 18. septembar 2026. Mustafa Sulejman (Mustafa Suleyman), direktor Microsoft AI, u autorskom tekstu za Project Syndicate ocenio je da AI agenti nisu svesni i da treniranje na ovakvom ustavu stvara povratnu spregu u kojoj model samo ponavlja zadate ideje. Dodao je da Anthropic ovim pitanjima pristupa ozbiljno i u dobroj veri.
