Anthropic je u petak, 18. septembra, saopštio da će prvi „ugrađeni evaluator“ njegovih modela biti Faculty, specijalizovano AI odeljenje konsultantske kompanije Accenture. Zaposleni iz Faculty radiće unutar Anthropica i proveravaće modele, bezbednosne mere i način na koji se sistemi razvijaju, navodi se u objavi kompanije. Prema saopštenju, svaka od dve kompanije očekuje da u narednih pet godina uloži najmanje milijardu dolara u razvoj kapaciteta za ovakvu vrstu procene.
Šta će Faculty stvarno da radi
Prema zajedničkom saopštenju, Faculty će procenjivati i testirati modele metodom „red teaming“, sprovoditi procene usklađenosti modela sa ljudskim vrednostima i proveravati zaštitne mehanizme. Anthropic definiše ugrađenog evaluatora kao spoljnog stručnjaka sa pristupom sličnim onom koji imaju zaposleni. Takav tim može da posmatra kako se modeli oblikuju tokom obuke, da prati odluke koje određuju način njihove izrade i da razgovara direktno sa osobljem.
Evaluatori bi, prema Anthropicu, mogli da prijavljuju incidente i javnosti daju potpuniju sliku koristi i rizika. Konkretni standardi izveštavanja, međutim, još nisu utvrđeni. Ni saopštenje Accenturea ne navodi kada će ugrađeni evaluatori početi rad, niti kako će biti objavljivani njihovi nalazi.
Faculty je britanska kompanija za primenjenu veštačku inteligenciju, koju je, kako prenosi TechCrunch, Accenture preuzeo u januaru 2026. Izvršni direktor Faculty i tehnički direktor Accenturea Mark Vorner izjavio je da veštačka inteligencija treba da bude „bezbedna po dizajnu, a ne slučajno“. Šefica Accenturea Džuli Svit ocenila je da bezbednost traži i duboku tehničku stručnost i jasno razumevanje načina na koji se AI koristi u praksi.
Deo šireg Amodejevog plana
Potez proizlazi iz eseja koji je izvršni direktor Anthropica Dario Amodei objavio prošle nedelje. Prvi korak tog plana predviđa nezavisne procenjivače sa stalnim pristupom kompaniji, o čemu je sajt već pisao u tekstovima o Amodejevom pozivu na usporavanje razvoja i o tome da su Anthropic i OpenAI najavili ugrađene procenjivače. Saradnja sa Accentureom je prva konkretna primena tog koraka.
Partnerstvo nije ekskluzivno. Anthropic navodi da razgovara sa organizacijom METR i drugim neprofitnim evaluatorima o probnim elementima ugrađene procene, koje bi ove organizacije finansirale iz sopstvenih sredstava, i da će dodatne evaluatore objaviti u narednim nedeljama. Accenture će, prema objavi, sarađivati i sa drugim razvojnim laboratorijama. Za sada Anthropic direktno plaća Faculty, a dugoročno bi finansiranje trebalo da dolazi iz zajedničkih ili državnih izvora.
Pitanje nezavisnosti
Upravo finansiranje izaziva najviše sumnji. Kako piše TechCrunch, kritičari smatraju da model u kojem kompanija sama plaća evaluatora može da zamagli odgovornost za ponašanje modela, posebno posle incidenata u kojima su AI agenti neopaženo upadali na spoljne sajtove. Ranije su i sami procenjivači upozoravali da su ugovori kompanijama davali poslednju reč o tome šta sme da bude objavljeno. Anthropic, sa svoje strane, tvrdi da „bezbednost naših modela ostaje naša odgovornost“ i da evaluatori tu odgovornost ne umanjuju, nego je čine proverljivijom. Anthropic je ranije i sam priznao propuste u obuci Claude modela.
U dostupnim objavama nema ni pomena o tome da li evaluatori imaju ovlašćenje da zaustave razvoj ili lansiranje modela koji proceni kao nebezbedan. Regulatorni okvir tu je samo delimičan: kalifornijski zakoni SB 53 i SB 813 i evropski AI Act traže određene oblike nezavisne evaluacije, ali ne i stalno ugrađene procenjivače sa pristupom internim sistemima. Zbog toga će praktičan značaj dogovora zavisiti od detalja koje kompanije tek treba da objave.
Berza je vest primila povoljno: akcije Accenturea porasle su, prema TechCrunchu, oko osam odsto u vanberzanskom trgovanju. Više o kompaniji i njenim modelima nalazi se na stranici Anthropic. Ostaje otvoreno da li će evaluatori koje plaća sama laboratorija moći da objave nalaze koji joj nisu po volji i ko će to prvi proveriti.
Često postavljana pitanja
Ko je Faculty i zašto je izabran?
Faculty je AI odeljenje kompanije Accenture. U saopštenju se opisuje kao priznat stručnjak za testiranje i evaluaciju modela za vodeće AI laboratorije.
Šta znači „ugrađeni evaluator“?
To je spoljni tim sa pristupom uporedivim sa pristupom zaposlenih, koji može da prati obuku modela, odluke o razvoju i razgovara sa osobljem kompanije.
Koliko novca je u pitanju?
Prema saopštenju, svaka od dve kompanije očekuje da u narednih pet godina uloži najmanje milijardu dolara.
Hoće li evaluatori objavljivati nalaze?
Anthropic navodi da bi mogli da prijavljuju incidente i informišu javnost, ali standardi izveštavanja još nisu utvrđeni.
