Izvršni direktor Microsofta Satja Nadela kritikovao je ograničenja koja Anthropic postavlja na svoj najjači model Claude Fable, rekavši zaposlenima da odbijanja tog modela nemaju smisla. Njegove primedbe iznete su na internom sastanku sa inženjerima koji rade na Microsoftovom softveru Copilot, a prenela ih je televizija CNBC 16. jula, na osnovu kopije izlaganja koja joj je dostavljena.
„Ako koristite Fable, kada on odbije bilo koju nasumičnu stvar, to je prosto, kada ste poslednji put imali alat za stvaranje koji je bio toliko uređivački kontrolisan?”, rekao je Nadela, prema navodima CNBC-ja. Reč je o neuobičajeno oštroj oceni na račun kompanije koja je istovremeno i partner i klijent Microsofta.
Šta je izazvalo primedbe
Kritika se odnosi na sloj bezbednosnih filtera koji Anthropic primenjuje na model Fable 5. Prema podacima kompanije, kada korisnici postave pitanja o pojedinim aspektima izrade velikih modela i o nekim drugim temama, sistem može da odbije zahtev ili da odgovor prosledi starijoj verziji modela. Deo korisnika je te odbijenice javno prijavljivao na društvenim mrežama.
Anthropic je model Fable 5, zajedno sa modelom Mythos 5, predstavio 9. juna. Tri dana kasnije kompanija je prekinula pristup oba modela na globalnom nivou, navodeći direktivu američke vlade o kontroli izvoza koja je ograničavala pristup stranim državljanima. Kontrole su ukinute 30. juna, a Fable 5 je vraćen u upotrebu 1. jula, ali sa izmenjenim zaštitnim mehanizmima.
U saopštenju o ponovnom puštanju modela Anthropic je i sam upozorio na posledicu tog pooštravanja. Kompanija je navela da će novi zaštitni sloj označiti „nešto veći udeo bezopasnih zahteva” nego prethodna verzija. Prema opisu kompanije, konkretna tehnika koju filter cilja sada je blokirana u više od 99 odsto slučajeva, uz priznanje da klasifikator daje lažno pozitivne rezultate i na delu bezazlenih zahteva za pisanje i ispravljanje koda. Kada se zahtev blokira, korisnik dobija obaveštenje, a posao se prosleđuje modelu Opus 4.8.
Partner koji kritikuje partnera
Težina Nadelinih reči proizlazi iz odnosa dve kompanije. Microsoft je u novembru saopštio da ulaže pet milijardi dolara u Anthropic, dok se Anthropic obavezao da će potrošiti 30 milijardi dolara na Microsoftovu oblak platformu Azure. Anthropicovi modeli su istovremeno deo ponude koju Microsoft nudi svojim korisnicima kroz Copilot.
Nadela se, dakle, javno požalio na proizvod koji njegova kompanija i finansira i preprodaje. To nije uobičajeno u industriji u kojoj se partnerstva obično komuniciraju kroz zajednička saopštenja. Primedba je izneta na internom skupu, pa je pitanje da li je bila namenjena javnosti, ali je posle objavljivanja postala deo šire rasprave o tome koliko daleko treba da idu ograničenja u AI alatima.
Anthropic se, prema dostupnim izveštajima, nije posebno oglasio povodom Nadelinih reči. Kompanija je ranije obrazlagala da stroži filteri postoje zbog rizika od zloupotrebe modela u sajber napadima i da su uvedeni posle konsultacija sa nadležnim organima.
Sukob dve logike
Rasprava otvara pitanje koje se ne tiče samo jednog modela. Razvijaoci najjačih sistema uvode sve strože mehanizme zaštite, delom zbog sopstvene procene rizika, delom zbog pritiska regulatora. Poslovni korisnici i partneri, s druge strane, mere alat po tome koliko posla obavi bez smetnji.
Kada filter pogreši i odbije bezazlen zahtev, cena je konkretna. Programer koji traži pomoć oko ispravljanja koda dobija odbijenicu ili slabiji model, a zadatak koji je trebalo da traje nekoliko minuta se produžava. Kod pojedinačnog korisnika to je neprijatnost. U firmi koja je alat uvela u redovan tok rada, to postaje trošak koji se meri.
Suprotna strana argumenta je takođe merljiva. Anthropic tvrdi da filter blokira konkretnu tehniku zloupotrebe u više od 99 odsto slučajeva. Ako je ta procena tačna, popuštanje filtera bi značilo da deo tih pokušaja prolazi. Kompanija je izabrala da radije podnese pritužbe zbog lažno pozitivnih odbijenica nego rizik od propuštenih zloupotreba, i to je izbor koji je javno obrazložila.
Izraz „uređivački kontrolisan” koji je Nadela upotrebio nosi dodatnu težinu. On povlači paralelu sa medijima, gde uredništvo odlučuje šta izlazi, a šta ne. Primenjeno na alat za rad, sugestija je da kompanija koja pravi model odlučuje umesto korisnika šta sme da se napravi. Anthropic tu podelu vidi drugačije i svoje filtere opisuje kao bezbednosnu, a ne uredničku meru.
Šta se iz ovoga vidi
Za korisnike u regionu, koji AI alate uglavnom koriste kroz iste globalne pretplate i platforme, praktična posledica je već vidljiva. Isti zahtev može proći ili biti odbijen u zavisnosti od toga koji je model iza usluge i koji je sloj filtera aktivan tog dana. Pošto Anthropic zahteve koje blokira prosleđuje modelu Opus 4.8, korisnik u praksi ne mora ni da primeti da je dobio odgovor od drugog modela, osim po obaveštenju.
Ostaje otvoreno da li će Anthropic ublažiti filtere posle ovakvih primedbi. Kompanija je zasad zadržala stav da je stroža podešenost privremeno nužna i da radi na smanjenju broja pogrešnih odbijenica. Nije objavljen rok do kada bi ta podešavanja trebalo da budu gotova, niti je saopšteno koliki je stvarni udeo bezazlenih zahteva koji budu blokirani.
Često postavljana pitanja
Šta je tačno rekao Satja Nadela?
Na internom sastanku sa inženjerima koji rade na Copilotu, Nadela je rekao da ograničenja koja Anthropic postavlja na model Fable nemaju smisla i upitao kada je poslednji put postojao alat za stvaranje koji je toliko „uređivački kontrolisan”. Njegove reči je 16. jula preneo CNBC.
Zašto Fable 5 odbija neke zahteve?
Anthropic je 1. jula vratio model u upotrebu sa pooštrenim zaštitnim slojem posle prekida izazvanog američkim kontrolama izvoza. Kompanija je saopštila da novi filter blokira ciljanu tehniku zloupotrebe u više od 99 odsto slučajeva, ali i da označava veći udeo bezopasnih zahteva nego ranije.
Šta se dešava kada model odbije zahtev?
Prema opisu kompanije, korisnik dobija obaveštenje da je zahtev blokiran, a posao se prosleđuje modelu Opus 4.8. To znači da zadatak najčešće bude obavljen, ali od strane drugog modela.
U kakvom su odnosu Microsoft i Anthropic?
Microsoft je u novembru saopštio ulaganje od pet milijardi dolara u Anthropic, uz obavezu Anthropica da potroši 30 milijardi dolara na Azure. Anthropicovi modeli su deo Microsoftove ponude, pa je Nadelina kritika upućena partneru i klijentu istovremeno.
