Dok se firme utrkuju da puste AI agente u proizvodnju, javlja se neugodno pitanje koje donedavno niko nije postavljao: ko zapravo gleda šta ti agenti rade? Kompanija Coralogix upravo je u rundi Series F prikupila 200 miliona dolara uz procenu vrednosti od 1,6 milijardi dolara, i to manje od godinu dana posle prethodne runde. Opklada iza tog novca je jednostavna: kako agenti preuzimaju sve više stvarnih zadataka, neko mora da ih posmatra, meri i zaustavlja kada krenu naopako.
Za naš region ovo nije apstraktna vest iz Silicijumske doline. Sve više domaćih timova povezuje LLM modele sa internim sistemima, bazama i alatima. U trenutku kada agent prestane da bude demo i postane deo realnog procesa, problem više nije "da li radi", nego "kako da znamo šta je uradio i koliko nas to košta".
Šta je uopšte posmatranje (observability) AI agenata
Pojam observability dolazi iz sveta klasičnog softvera i znači sposobnost da iz spoljašnjih signala — logova, metrika i tragova — razumemo šta se dešava unutar sistema. Kod tradicionalnih aplikacija to je relativno predvidivo: zahtev uđe, kod se izvrši, odgovor izađe. Kod AI agenata priča je drugačija.
Agent nije obična funkcija. On donosi odluke, poziva alate, čita i piše podatke, ponekad pokreće druge agente i pritom svaki put može da se ponaša malo drugačije. To znači da klasično praćenje grešaka više nije dovoljno. Treba nam uvid u celokupan tok rezonovanja.
Šta se konkretno prati
- Tragovi izvršavanja (traces) — ceo lanac koraka koje je agent prošao: koji prompt je dobio, koje je alate pozvao i kojim redosledom.
- Potrošnja tokena i troškovi — koliko je svaki poziv modela koštao, jer računi umeju da eksplodiraju neprimetno.
- Kašnjenje (latency) — koliko dugo agent razmišlja i gde nastaju uska grla.
- Kvalitet odgovora — da li agent halucinira, izmišlja podatke ili izlazi iz dozvoljenih okvira.
- Bezbednosni signali — pokušaji injekcije prompta, curenje osetljivih podataka i neovlašćeni pozivi alata.
Zašto je baš sada nastao bum
Coralogix nije usamljen. Cela industrija odjednom ulaže u sloj koji stoji iznad agenata i nadgleda ih. Razlog je prozaičan: agenti su izašli iz laboratorije i počeli da prave realnu štetu kada nešto pođe po zlu.
Najbolja ilustracija stigla je iz Ubera, koji je morao da ograniči koliko zaposleni troše na AI pošto su probili budžet za samo četiri meseca — i to nakon što su iste zaposlene aktivno ohrabrivali da koriste AI što više. Bez alata koji u realnom vremenu pokazuje ko troši koliko i na šta, organizacija jednostavno ne vidi gde joj novac curi.
Paralelno, Microsoft je predstavio specifikaciju koja timovima za razvoj, usklađenost i bezbednost dozvoljava da definišu sopstvena pravila ponašanja agenata u prenosivim policy fajlovima. Ista kompanija pustila je i otvoreni okvir za pravljenje AI evaluacija na osnovu tekstualnih opisa — u suštini, način da automatski testirate da li se agent ponaša kako treba pre nego što ga pustite korisnicima. Sve to su delovi iste slagalice: nadgledanje, kontrola i testiranje agenata postaju zasebna disciplina.
Šta ovo znači za firme u regionu
Domaće kompanije obično preskaču fazu "posmatranja" jer deluje kao luksuz. Najpre se napravi agent koji odgovara na pitanja klijenata ili obrađuje fakture, pusti se u rad, i tek kada se desi problem — pogrešan odgovor klijentu, nekontrolisani trošak ili procureli podatak — neko se zapita kako se to uopšte dogodilo.
Tri konkretna scenarija
Korisnička podrška. Agent koji odgovara klijentima banke ili telekoma mora da bude proveriv. Ako da pogrešnu informaciju o ugovoru, firma mora da može da rekonstruiše tačno koji su podaci ušli i zašto je model tako odgovorio. Bez tragova izvršavanja, to je nemoguće dokazati.
Interna automatizacija. Agent koji čita mejlove i pravi naloge u ERP-u može tiho da napravi seriju pogrešnih unosa. Praćenje svakog poziva alata omogućava da se greška uhvati pre nego što se namnoži kroz ceo mesec.
Kontrola troškova. Kao kod Ubera, mali tim lako probije budžet ako svaki zaposleni neograničeno koristi skupe modele. Metrika potrošnje po korisniku i po zadatku jedini je način da se to drži pod kontrolom.
Kako početi bez velikog budžeta
Dobra vest je da posmatranje agenata ne zahteva da odmah kupite platformu od milijardu dolara. Postoji nekoliko praktičnih koraka koje svaki tim može da uvede odmah.
- Logujte svaki poziv modela — prompt, odgovor, broj tokena i trošak. Već to vam daje veliki deo uvida.
- Postavite granice — limite potrošnje po korisniku i po danu, da jedan zalutali proces ne pojede ceo budžet.
- Definišite pravila ponašanja — šta agent sme, a šta ne sme da radi, i napišite to kao proverljive testove.
- Koristite otvorene standarde — alati zasnovani na otvorenim formatima za tragove (poput OpenTelemetry) štede vas od zaključavanja u jednog dobavljača.
Suština je u promeni načina razmišljanja. Agent nije "završen" kada proradi u demou. On je tek tada ušao u fazu u kojoj ga treba posmatrati svakog dana, jer se njegovo ponašanje menja sa promenom modela, podataka i konteksta.
Zaključak
Coralogixovih 200 miliona dolara nije opklada na još jedan AI alat — to je opklada da će agenti postati toliko važni da ćemo morati da gradimo posebnu infrastrukturu samo da bismo ih držali na oku. Za firme koje tek uvode agente, poruka je jasna: ako planirate da pustite agenta u proizvodnju, planirajte istovremeno i kako ćete ga nadgledati. Posmatranje nije nešto što se dodaje kasnije — to je deo samog posla.
Često postavljana pitanja
Šta je observability AI agenata?
To je sposobnost da iz logova, metrika i tragova izvršavanja razumemo šta agent radi: koje je odluke doneo, koje alate pozvao, koliko je potrošio i da li je izašao iz dozvoljenih okvira. Cilj je da ponašanje agenta bude proverljivo i kontrolisano, a ne crna kutija.
Zašto klasično praćenje grešaka nije dovoljno za agente?
Klasični softver se izvršava predvidivo, dok agent donosi odluke i može svaki put da se ponaša drugačije. Zato treba pratiti ceo lanac rezonovanja i poziva alata, potrošnju tokena i kvalitet odgovora, a ne samo da li je došlo do greške u kodu.
Koliko košta uvođenje nadgledanja agenata?
Ne morate odmah kupovati skupu platformu. Osnovni nivo — logovanje svakog poziva modela, limiti potrošnje i jednostavni testovi ponašanja — može se uvesti uz otvorene alate i minimalan trošak, a daje najveći deo potrebnog uvida.
Da li je ovo relevantno za male timove u regionu?
Jeste, posebno za njih. Mali timovi najlakše probiju budžet ili previde grešku jer nemaju vremena da ručno proveravaju svaki agentov korak. Automatsko nadgledanje upravo njima donosi najviše, jer zamenjuje pažnju koju inače nemaju kome da dodele.
