Privatni AI na serveru firme: kada ima smisla

Privatni AI na serveru firme ima smisla onda kada podaci koji prolaze kroz asistenta ne mogu da napuste firmu: zdravstveni kartoni, bankarski računi, predmeti advokatske kancelarije ili dokumentacija zaštićena ugovorom o poverljivosti. U tim slučajevima firma postavlja otvoreni AI model na sopstveni server ili u privatni oblak, umesto da podatke šalje ka ChatGPT-u, Claude-u ili Gemini-ju preko interneta. Za sve ostalo, javni AI servisi su i dalje brži za postavljanje i jeftiniji po korisniku, pa privatna infrastruktura nije podrazumevani izbor, već rešenje za konkretan problem s podacima.

Šta se tačno postavlja na server firme

Reč je o otvorenim modelima, poput onih iz porodica Llama, Mistral, Qwen ili DeepSeek, koji se preuzmu i pokrenu na hardveru koji firma kontroliše, umesto na serverima OpenAI-ja, Anthropica ili Googlea. Alati kao Ollama i LM Studio, koje smo opisali u vodiču za pokretanje AI modela na sopstvenom računaru, rade na istom principu, samo u manjem razmeru: jedan laptop umesto servera koji istovremeno opslužuje ceo tim. Razlika je u veličini modela i hardveru koji on traži. Manji modeli, sa nekoliko milijardi parametara, rade i na jednoj solidnoj grafičkoj kartici, dok veći modeli koji bolje razumeju duže ugovore i više jezika traže ozbiljniji server sa više GPU jedinica, bilo u sopstvenoj serverskoj sobi, bilo iznajmljen kao privatni oblak kod domaćeg ili regionalnog provajdera. U oba slučaja model se instalira jednom i dalje radi iza firmine mreže, bez slanja upita na spoljne servere.

Kome se ovo zaista isplati

Najviše smisla ima za advokatske kancelarije, zdravstvene ustanove, banke, osiguravajuća društva i javni sektor, dakle delatnosti gde zakon ili ugovor već traže da određeni podaci ne izlaze iz kontrolisanog okruženja. U Srbiji tu obavezu dodatno oblikuje Zakon o zaštiti podataka o ličnosti, koji nadzire Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti, a za zdravstvenu i bankarsku dokumentaciju postoje i posebna pravila o čuvanju podataka. Advokatska kancelarija je dobar primer: kada se asistent nad predmetima i ugovorima postavi na server u kancelariji, nijedan dokument ne ide ka spoljnom servisu, a advokati pretražuju arhivu pitanjem umesto ključnom rečju. Slično važi i za dom zdravlja ili privatnu ordinaciju koja želi da pretražuje nalaze pacijenata, ili za banku koja interno obrađuje ugovore o kreditima: u svim tim slučajevima podatak koji izađe ka spoljnom servisu može da predstavlja prekršaj, bez obzira na to koliko je sam servis bezbedan. Za firme bez takve obaveze, pitanje nije da li podaci mogu da se čuvaju privatno, već da li im je to uopšte potrebno, i tu je dobra prva provera kada firmi zaista treba AI nad sopstvenim dokumentima, pre nego što se uđe u trošak sopstvenog servera. Mnogim malim firmama, bez regulatorne obaveze, javni AI servis sa ugovorom o obradi podataka rešava isti problem jeftinije.

Kako izgleda postavljanje u praksi

Postavljanje privatnog AI sistema u firmi obično ide kroz pet koraka:

1. Izbor modela i hardvera prema zadatku. Manji model dovoljan za pretragu dokumenata traži skromniji server od modela koji treba da sažima duge ugovore ili razgovara na više jezika. Ovaj izbor određuje i sve troškove koji slede, pa se radi pre nabavke opreme.
2. Instalacija na server firme ili u privatni oblak. Model se pokreće iza firmine mreže ili u izdvojenom privatnom okruženju kod provajdera, bez javnog pristupa i bez da prolazi kroz spoljne AI servise.
3. Povezivanje sa internim dokumentima. Na toj osnovi se gradi interni asistent ili pretraga, tako da model odgovara iz stvarnih ugovora, predmeta ili izveštaja firme, a ne iz opšteg znanja sa interneta.
4. Pristup po nalogu i dnevnik korišćenja. Svaki zaposleni ima svoja ovlašćenja, a svaki upit i odgovor se bilježi, što je često i zakonska obaveza u regulisanim delatnostima, ne samo dobra praksa.
5. Održavanje, ažuriranje i rezervne kopije. Otvoreni modeli se s vremena na vreme menjaju novijim verzijama, a server treba nadzor, bezbednosne ispravke i redovno čuvanje podataka, slično kao i svaki drugi interni sistem firme.

Firme koje već imaju sopstveni IT tim ili dobavljača koji im održava server obično ove korake uklapaju u postojeću praksu, pa dodaju samo nadzor modela kao novu stavku na listu. Firme bez takvog tima najčešće angažuju izvođača koji instalaciju i održavanje radi u njihovo ime, uz ugovor koji tačno kaže ko ima pristup serveru i kome se javlja ako nešto zastane.

Prednosti i ograničenja koje treba znati unapred

Glavna prednost je kontrola: podaci ostaju u firmi, pristup se bilježi, a rad sistema ne zavisi od toga da li je spoljni servis trenutno dostupan. To je bitno i za banku koja upravlja rizikom kredita, gde prekid rada spoljnog servisa u pogrešnom trenutku može da zaustavi ceo proces odlučivanja, a ne samo jedan razgovor sa asistentom. Glavno ograničenje je da otvoreni modeli, iako su u poslednjih godinu dana znatno napredovali, kod najzahtevnijih zadataka, poput složenog rezonovanja ili generisanja koda za velike sisteme, još zaostaju za vodećim javnim modelima poput najnovijih verzija Claude-a, GPT-a ili Gemini-ja. Firma takođe preuzima deo posla koji inače radi dobavljač javnog servisa: nadzor servera, ažuriranje modela, bezbednosne ispravke i rezervne kopije ne idu same od sebe, neko u firmi ili kod njenog izvođača mora da ih vodi. Zato se privatni AI server ređe isplati firmi koja samo želi brži rad sa mejlovima ili tekstovima bez obaveze čuvanja podataka u sopstvenoj infrastrukturi. Za nju je jeftinije i brže da koristi javni servis, a privatnost rešava ugovorom o obradi podataka sa dobavljačem, ne sopstvenim serverom. Odluka, drugim rečima, ne zavisi od toga koliko firma veruje AI-ju, već od toga šta joj zakon, ugovor ili klijent nameću u pogledu čuvanja podataka.

Koliko to košta i koliko traje

Postavljanje privatnog AI sistema na server firme obično traje od tri do šest nedelja, u zavisnosti od broja izvora podataka koje treba povezati i od toga da li firma već ima server ili ga tek nabavlja. Jednokratno postavljanje se po iskustvu sa ovakvih projekata kreće od 4.000 evra plus PDV, uz mesečno održavanje od 300 evra plus PDV i trošak samog servera, koji zavisi od snage hardvera koji zadatak traži. To je iznad uvođenja javnog AI chatbota za firmu, čija cena i obim smo pokrili u posebnom tekstu, i razlika u ceni je upravo cena kontrole: podaci ostaju u firmi, ali firma preuzima i deo posla koji inače radi dobavljač javnog servisa. Otvoreni modeli danas dobro rade pretragu, sažimanje i odgovaranje iz dokumenata, ali za najzahtevnije zadatke javni modeli vodećih kompanija su i dalje korak ispred, pa deo firmi kombinuje oba pristupa: privatno za ono što sadrži poverljive podatke, javno za sve ostalo.

Agenti.rs izdaje Dedaldev doo (impresum), koji za firme sa ovakvom potrebom postavlja privatni AI na serveru firme, od izbora modela i hardvera do dnevnika pristupa i održavanja. Pre tog koraka vredi proveriti i opšti plan za uvođenje AI u firmu, jer privatni server rešava problem s podacima, ne i pitanje odakle početi.