Dodatna obuka već istreniranog modela na užem skupu podataka da bi se specijalizovao za određeni zadatak.
Fino podešavanje je postupak u kome se opšti model dalje trenira na ciljanom skupu primera kako bi bolje obavljao određeni posao ili usvojio određeni stil i ton. Model se ne pravi iz početka, već se već naučenom znanju dodaje sloj specijalizacije.
Kako radi u praksi
Osnovni sastojak su primeri, i to u obliku ulaz i željeni izlaz. Za asistenta u podršci to su stvarna pitanja kupaca i odgovori koje bi vaš najbolji agent napisao, za klasifikaciju su to tekstovi i tačne oznake. Skup mora biti dosledan, jer model uči prosek onoga što mu date: ako polovina primera koristi jedan ton, a polovina drugi, dobićete model koji varira.
Danas se retko menjaju svi parametri modela. Uobičajeni su štedljivi postupci, poznati po skraćenici LoRA, gde se uz zamrznuti model uči mali dodatni sloj, pa je obuka jeftinija, brža i lako se vraća unazad. Rezultat se ocenjuje na primerima koje model nije video tokom obuke, jer ocena „deluje bolje" u slobodnoj proceni redovno prevari.
Zašto je bitno i gde se sreće
Fino podešavanje ima smisla kada je zadatak uzak i ponavlja se u velikom obimu, kada je važan tačno određen format izlaza ili kada želite da manji i jeftiniji model radi posao koji trenutno radi veliki. Tipične primene su klasifikacija tiketa, izvlačenje podataka iz dokumenata određenog tipa i doslednost tona u komunikaciji sa klijentima.
Za mnoge druge potrebe se umesto finog podešavanja koristi dobro pisanje promptova i RAG, jer su jeftiniji i fleksibilniji: menjaju se odmah, ne traže obuku i ne zastarevaju kada izađe bolji model.
Razuman redosled je zato uvek isti. Prvo se zadatak reši promptom i pretragom i izmeri se koliko dobro radi, pa se tek ako rezultat i dalje nije dovoljan, i ako obim posla to opravdava, pristupa obuci. Tako se dobija i skup primera za obuku, jer su najbolji materijal upravo odgovori koji su prošli ljudsku proveru u prvoj fazi.
Česta zabluda
Najveća zabluda je da se finim podešavanjem u model „ubacuje znanje" firme. Ono uči oblik odgovora mnogo pouzdanije nego činjenice, a naučene činjenice se ne mogu lako ispraviti ni obrisati. Za podatke koji se menjaju, pretraga kroz RAG je i tačnija i jeftinija, a uz to daje izvor.
Druga zabluda je da je za obuku dovoljno mnogo podataka bilo kakvog kvaliteta. Nekoliko stotina pažljivo odabranih primera obično daje bolji rezultat od desetina hiljada neujednačenih. Treća je zaboravljanje troška održavanja: podešen model ostaje vezan za jednu osnovu, pa se posao ponavlja kod svake veće promene modela.