RAG, fine‑tuning, LoRA i grafska memorija: čemu stvarno služi svaki sloj
Svaki posao koji naručuje AI asistenta naiđe na istu raskrsnicu: odakle asistent treba da sazna ono što mora da zna o vašoj firmi? Odgovori zvuče kao menija od modnih reči — fine‑tuning, RAG, vektorska baza, graf znanja, LoRA, post‑training — a prodajne prezentacije retko objašnjavaju kompromise, jer univerzalnih kompromisa nema. Svaki od ovih alata odgovara na svoje pitanje. Pomešati ih je skupo: ili preučavate model pri svakoj promeni cene, ili isporučujete asistenta koji samouvereno izmišlja ono što nikad nije naučio.
Zabuna je razumljiva: ovi slojevi leže jedan na drugom, pa spolja deluju zamenski. Nisu. Ovaj članak je mapa koju crtamo klijentima pre izbora steka — i sami se njome služimo.
Ukratko
- Fine‑tuning i post‑training uče veštine, ne činjenice. Ton, terminologija, format odgovora, brzina — da. Cene, dokumenti i sve što se menja — nikad.
- LoRA je učinila fine‑tuning jeftinim. Umesto preučavanja celog modela, uči se mali adapter: desetine megabajta umesto desetina gigabajta, menjiv po zadatku.
- RAG je sloj za činjenice. Znanje živi u vašoj bazi i dodaje se u trenutku pitanja, pa ažuriranja deluju odmah, a odgovori mogu da nose izvore.
- Vektor nalazi slično, graf zna veze. Pitanja kroz više koraka po entitetima i odnosima — teritorija grafa.
- U proizvodnji se ovo kombinuje. RAG za činjenice, LoRA za glas i format, grafska memorija tamo gde veze znače.
Post‑training uči veštine, ne činjenice
Post‑training je skupni termin za sve što se dešava sa osnovnim modelom posle opšteg predtreninga: obuka na instrukcijama, učenje sa pojačanjem na ljudskim ocenama (RLHF) i svaki stručni fine‑tuning na vrhu. Reč vredi da se rasčisti, jer razdvaja dve stvari koje se često slivaju: opšte sposobnosti, koje uče laboratorije, i ponašanje — ono čime upravljate vi, prilagođavajući model svom poslu.
Fine‑tuning znači promenu težina — dugoročne memorije modela. Upravo zato je pogrešno mesto za činjenice koje se menjaju. Cena, tačka ugovora ili specifikacija proizvoda zapečaćena u težinama zastareva onog dana kada se cenovnik ažurira, a osvežavanje znači novu obuku, novu proveru kvaliteta, novi deploy. Model koji je naučio vaš katalog napamet odgovaraće i onda kada katalog više nije tačan — i to glatko, što je za asistenta najgora moguća osobina.
Zato je fine‑tuning u drugom stvarno dobar:
- dosledan glas: asistent govori vašim stilom i rečnikom vaše struke;
- strog format odgovora: uvek ispravan JSON po vašoj šemi, bez akrobatike promptova;
- destilacija: veliki, spor i skup model‑učitelj sabija se u mali, brz i jeftin model‑učenika koji na vašem konkretnom zadatku zadržava veći deo kvaliteta.
Veštine, ne činjenice. Držite se te rečenice — i pola terminološke magle se rasprši.
LoRA: fine‑tuning je odjednom postalo jeftino
Klasičan prigovor fine‑tuningu bio je cena. Puni prolaz ažurira sve težine modela sa milijardama parametara, a to znači ozbiljan hardver i ozbiljan račun za svaki eksperiment. LoRA (Low‑Rank Adaptation) uklonila je sam prigovor: osnovne težine se zamrzavaju, a uče se samo male niskorangove matrice — adapteri — ubačene pored njih. Rezultat je zakrpa od desetina megabajta koja nosi celu promenu ponašanja, naspram desetina gigabajta celog modela.
Praktične posledice veće su nego što zvuče. Obuka staje na jedan GPU. Pored jednog osnovnog modela žive desetine adaptera — po jedan za klijenta, za ton, za jezik. Ponašanje se može zameniti a da se mozak ne dira. A sa kvantizovanom bazom (QLoRA) čitav postupak postao je dostupan daleko van budžeta data‑centara; prvobitni rad o LoRA objavljen je 2021. godine, a ekosistem oko njega odavno je standardni način prilagođavanja otvorenih modela.
LoRA nije promenila čemu fine‑tuning služi — promenila je koliko često ga možete priuštiti. A time je pravilo iz prethodnog odeljka od teorijskog postalo praktično.
RAG: znanje živi u vašoj bazi, ne u modelu
RAG (generacija dopunjena pretragom) prevrće logiku. Umesto da činjenice gurate u težine, ostavljate ih tamo gde im je mesto — u svojim podacima — a u trenutku pitanja sistem pronalazi relevantne odlomke i predaje ih modelu kao kontekst. Model ne pamti vaše dokumente — on ih pročita pre odgovora.
Ta jedna inverzija rešava glavne probleme prethodnih odeljaka:
- Svežina je besplatna. Izvor ažurirate jednom — asistent od sledećeg upita odgovara po novoj verziji. Bez obuke u međuvremenu.
- Odgovori se mogu proveriti. Odgovor se oslanja na pronađene odlomke, pa asistent može da ih navede kao izvore, a vi da ga sa njima uporedite.
- Dolazi do razgraničenja pristupa. Pretraga se dešava u vašoj infrastrukturi, pa različitim korisnicima može da se servira različiti deo iste baze znanja.
Plafon RAG‑a je kvalitet pretrage. Vektorska pretraga nalazi tekst sličan pitanju, a to nije uvek tekst relevantan za pitanje; sečenje na komade kida znanje po veštačkim granicama pasusa; i ako pošten odgovor zahteva spajanje tri dokumenta koji jedni o drugima ne pišu, obična pretraga po sličnosti počinje da sapliće. Većina razočaravajućih RAG demoa puca upravo na tom sloju, ne na sloju modela.
Vektor nalazi slično, graf zna veze
Vektorska baza dobro odgovara na jednu vrstu pitanja: koji odlomci teksta liče na ovaj. Za primetan deo upita ka asistentu to je baš potreban alat. Ali postoji cela klasa pitanja koja ona ni ne ume da formuliše, jer nisu o sličnosti — nego o odnosima.
Koji od naših klijenata je vezan za ovog dobavljača? Koje interne stranice upućuju na članak koji je upravo izgubio pozicije? Koji od ova dva podizvođača imaju istog vlasnika? Da bi odgovorio, sistem mora da ide po eksplicitnim vezama između entiteta — i baš to grafska baza čuva kao svoju prirodnu strukturu: čvorove (firme, ljude, stranice, ugovore) i ivice (imenovane odnose među njima), kroz koje se može ići lancima proizvoljne dužine.
Radni obrazac zove se GraphRAG: iz vašeg korpusa tekstova izvlače se entiteti i veze u graf znanja, a u trenutku upita sistem izvlači podgraf — često zajedno sa vektorskom pretragom po istim dokumentima — pa model vidi ne samo relevantne odlomke nego i veze među njima. Istraživački tim Microsofta objavio je prvi pristup GraphRAG, i od tada je priznati obrazac za korpuse u kojima smisao živi u vezama, a ne samo u pasusima.
Graf se isplati tamo gde su veze sama suština pitanja: CRM, logistika, usklađenost sa propisima, interne baze znanja gusto isprepletane unakrsnim referencama. Ako je vaš korpus pretežno linearna proza, jednostavnije i jeftinije je početi sa vektorskom bazom i hibridnom pretragom: grafski sloj uvek možete dodati kad ga pitanja potraže.
Šta izabrati
| Zadatak | Alat |
|---|---|
| Asistent mora da zna vaše dokumente, cene, pravila — sve što se menja | RAG |
| Odgovor zavisi od lanaca veza među entitetima | Graf znanja, GraphRAG |
| Stabilan ton, stručna terminologija, strog format odgovora | Fine‑tuning, obično kroz LoRA |
| Jeftiniji i brži odgovori na velikom obimu | Destilacija u manji model kroz fine‑tuning |
| Sve odjednom | Hibrid: RAG + LoRA, vektorska baza + graf |
Još jedno praktično pravilo koje štedi budžete: počnite od RAG‑a. Većina zahteva „treba nam fine‑tuning“ pri pažljivom pogledu ispadne zahtev „trebaju nam naši podaci u kontekstu“. Fine‑tuning zaslužuje svoje mesto kasnije, kad treba učvrstiti glas i format, a graf kad se pojave pitanja koja pretraga po sličnosti ne ume da formuliše.
Kako ovo sklapamo mi
U našim projektima sa agentima stek je po pravilu ovakav: RAG, baza znanja klijenta živi u bazi kojom klijent upravlja sam, ažuriranja deluju odmah, a odgovori ostaju proverljivi. Tamo gde je oblast gusto isprepletana vezama — klijenti, dobavljači, stranice, događaji — pored vektorske baze stoji graf znanja i preuzima pitanja kroz više koraka. Fine‑tuning kroz LoRA ostavljen je onome u čemu je dobar: stabilnom glasu i strogom formatu. Ta kombinacija nije egzotika — to je ono čemu produkcioni sistemi konvergiraju kad se oduzmu modne reči.
Ako razmišljate o ovim opcijama za svog asistenta — mi ih sklapamo, i prvi razgovor ide o vašim podacima i vašim pitanjima, ne o modelu meseca.
Na kraju
Pitanje nikad nije koje je tehnologija bolja. Pitanje je kakvo znanje vaš asistent mora da nosi: veštine, činjenice ili veze. Fine‑tuning drži veštine. RAG drži činjenice. Graf drži veze. Imenujte znanje ispravno — i tehnologija će se izabrati sama.
Izvori
- LoRA: Low‑Rank Adaptation of Large Language Models — prvobitni rad o adapterskom fine‑tuningu.
- GraphRAG: Unlocking LLM discovery on narrative private data — Microsoft Research o pretrazi na osnovu grafa.
Jurij Osipov
Osnivač, SEO i analitika
Vodi Take the Space. Specijalizovan za tehnički SEO, merljivu analitiku i vidljivost u AI pretraživanju.