Jurij Osipov · Osnivač, SEO i analitika

RAG, fine‑tuning, LoRA i grafska memorija: čemu stvarno služi svaki sloj

Svaki posao koji naručuje AI asistenta naiđe na istu raskrsnicu: odakle asistent treba da sazna ono što mora da zna o vašoj firmi? Odgovori zvuče kao menija od modnih reči — fine‑tuning, RAG, vektorska baza, graf znanja, LoRA, post‑training — a prodajne prezentacije retko objašnjavaju kompromise, jer univerzalnih kompromisa nema. Svaki od ovih alata odgovara na svoje pitanje. Pomešati ih je skupo: ili preučavate model pri svakoj promeni cene, ili isporučujete asistenta koji samouvereno izmišlja ono što nikad nije naučio.

Zabuna je razumljiva: ovi slojevi leže jedan na drugom, pa spolja deluju zamenski. Nisu. Ovaj članak je mapa koju crtamo klijentima pre izbora steka — i sami se njome služimo.

Ukratko

Post‑training uči veštine, ne činjenice

Post‑training je skupni termin za sve što se dešava sa osnovnim modelom posle opšteg predtreninga: obuka na instrukcijama, učenje sa pojačanjem na ljudskim ocenama (RLHF) i svaki stručni fine‑tuning na vrhu. Reč vredi da se rasčisti, jer razdvaja dve stvari koje se često slivaju: opšte sposobnosti, koje uče laboratorije, i ponašanje — ono čime upravljate vi, prilagođavajući model svom poslu.

Fine‑tuning znači promenu težina — dugoročne memorije modela. Upravo zato je pogrešno mesto za činjenice koje se menjaju. Cena, tačka ugovora ili specifikacija proizvoda zapečaćena u težinama zastareva onog dana kada se cenovnik ažurira, a osvežavanje znači novu obuku, novu proveru kvaliteta, novi deploy. Model koji je naučio vaš katalog napamet odgovaraće i onda kada katalog više nije tačan — i to glatko, što je za asistenta najgora moguća osobina.

Zato je fine‑tuning u drugom stvarno dobar:

Veštine, ne činjenice. Držite se te rečenice — i pola terminološke magle se rasprši.

LoRA: fine‑tuning je odjednom postalo jeftino

Klasičan prigovor fine‑tuningu bio je cena. Puni prolaz ažurira sve težine modela sa milijardama parametara, a to znači ozbiljan hardver i ozbiljan račun za svaki eksperiment. LoRA (Low‑Rank Adaptation) uklonila je sam prigovor: osnovne težine se zamrzavaju, a uče se samo male niskorangove matrice — adapteri — ubačene pored njih. Rezultat je zakrpa od desetina megabajta koja nosi celu promenu ponašanja, naspram desetina gigabajta celog modela.

Praktične posledice veće su nego što zvuče. Obuka staje na jedan GPU. Pored jednog osnovnog modela žive desetine adaptera — po jedan za klijenta, za ton, za jezik. Ponašanje se može zameniti a da se mozak ne dira. A sa kvantizovanom bazom (QLoRA) čitav postupak postao je dostupan daleko van budžeta data‑centara; prvobitni rad o LoRA objavljen je 2021. godine, a ekosistem oko njega odavno je standardni način prilagođavanja otvorenih modela.

LoRA nije promenila čemu fine‑tuning služi — promenila je koliko često ga možete priuštiti. A time je pravilo iz prethodnog odeljka od teorijskog postalo praktično.

RAG: znanje živi u vašoj bazi, ne u modelu

RAG (generacija dopunjena pretragom) prevrće logiku. Umesto da činjenice gurate u težine, ostavljate ih tamo gde im je mesto — u svojim podacima — a u trenutku pitanja sistem pronalazi relevantne odlomke i predaje ih modelu kao kontekst. Model ne pamti vaše dokumente — on ih pročita pre odgovora.

Ta jedna inverzija rešava glavne probleme prethodnih odeljaka:

Plafon RAG‑a je kvalitet pretrage. Vektorska pretraga nalazi tekst sličan pitanju, a to nije uvek tekst relevantan za pitanje; sečenje na komade kida znanje po veštačkim granicama pasusa; i ako pošten odgovor zahteva spajanje tri dokumenta koji jedni o drugima ne pišu, obična pretraga po sličnosti počinje da sapliće. Većina razočaravajućih RAG demoa puca upravo na tom sloju, ne na sloju modela.

Vektor nalazi slično, graf zna veze

Vektorska baza dobro odgovara na jednu vrstu pitanja: koji odlomci teksta liče na ovaj. Za primetan deo upita ka asistentu to je baš potreban alat. Ali postoji cela klasa pitanja koja ona ni ne ume da formuliše, jer nisu o sličnosti — nego o odnosima.

Koji od naših klijenata je vezan za ovog dobavljača? Koje interne stranice upućuju na članak koji je upravo izgubio pozicije? Koji od ova dva podizvođača imaju istog vlasnika? Da bi odgovorio, sistem mora da ide po eksplicitnim vezama između entiteta — i baš to grafska baza čuva kao svoju prirodnu strukturu: čvorove (firme, ljude, stranice, ugovore) i ivice (imenovane odnose među njima), kroz koje se može ići lancima proizvoljne dužine.

Radni obrazac zove se GraphRAG: iz vašeg korpusa tekstova izvlače se entiteti i veze u graf znanja, a u trenutku upita sistem izvlači podgraf — često zajedno sa vektorskom pretragom po istim dokumentima — pa model vidi ne samo relevantne odlomke nego i veze među njima. Istraživački tim Microsofta objavio je prvi pristup GraphRAG, i od tada je priznati obrazac za korpuse u kojima smisao živi u vezama, a ne samo u pasusima.

Graf se isplati tamo gde su veze sama suština pitanja: CRM, logistika, usklađenost sa propisima, interne baze znanja gusto isprepletane unakrsnim referencama. Ako je vaš korpus pretežno linearna proza, jednostavnije i jeftinije je početi sa vektorskom bazom i hibridnom pretragom: grafski sloj uvek možete dodati kad ga pitanja potraže.

Šta izabrati

ZadatakAlat
Asistent mora da zna vaše dokumente, cene, pravila — sve što se menjaRAG
Odgovor zavisi od lanaca veza među entitetimaGraf znanja, GraphRAG
Stabilan ton, stručna terminologija, strog format odgovoraFine‑tuning, obično kroz LoRA
Jeftiniji i brži odgovori na velikom obimuDestilacija u manji model kroz fine‑tuning
Sve odjednomHibrid: RAG + LoRA, vektorska baza + graf

Još jedno praktično pravilo koje štedi budžete: počnite od RAG‑a. Većina zahteva „treba nam fine‑tuning“ pri pažljivom pogledu ispadne zahtev „trebaju nam naši podaci u kontekstu“. Fine‑tuning zaslužuje svoje mesto kasnije, kad treba učvrstiti glas i format, a graf kad se pojave pitanja koja pretraga po sličnosti ne ume da formuliše.

Kako ovo sklapamo mi

U našim projektima sa agentima stek je po pravilu ovakav: RAG, baza znanja klijenta živi u bazi kojom klijent upravlja sam, ažuriranja deluju odmah, a odgovori ostaju proverljivi. Tamo gde je oblast gusto isprepletana vezama — klijenti, dobavljači, stranice, događaji — pored vektorske baze stoji graf znanja i preuzima pitanja kroz više koraka. Fine‑tuning kroz LoRA ostavljen je onome u čemu je dobar: stabilnom glasu i strogom formatu. Ta kombinacija nije egzotika — to je ono čemu produkcioni sistemi konvergiraju kad se oduzmu modne reči.

Ako razmišljate o ovim opcijama za svog asistenta — mi ih sklapamo, i prvi razgovor ide o vašim podacima i vašim pitanjima, ne o modelu meseca.

Na kraju

Pitanje nikad nije koje je tehnologija bolja. Pitanje je kakvo znanje vaš asistent mora da nosi: veštine, činjenice ili veze. Fine‑tuning drži veštine. RAG drži činjenice. Graf drži veze. Imenujte znanje ispravno — i tehnologija će se izabrati sama.

Izvori

Jurij Osipov

Jurij Osipov

Osnivač, SEO i analitika

Vodi Take the Space. Specijalizovan za tehnički SEO, merljivu analitiku i vidljivost u AI pretraživanju.

Svi članci autora →
Da li nam treba fine‑tuning da asistent zna naše dokumente?
Obično ne. Fine‑tuning menja težine modela — to su veštine, ton i format, ne činjenice. Dokumenti, cene i pravila koja se menjaju treba da žive u sloju pretrage (RAG): ažurirate izvor — odgovori odmah počinju da se zasnivaju na novoj verziji.
Šta je LoRA, u jednoj rečenici?
LoRA zamrzava prethodno obučeni model i uči samo male niskorangove matrice — adaptere — pored njega, pa fine‑tuning teže desetine megabajta umesto desetina gigabajta: jeftino se uči, lako čuva i menja po zadatku na istom osnovnom modelu.
Kada je grafska baza bolja od vektorske?
Kada odgovor zavisi od lanaca veza, a ne od sličnog teksta: pitanja kroz više koraka po klijentima, dobavljačima, ugovorima, stranicama ili događajima. Vektorska baza vraća odlomke slične upitu; graf omogućava prelazak po eksplicitnim vezama i odgovaranje na pitanja koja pretraga po sličnosti ni ne ume da formuliše.
Može li se RAG kombinovati sa fine‑tuningom?
Da, u proizvodnji je to standardna kombinacija: RAG daje aktuelne činjenice i izvore, a fine‑tuning kroz LoRA učvršćuje ton, stručnu terminologiju i format odgovora, tako da model dosledno i ispravno radi sa pronađenim kontekstom.
Šta je post‑training?
Sve što se dešava sa osnovnim modelom posle opšteg predtreninga: obuka na instrukcijama, RLHF i usaglašavanje sa preferencama, plus fine‑tuning za konkretnu oblast. Sam termin je važan jer razdvaja opšte sposobnosti, koje uče laboratorije, i ponašanje kojim upravljate vi, prilagođavajući model svom poslu.

Želite sajt koji pravi razliku?

Hajde da razgovaramo o vašem projektu.