Юрий Осипов · Основатель, SEO и аналитика

RAG, fine‑tuning, LoRA и графовая память: что для чего на самом деле нужно

Каждый бизнес, заказывающий ИИ‑ассистента, упирается в одну и ту же развилку: откуда ассистент должен узнавать то, что ему нужно знать о вашей компании? Ответы звучат как меню из модных слов — fine‑tuning, RAG, векторная база, граф знаний, LoRA, post‑training, — и продающие презентации редко объясняют компромиссы, потому что универсальных компромиссов нет. Каждый из этих инструментов отвечает на свой вопрос. Перепутать их дорого: вы либо переобучаете модель при каждом изменении цены, либо выпускаете ассистента, который уверенно выдумывает то, чему его не учили.

Путаница понятна: эти слои лежат друг на друге, поэтому снаружи кажутся взаимозаменяемыми. Ими не являются. Эта статья — карта, которую мы рисуем клиентам перед выбором стека, и той же картой пользуемся сами.

Коротко

Post‑training учит навыкам, а не фактам

Post‑training — зонтичный термин для всего, что происходит с базовой моделью после общего предобучения: обучение на инструкциях, обучение с подкреплением на человеческих оценках (RLHF) и любая отраслевая донастройка сверху. Слово стоит разобрать, потому что оно разделяет две вещи, которые часто сливаются: общие способности, которые обучают лаборатории, и поведение — то, чем управляете вы, адаптируя модель под свой бизнес.

Fine‑tuning означает изменение весов — долговременной памяти модели. Именно поэтому это неправильное место для фактов, которые меняются. Цена, пункт договора или характеристика товара, вшитая в веса, устаревает в день обновления прайса, а обновить её — значит запустить новое обучение, новую проверку качества, новый деплой. Модель, зазубрившая ваш каталог, будет отвечать по памяти и тогда, когда каталог уже неверен, — и делать это гладко, что для ассистента худшее из возможных свойств.

Зато в другом fine‑tuning действительно хорош:

Навыки, а не факты. Держитесь этого правила — и половина терминологического тумана рассеется.

LoRA: донастройка внезапно стала дешёвой

Классическое возражение против fine‑tuning — цена. Полный проход обновляет все веса модели с миллиардами параметров, а это серьёзное железо и серьёзный счёт за каждый эксперимент. LoRA (Low‑Rank Adaptation) сняла само возражение: базовые веса замораживаются, а обучаются только небольшие низкоранговые матрицы — адаптеры, вставленные рядом. Итог — патч в десятки мегабайт, который несёт в себе всё изменение поведения, против десятков гигабайт полной модели.

Практические следствия масштабнее, чем звучат. Обучение помещается на один GPU. Рядом с одной базовой моделью живут десятки адаптеров — по одному на клиента, на тон, на язык. Поведение можно заменить, не трогая мозг. А с квантованной базой (QLoRA) вся процедура стала доступна далеко за пределами дата‑центровых бюджетов; исходная статья LoRA вышла в 2021 году, и экосистема вокруг неё давно стала стандартным способом адаптации открытых моделей.

LoRA не изменила назначение fine‑tuning — она изменила то, как часто вы можете его себе позволить. А это, в свою очередь, превратило правило из прошлого раздела из теоретического в практическое.

RAG: знания живут в вашей базе, а не в модели

RAG (генерация, дополненная поиском) переворачивает логику. Вместо того чтобы вталкивать факты в веса, вы оставляете их там, где им место, — в своих данных, — а в момент вопроса система находит релевантные фрагменты и передаёт модели как контекст. Модель не помнит ваши документы — она читает их перед ответом.

Одна эта инверсия снимает главные проблемы предыдущих разделов:

Потолок RAG — качество поиска. Векторный поиск находит текст, похожий на вопрос, а это не всегда текст, релевантный вопросу; нарезка на чанки разрывает знания по искусственным границам абзацев; и если честный ответ требует сложить три документа, которые друг о друге не упоминают, простой поиск по похожести начинает спотыкаться. Большинство разочаровывающих демо RAG ломаются именно на этом слое, а не на слое модели.

Вектор находит похожее, граф знает связи

Векторная база хорошо отвечает на один тип вопроса: какие фрагменты текста похожи на этот. Для заметной доли запросов к ассистенту это ровно нужный инструмент. Но есть целый класс вопросов, которые она даже не умеет сформулировать, потому что они не про похожесть — они про отношения.

Какой из наших клиентов связан с этим поставщиком? Какие внутренние страницы ссылаются на статью, только что потерявшую позиции? У каких из этих двух подрядчиков общий бенефициар? Чтобы ответить, системе нужно пройти по явным связям между сущностями — и именно это графовая база хранит как родную структуру: узлы (компании, люди, страницы, договоры) и рёбра (именованные отношения между ними), по которым можно идти цепочками любой длины.

Рабочий паттерн называется GraphRAG: из вашего массива текстов извлекаются сущности и связи в граф знаний, а в момент запроса система достаёт подграф — часто вместе с векторным поиском по тем же документам, — и модель видит не только релевантные фрагменты, но и связи между ними. Исследовательская команда Microsoft опубликовала первый подход GraphRAG, и с тех пор он стал признанным паттерном для массивов, где смысл живёт в связях, а не только в абзацах.

Граф окупается там, где связи — само содержание вопросов: CRM, логистика, комплаенс, внутренние базы знаний, густо переплетённые перекрёстными ссылками. Если ваш массив — по большей части линейная проза, проще и дешевле начать с векторной базы с гибридным поиском: графовый слой всегда можно добавить, когда вопросы его потребуют.

Что выбрать

ЗадачаИнструмент
Ассистент должен знать ваши документы, цены, правила — то, что меняетсяRAG
Ответ зависит от цепочек связей между сущностямиГраф знаний, GraphRAG
Стабильный тон, отраслевая терминология, строгий формат ответаFine‑tuning, обычно через LoRA
Дешевле и быстрее ответы при масштабеДистилляция в меньшую модель через fine‑tuning
Всё сразуГибрид: RAG + LoRA, векторная база + граф

Ещё одно практическое правило, экономящее бюджеты: начинайте с RAG. Большинство запросов «нам нужен fine‑tuning» при внимательном рассмотрении оказываются запросами «нам нужны наши данные в контексте». Fine‑tuning заслуживает своё место позже, когда нужно закрепить голос и формат, а граф — когда появляются вопросы, которые поиск по похожести не умеет формулировать.

Как это собираем мы

В наших проектах с агентами стек по умолчанию такой: RAG, база знаний клиента живёт в базе, которой клиент управляет сам, обновления действуют мгновенно, а ответы остаются проверяемыми. Там, где предметная область густо переплетена связями — клиенты, поставщики, страницы, события, — рядом с векторной базой стоит граф знаний и забирает вопросы через несколько шагов. Fine‑tuning через LoRA оставлен тому, в чём он хорош: стабильному голосу и строгому формату. Это сочетание не экзотика — это то, к чему сходятся продакшен‑системы, когда вычтешь модные слова.

Если выбираете между этими вариантами для своего ассистента — мы такие собираем, и первый разговор идёт о ваших данных и ваших вопросах, а не о модели месяца.

Итог

Вопрос никогда не в том, какая технология лучше. Он в том, какого рода знания нужны вашему ассистенту: навыки, факты или связи. Fine‑tuning держит навыки. RAG держит факты. Граф держит связи. Назовите знание правильно — и технология выберется сама.

Источники

Юрий Осипов

Юрий Осипов

Основатель, SEO и аналитика

Руководит Take the Space. Специализируется на техническом SEO, измеримой аналитике и видимости в ИИ‑поиске.

Все статьи автора →
Нужен ли нам fine‑tuning, чтобы ассистент знал наши документы?
Обычно нет. Fine‑tuning меняет веса модели — это про навыки, тон и формат, а не про факты. Документы, цены и правила, которые меняются со временем, должны жить в слое поиска (RAG): обновили источник — ответы сразу строятся на новой версии.
Что такое LoRA, одним предложением?
LoRA замораживает предобученную модель и обучает только небольшие низкоранговые матрицы‑адаптеры рядом с ней, поэтому донастройка весит десятки мегабайт вместо десятков гигабайт — дёшево обучается, легко хранится и меняется под задачу на той же базовой модели.
Когда графовая база лучше векторной?
Когда ответ зависит от цепочек связей, а не от похожего текста: вопросы через несколько шагов по клиентам, поставщикам, договорам, страницам или событиям. Векторная база возвращает фрагменты, похожие на запрос; граф позволяет пройти по явным связям и ответить на вопросы, которые поиск по похожести даже не умеет формулировать.
Можно ли совместить RAG и fine‑tuning?
Да, в продакшене это стандартное сочетание: RAG даёт актуальные факты и ссылки на источники, а донастройка через LoRA закрепляет тон, отраслевую терминологию и формат ответа, чтобы модель стабильно и корректно работала с найденным контекстом.
Что такое post‑training?
Всё, что происходит с базовой моделью после предобучения: обучение на инструкциях, RLHF и выравнивание по предпочтениям, плюс донастройка под конкретную область. Сам термин важен тем, что разделяет общие способности, которые обучают лаборатории, и поведение, которым управляете вы, адаптируя модель под свой бизнес.

Нужен высокопроизводительный сайт?

Давайте обсудим, как мы можем помочь вашему бизнесу расти.