RAG, fine‑tuning, LoRA и графовая память: что для чего на самом деле нужно
Каждый бизнес, заказывающий ИИ‑ассистента, упирается в одну и ту же развилку: откуда ассистент должен узнавать то, что ему нужно знать о вашей компании? Ответы звучат как меню из модных слов — fine‑tuning, RAG, векторная база, граф знаний, LoRA, post‑training, — и продающие презентации редко объясняют компромиссы, потому что универсальных компромиссов нет. Каждый из этих инструментов отвечает на свой вопрос. Перепутать их дорого: вы либо переобучаете модель при каждом изменении цены, либо выпускаете ассистента, который уверенно выдумывает то, чему его не учили.
Путаница понятна: эти слои лежат друг на друге, поэтому снаружи кажутся взаимозаменяемыми. Ими не являются. Эта статья — карта, которую мы рисуем клиентам перед выбором стека, и той же картой пользуемся сами.
Коротко
- Fine‑tuning и post‑training учат навыкам, а не фактам. Тон, терминология, формат ответа, скорость — да. Цены, документы и всё, что меняется, — никогда.
- LoRA сделала донастройку дешёвой. Вместо переобучения всей модели обучается небольшой адаптер: десятки мегабайт вместо десятков гигабайт, меняется под задачу.
- RAG — слой для фактов. Знания живут в вашей базе и подмешиваются в момент вопроса, поэтому обновления действуют мгновенно, а ответы можно снабдить ссылками на источники.
- Вектор находит похожее, граф знает связи. Вопросы через несколько шагов по сущностям и отношениям — территория графа.
- В продакшене это сочетается. RAG — факты, LoRA — голос и формат, графовая память — там, где важны связи.
Post‑training учит навыкам, а не фактам
Post‑training — зонтичный термин для всего, что происходит с базовой моделью после общего предобучения: обучение на инструкциях, обучение с подкреплением на человеческих оценках (RLHF) и любая отраслевая донастройка сверху. Слово стоит разобрать, потому что оно разделяет две вещи, которые часто сливаются: общие способности, которые обучают лаборатории, и поведение — то, чем управляете вы, адаптируя модель под свой бизнес.
Fine‑tuning означает изменение весов — долговременной памяти модели. Именно поэтому это неправильное место для фактов, которые меняются. Цена, пункт договора или характеристика товара, вшитая в веса, устаревает в день обновления прайса, а обновить её — значит запустить новое обучение, новую проверку качества, новый деплой. Модель, зазубрившая ваш каталог, будет отвечать по памяти и тогда, когда каталог уже неверен, — и делать это гладко, что для ассистента худшее из возможных свойств.
Зато в другом fine‑tuning действительно хорош:
- стабильный голос: ассистент говорит в вашем стиле и в лексике вашей отрасли;
- строгий формат ответа: всегда валидный JSON по вашей схеме, без акробатики промптами;
- дистилляция: большая, медленная и дорогая модель‑учитель сжимается в маленькую, быструю и дешёвую ученицу, сохраняющую большую часть качества на вашей конкретной задаче.
Навыки, а не факты. Держитесь этого правила — и половина терминологического тумана рассеется.
LoRA: донастройка внезапно стала дешёвой
Классическое возражение против fine‑tuning — цена. Полный проход обновляет все веса модели с миллиардами параметров, а это серьёзное железо и серьёзный счёт за каждый эксперимент. LoRA (Low‑Rank Adaptation) сняла само возражение: базовые веса замораживаются, а обучаются только небольшие низкоранговые матрицы — адаптеры, вставленные рядом. Итог — патч в десятки мегабайт, который несёт в себе всё изменение поведения, против десятков гигабайт полной модели.
Практические следствия масштабнее, чем звучат. Обучение помещается на один GPU. Рядом с одной базовой моделью живут десятки адаптеров — по одному на клиента, на тон, на язык. Поведение можно заменить, не трогая мозг. А с квантованной базой (QLoRA) вся процедура стала доступна далеко за пределами дата‑центровых бюджетов; исходная статья LoRA вышла в 2021 году, и экосистема вокруг неё давно стала стандартным способом адаптации открытых моделей.
LoRA не изменила назначение fine‑tuning — она изменила то, как часто вы можете его себе позволить. А это, в свою очередь, превратило правило из прошлого раздела из теоретического в практическое.
RAG: знания живут в вашей базе, а не в модели
RAG (генерация, дополненная поиском) переворачивает логику. Вместо того чтобы вталкивать факты в веса, вы оставляете их там, где им место, — в своих данных, — а в момент вопроса система находит релевантные фрагменты и передаёт модели как контекст. Модель не помнит ваши документы — она читает их перед ответом.
Одна эта инверсия снимает главные проблемы предыдущих разделов:
- Свежесть достаётся бесплатно. Источник обновлён один раз — ассистент со следующего запроса отвечает по новой версии. Без обучающего прогона посередине.
- Ответы можно проверить. Ответ опирается на найденные фрагменты, поэтому ассистент может сослаться на источники, а вы — сверить его с ними.
- Появляется разграничение доступа. Поиск происходит в вашей инфраструктуре, поэтому разным пользователям можно отдавать разные срезы одной и той же базы знаний.
Потолок RAG — качество поиска. Векторный поиск находит текст, похожий на вопрос, а это не всегда текст, релевантный вопросу; нарезка на чанки разрывает знания по искусственным границам абзацев; и если честный ответ требует сложить три документа, которые друг о друге не упоминают, простой поиск по похожести начинает спотыкаться. Большинство разочаровывающих демо RAG ломаются именно на этом слое, а не на слое модели.
Вектор находит похожее, граф знает связи
Векторная база хорошо отвечает на один тип вопроса: какие фрагменты текста похожи на этот. Для заметной доли запросов к ассистенту это ровно нужный инструмент. Но есть целый класс вопросов, которые она даже не умеет сформулировать, потому что они не про похожесть — они про отношения.
Какой из наших клиентов связан с этим поставщиком? Какие внутренние страницы ссылаются на статью, только что потерявшую позиции? У каких из этих двух подрядчиков общий бенефициар? Чтобы ответить, системе нужно пройти по явным связям между сущностями — и именно это графовая база хранит как родную структуру: узлы (компании, люди, страницы, договоры) и рёбра (именованные отношения между ними), по которым можно идти цепочками любой длины.
Рабочий паттерн называется GraphRAG: из вашего массива текстов извлекаются сущности и связи в граф знаний, а в момент запроса система достаёт подграф — часто вместе с векторным поиском по тем же документам, — и модель видит не только релевантные фрагменты, но и связи между ними. Исследовательская команда Microsoft опубликовала первый подход GraphRAG, и с тех пор он стал признанным паттерном для массивов, где смысл живёт в связях, а не только в абзацах.
Граф окупается там, где связи — само содержание вопросов: CRM, логистика, комплаенс, внутренние базы знаний, густо переплетённые перекрёстными ссылками. Если ваш массив — по большей части линейная проза, проще и дешевле начать с векторной базы с гибридным поиском: графовый слой всегда можно добавить, когда вопросы его потребуют.
Что выбрать
| Задача | Инструмент |
|---|---|
| Ассистент должен знать ваши документы, цены, правила — то, что меняется | RAG |
| Ответ зависит от цепочек связей между сущностями | Граф знаний, GraphRAG |
| Стабильный тон, отраслевая терминология, строгий формат ответа | Fine‑tuning, обычно через LoRA |
| Дешевле и быстрее ответы при масштабе | Дистилляция в меньшую модель через fine‑tuning |
| Всё сразу | Гибрид: RAG + LoRA, векторная база + граф |
Ещё одно практическое правило, экономящее бюджеты: начинайте с RAG. Большинство запросов «нам нужен fine‑tuning» при внимательном рассмотрении оказываются запросами «нам нужны наши данные в контексте». Fine‑tuning заслуживает своё место позже, когда нужно закрепить голос и формат, а граф — когда появляются вопросы, которые поиск по похожести не умеет формулировать.
Как это собираем мы
В наших проектах с агентами стек по умолчанию такой: RAG, база знаний клиента живёт в базе, которой клиент управляет сам, обновления действуют мгновенно, а ответы остаются проверяемыми. Там, где предметная область густо переплетена связями — клиенты, поставщики, страницы, события, — рядом с векторной базой стоит граф знаний и забирает вопросы через несколько шагов. Fine‑tuning через LoRA оставлен тому, в чём он хорош: стабильному голосу и строгому формату. Это сочетание не экзотика — это то, к чему сходятся продакшен‑системы, когда вычтешь модные слова.
Если выбираете между этими вариантами для своего ассистента — мы такие собираем, и первый разговор идёт о ваших данных и ваших вопросах, а не о модели месяца.
Итог
Вопрос никогда не в том, какая технология лучше. Он в том, какого рода знания нужны вашему ассистенту: навыки, факты или связи. Fine‑tuning держит навыки. RAG держит факты. Граф держит связи. Назовите знание правильно — и технология выберется сама.
Источники
- LoRA: Low‑Rank Adaptation of Large Language Models — исходная статья об адаптерной донастройке.
- GraphRAG: Unlocking LLM discovery on narrative private data — Microsoft Research о поиске на основе графа.
Юрий Осипов
Основатель, SEO и аналитика
Руководит Take the Space. Специализируется на техническом SEO, измеримой аналитике и видимости в ИИ‑поиске.