RAG: что это и как научить ИИ отвечать по документам компании

RAG это способ научить нейросеть отвечать по документам вашей компании: перед ответом система находит в базе знаний нужные фрагменты и передаёт их модели вместе с вопросом. Так ассистент отвечает по вашим регламентам, прайсам и инструкциям, а не по общим знаниям из интернета, и может показать, из какого документа взят ответ. Ниже разберём, как устроен RAG, чем он отличается от загрузки файла в чат и от дообучения, как подготовить документы, почему RAG всё равно ошибается и как проверить качество до запуска.

Что такое RAG простыми словами

RAG расшифровывается как Retrieval-Augmented Generation, по-русски «генерация, дополненная поиском». Название описывает суть: сначала поиск (retrieval) нужных сведений, потом генерация (generation) ответа на их основе. Термин появился в научной работе исследователей Facebook AI Research и их коллег в 2020 году.

Проще всего представить экзамен с открытой книгой. Обычная нейросеть отвечает по памяти: что выучила при обучении, то и говорит, а чего не знает, может уверенно придумать. RAG разрешает ей перед ответом заглянуть в ваши документы. Модель не запоминает их навсегда, а каждый раз берёт свежие фрагменты под конкретный вопрос.

Важно понимать: RAG это не отдельная программа и не модель, а способ построить систему. В ней работают две части: поиск по базе знаний и языковая модель, которая пишет ответ по найденному.

Чем RAG отличается от чат-бота, файла в чате и дообучения

Научить нейросеть вашим данным можно несколькими способами, и RAG выигрывает тогда, когда документов много и они меняются.

Способ	Как работает	Когда подходит	Главное ограничение
Обычный чат-бот	Отвечает по общим знаниям модели	Общие вопросы, тексты, идеи	Не знает ваших цен, правил и документов
Файл в окне чата	Вы вставляете документ, модель читает его целиком	Разовая задача с одним-двумя документами	Каждый раз вручную, объём ограничен, база не обновляется сама
RAG	Система сама находит нужные фрагменты в базе из сотен документов	Поддержка, база знаний, инструкции, часто меняющиеся данные	Качество зависит от поиска и порядка в документах
Дообучение модели	Модель дополнительно обучают на примерах	Особый стиль, формат, узкая терминология	Дорого, данные «застывают», новые правила требуют нового обучения

Для большинства задач малого бизнеса дообучение не нужно. Если прайс поменялся, в RAG достаточно заменить файл, а дообученную модель пришлось бы обучать заново.

Как работает RAG: пять шагов

RAG-система проходит пять шагов: готовит документы заранее, а при каждом вопросе ищет, собирает задание, генерирует ответ и показывает источник.

1. Индексация. Документы делят на небольшие фрагменты (их называют чанками) и превращают в числовые векторы, которые отражают смысл текста. Всё это складывают в поисковый индекс.
2. Поиск. Вопрос пользователя тоже превращают в вектор и находят самые близкие по смыслу фрагменты. Хорошие системы сочетают поиск по смыслу с обычным поиском по словам: так находятся и перефразированные вопросы, и точные артикулы, фамилии, номера.
3. Сборка задания. Найденные фрагменты, вопрос и правила («отвечай только по документам, если ответа нет, так и скажи») собираются в промпт для модели.
4. Генерация. Модель пишет ответ своими словами, опираясь на фрагменты.
5. Ссылка на источник. Система показывает, из какого документа взят ответ, чтобы человек мог проверить.

Например, в Yandex AI Studio поисковый индекс по умолчанию гибридный: он сочетает поиск по смыслу и поиск по словам. Векторный поиск находит синонимы, а текстовый выручает с артикулами, именами и сокращениями. Как правильно писать правила для модели на третьем шаге, мы подробно разбирали в статье о промптах.

Словарик: термины RAG простыми словами

В разговорах о RAG постоянно звучат технические слова. Вот что они значат без математики.

Термин	Что это	Почему важно владельцу
Чанк (фрагмент)	Кусок документа, по которому идёт поиск	Слишком мелкие куски теряют смысл, слишком крупные тащат лишнее
Эмбеддинг	Набор чисел, который описывает смысл текста	Благодаря ему «как вернуть товар» находит раздел «возврат и обмен»
Поисковый индекс	Хранилище фрагментов и их эмбеддингов	Его нужно обновлять при изменении документов
Гибридный поиск	Поиск по смыслу плюс поиск по словам	Находит и перефразированные вопросы, и точные артикулы
Контекст	Всё, что модель видит при ответе: вопрос, фрагменты, правила	Если нужного фрагмента нет в контексте, модель его не учтёт
Галлюцинация	Уверенный, но выдуманный ответ	Главный риск, ради которого и нужны ссылки на источник

Где RAG помогает малому бизнесу

RAG полезен везде, где люди часто задают вопросы, ответы на которые уже записаны в документах. Ниже типовые сценарии и то, что нужно для каждого.

Если вы ещё выбираете, нужен ли вам ассистент для клиентов или для команды, посмотрите, как устроен ИИ-ассистент для бизнеса на ваших материалах. Когда ассистент должен не только отвечать, но и выполнять действия, например создавать заявки, это уже ИИ-агент.

Как подготовить документы для RAG

Качество ответов RAG определяется не моделью, а порядком в документах. Если в базе три версии прайса, ассистент может взять любую. Поэтому подготовка базы знаний обычно занимает больше времени, чем техническая настройка.

Что в базе	Проблема	Что сделать
Несколько версий одного документа	Ответ по устаревшей версии	Оставить одну действующую, старые убрать в архив вне индекса
Сканы и фото документов	Текст не распознан или распознан с ошибками	Распознать и проверить, лучше сохранить текстом
Большие таблицы и прайсы	Строка теряет заголовки столбцов при делении на фрагменты	Разбить на понятные части или отдавать цены из учётной системы напрямую
Переписка из чатов	Много шума, решения разбросаны	Выписать итоговые правила в отдельный документ
Документы для разных ролей	Клиент увидит внутренние условия	Разделить индексы или настроить права доступа
Документы без даты и автора	Непонятно, можно ли им верить	Назначить владельца и дату проверки

Простое правило: в индекс попадает только то, что вы готовы подписать как действующее правило компании. Всё остальное ассистенту лучше не знать.

Почему RAG ошибается и как это проверить

RAG снижает число выдуманных ответов, но не убирает их полностью. Ошибка может случиться на любом шаге, и важно понимать, на каком.

Проверяйте RAG до запуска на наборе реальных вопросов, а не на трёх удачных примерах.

1. Соберите 30–50 настоящих вопросов из почты, чатов и звонков. Добавьте трудные: с опечатками, с двумя вопросами в одном, вопросы, ответа на которые в базе нет.
2. Запишите правильные ответы и документ, из которого они берутся. Это делает сотрудник, который отвечает на такие вопросы сейчас.
3. Прогоните вопросы через систему и отметьте по каждому: верный ли ответ, тот ли документ указан, честно ли система сказала «не знаю», когда ответа нет.
4. Разберите ошибки по шагам по схеме выше и исправьте причину: документы, поиск или правила для модели.
5. Повторяйте проверку после каждого изменения базы или настроек на том же наборе вопросов.

Три цифры, за которыми стоит следить: доля верных ответов, доля ответов с правильной ссылкой на документ и доля честных отказов там, где ответа нет. Кто и как проверяет спорные ответы после запуска, разобрано в статье об ассистенте по базе знаний и контроле человека.

Безопасность: доступы, персональные данные и чужие инструкции

RAG открывает модели доступ к вашим документам, поэтому вопрос «кто что может узнать» нужно решить до запуска.

• Права доступа. Ассистент для клиентов не должен видеть внутренние инструкции, себестоимость и данные сотрудников. Самый надёжный способ: отдельный индекс только с публичными документами.
• Персональные данные. Если в документах есть ФИО, телефоны и адреса клиентов или сотрудников, на них распространяется 152-ФЗ. Лучше убрать такие данные из базы или обезличить. Проверьте схему с юристом.
• Хранение запросов. Узнайте, сохраняет ли сервис модели ваши запросы. Например, в Yandex AI Studio запросы по умолчанию сохраняются, а отключить это можно при работе через API.
• Чужие инструкции в документах. OWASP описывает косвенную промпт-инъекцию: в документ прячут текст вроде «игнорируй правила», и модель может ему последовать. В примерах OWASP прямо упоминается подмена документа в хранилище RAG. Защита: загружать в индекс только проверенные документы, не давать модели лишних прав, важные действия оставлять человеку.

Облачный сервис или свой сервер

RAG можно собрать на облачном сервисе или развернуть целиком у себя, и выбор зависит в первую очередь от того, насколько чувствительны документы.

	Облачный сервис	Свой сервер
Запуск	Быстрее: индекс и модель уже готовы	Дольше: нужно поставить и настроить модели
Документы	Уходят во внешний сервис по его условиям	Остаются внутри компании
Затраты	Оплата по тарифу за запросы и хранение	Сервер с видеокартой, электричество, обслуживание
Качество модели	Доступны крупные современные модели	Ограничено мощностью вашего железа
Кому подходит	Публичные документы, поддержка клиентов, пилоты	Договоры, персональные данные, коммерческая тайна

Частый компромисс: пилот на облачном сервисе с обезличенными документами, а после проверки решение о переносе к себе.

Сколько стоит RAG и окупится ли он

Стоимость RAG складывается из нескольких частей, и самая недооценённая из них это подготовка документов.

• Подготовка базы знаний: отбор, чистка, распознавание, назначение владельцев.
• Настройка: индекс, поиск, правила для модели, интерфейс (чат на сайте, бот, окно в CRM).
• Работа модели: оплата запросов к модели и хранения индекса по тарифам выбранного сервиса или своё железо.
• Сопровождение: обновление документов, проверка качества, разбор ошибок.

Окупаемость считают от времени сотрудников, которое уходит на ответы по документам. Подставьте свои цифры.

Как запустить RAG: пилот за шесть шагов

RAG лучше начинать с одного узкого сценария, где вопросов много, а ответы уже записаны.

1. Выберите один сценарий. Например, вопросы клиентов о доставке и оплате или вопросы новичков о правилах работы.
2. Соберите и почистите документы только для этого сценария.
3. Соберите набор проверочных вопросов с правильными ответами, как описано выше.
4. Настройте систему с правилом «отвечай только по документам и указывай источник».
5. Запустите для сотрудников, а не сразу для клиентов. Пусть ассистент предлагает черновик, а человек отправляет.
6. Через месяц сравните цифры: доля верных ответов, время ответа, сколько вопросов закрыто без человека. Только потом решайте, открывать ли ассистента клиентам и добавлять ли новые сценарии.

Если хотите понять, подойдёт ли RAG под ваши задачи и с чего начать, это удобно обсудить на этапе внедрения ИИ в бизнес: сначала выбираем сценарий, потом делаем пилот и смотрим на цифры.

Чек-лист: готовы ли документы и процессы к RAG

Отметьте, что уже сделано. Список подходит и для проверки ассистента, который работает, но часто ошибается.

Когда RAG не нужен

• Документов мало. Если вся база это пять страниц, её можно целиком вставлять в промпт.
• Вопросов мало. Сотрудник ответит быстрее, чем окупится настройка.
• Ответы в документах не записаны. Сначала нужна база знаний, без неё искать нечего.
• Нужны точные данные в реальном времени. Остатки, статусы заказов и баланс лучше получать из учётной системы по API, а не из документов.
• Нужен стиль, а не знания. Если задача в том, чтобы модель писала в особом тоне, хватит хорошего промпта с примерами.