3SELLER Journal 3SELLER →

Как создать RAG: 7 шагов пайплайна, который отвечает по документам, а не выдумывает

21.11.2026

Первый свой RAG я собрал за один вечер. Он работал и отвечал неправильно. Код чистый, модель топовая, а на вопрос про условия возврата система уверенно цитировала раздел про доставку. Причина оказалась тупой: я резал документы по 2000 символов, и в чанк попадала половина оглавления плюс кусок следующей главы. Эмбеддинг такого куска описывал всё сразу и ничего конкретно.

С тех пор я переписал десяток пайплайнов. Вывод один: 80% качества RAG решается до первой строчки кода. Сама архитектура при этом примитивная. Ниже - по шагам, с цифрами и с тем, что ломается на проде через месяц.

RAG это поиск плюс генерация, и ничего больше

Retrieval augmented generation расшифровывается буквально. Есть запрос пользователя на естественном языке. Есть база знаний: документы, инструкции, статьи, тикеты поддержки. Система ищет релевантные фрагменты, подставляет их в промпт вместе с вопросом и отдаёт языковой модели. Модель отвечает, опираясь на найденные куски, а не на то, что лежит у неё в весах.

Момент, который на старте путают почти все: модель не обучается на ваших документах. Она читает их в момент ответа. Никакого дообучения, никакого файнтюна. База обновилась - ответы сразу стали актуальными. Именно поэтому RAG обгоняет файнтюн в 90% корпоративных задач.

Корпус бывает структурированным (таблицы, CRM, база заказов) и неструктурированным (PDF, вики, переписка). На практике почти всегда комбинация. Это первая сложность, и она не про код.

Данные важнее модели, и тут сливаются почти все

Соберите материалы и приведите их в порядок. Скучный этап, который хочется пропустить, но именно он определяет, будет система отвечать по делу или нет. Двухколоночный PDF, распознанный криво, даёт мусорные чанки. Никакая Chat GPT 6 Astra их не спасёт.

Мой чек-лист на этом этапе. Вытаскиваю текст с сохранением структуры: заголовки, списки, таблицы. Таблицы разбираю отдельно, потому что наивный парсер склеивает ячейки в кашу, и «цена 149» превращается в «цена149рубсрокдействия». Сканы прогоняю через OCR и проверяю глазами хотя бы 20 страниц из тысячи. Дубликаты удаляю: три версии одного регламента в индексе гарантируют противоречивые ответы.

На Reddit в тредах про RAG инженеры вспоминают один и тот же грабель: парсинг таблиц и колонтитулов. Половина жалоб на «глупую модель» лечится не моделью, а повторной нормализацией PDF.

К каждому фрагменту цепляю метаданные: источник, дата, раздел, тип документа, права доступа. Дата критична. Без неё система одинаково уверенно цитирует регламент 2021 года и его замену 2025-го.

Чанкинг решает больше, чем выбор модели

Документы надо разбить на фрагменты. Размер подбирается под данные, но рабочий диапазон я вывел для себя: 400-800 токенов с перекрытием 10-15%. Меньше 200 - теряется контекст, модель видит обрывок мысли. Больше 1200 - эмбеддинг размывается, и поиск находит «что-то про это» вместо точного ответа.

Режу по смысловым границам, а не по количеству символов. Сначала заголовок раздела, потом его содержимое. Если раздел длиннее лимита, режу по абзацам, а в каждый чанк дописываю заголовок родительского раздела. Хитрость мелкая, прирост заметный: чанк «срок возврата 14 дней» без заголовка «Возврат товара» ищется в разы хуже.

Отдельная боль - документы с иерархией: пункт 4.2.1 отсылает к пункту 2.3. Такие ссылки разворачиваю на этапе подготовки, иначе модель получает фрагмент без смысла.

Эмбеддинги: текст превращается в массив чисел

Каждый чанк уходит в эмбеддинг-модель, и она возвращает вектор. Типичная размерность - 1024 числа, у некоторых моделей 768 или 1536. Близкие по смыслу тексты дают близкие векторы, расстояние считается через косинусную близость. На практике это скалярное произведение нормализованных векторов, и считается оно за микросекунды.

Ошибку, которую я видел у трёх команд подряд, опишу отдельно. Индексируют одной моделью, а запросы векторизуют другой. Или обновили модель эмбеддингов и переиндексировали половину базы. Векторы из разных пространств несравнимы, поиск тихо деградирует, а выглядит как «модель тупит». Модель эмбеддингов фиксируется один раз и меняется только вместе с полной переиндексацией.

Векторы складываются в векторную базу. Для прототипа хватит FAISS в памяти или pgvector прямо в Postgres, если база уже есть. Для продакшена с миллионами чанков смотрят в сторону Qdrant, Weaviate или managed-решений. Разница в скорости фильтрации по метаданным и в том, кто чинит упавший узел.

Поиск: гибрид, а не только вектора

Чистый семантический поиск красив на демо и подводит на реальных данных. Вектора плохо ловят точные совпадения: артикулы, номера договоров, фамилии, аббревиатуры. Спросите «что с заказом 4471-А» - семантический поиск вернёт всё про заказы и ничего про 4471-А.

Поэтому ставлю гибрид. Векторный поиск плюс лексический по BM25 или TF-IDF, результаты объединяю через reciprocal rank fusion. BM25 вытаскивает точные термины, векторный добирает перефразировки и синонимы. Дальше беру топ-10-20 кандидатов и прогоняю через реранкер - кросс-энкодер, который смотрит на пару «запрос-документ» целиком.

Реранкер добавляет 50-150 миллисекунд и обычно поднимает точность попадания в топ-3 на 15-25%. В обсуждениях на Reddit практикующие RAG-инженеры называют ту же цифру и тот же вывод: это самая выгодная инвестиция в латентность. Без него в промпт уезжает мусор, и модель фантазирует на тему мусора.

Генерация: скучный промпт, который решает всё

Найденные чанки складываются в контекст вместе с вопросом и уходят в языковую модель. Промпт пишу предельно прямолинейно, без креатива. Роль, инструкция отвечать только по контексту, сам контекст с номерами источников, вопрос. И обязательная фраза: если в контексте нет ответа, скажи что информации нет, не придумывай.

Без этой строчки любая модель достроит ответ из общих знаний, и вы получите красивое вранье уверенным тоном. Температуру ставлю 0-0.2. Прошу ссылаться на номера источников, чтобы пользователь мог проверить. Дисциплинирует и модель, и вас: сразу видно, когда ответ построен на одном случайном чанке.

Прототип собирается за вечер, и это правильно

Не начинайте с инфраструктуры. Возьмите один документ, лучше научную статью на 30 страниц, и соберите игрушечный пайплайн. Нарезали на чанки, векторизовали, положили в FAISS, посчитали косинусную близость к вопросу, взяли топ-10, отсортировали реранкером, самый релевантный чанк отдали в LLM.

Я гоняю такой прототип на статье про DeepSeek R1: два вопроса, тензор размерности 2 на 1024, поиск, реранк, генерация. Полчаса работы, и видно своими глазами, где рвётся: на чанкинге, на поиске или на промпте. Дальше меняете одну деталь за раз и смотрите на результат.

Если писать с нуля не хочется, на GitHub лежит куча готовых репозиториев с RAG-системами под разные стеки. Выбираете тот, что совпадает с вашей инфраструктурой, и разбираете. Многие обкатаны на AWS, так что при наличии доступа можно потыкать руками без разворачивания всего локально.

Что ломается на проде через месяц

Прототип отвечает. Приходит отдел поддержки, и начинается. Документы обновляются, а индекс нет, и система неделю цитирует старую цену. Появляются вопросы, на которые в базе ответа нет, и модель вместо «не знаю» начинает сочинять. Кто-то загружает скан договора с подписями и печатями, OCR выдаёт бессмыслицу, а чанк попадает в топ выдачи.

Отдельно про права доступа. Если в одной базе лежат HR-документы и общая вики, менеджер получит ответ по зарплатной вилке. Фильтрация по метаданным на этапе поиска, а не после генерации. Архитектурное требование, а не настройка.

И латентность. Эмбеддинг запроса, векторный поиск, BM25, слияние, реранк, генерация. Каждый шаг по 50-200 мс, и вот уже 3 секунды до первого токена. Лечится кэшем частых вопросов и стримингом ответа. Пользователь должен видеть, что система думает, а не смотреть на спиннер.

Оценка: 50 вопросов спасают от самообмана

Без метрик вы улучшаете наугад. Соберите 50 реальных вопросов с эталонными ответами и источниками. Считайте две вещи: попал ли правильный чанк в топ-k (recall) и не содержит ли финальный ответ утверждений, которых нет в контексте (faithfulness). Первое чинится поиском и чанкингом, второе промптом и моделью.

Прогоняйте набор после каждого изменения. Меняете размер чанка - прогоняете. Меняете реранкер - прогоняете. Иначе получится классика: улучшили один тип вопросов, сломали три других и не заметили.

Где брать модели, если вы в России

Пайплайн готов, а доступ к флагманским моделям из России упирается в карты, VPN и лимиты. Я для этого использую 3GPT от 3SELLER. Это ИИ-роутер с прямым доступом из России к последним флагманским моделям: Chat GPT 6 Astra, Chat GPT 5.5, Chat GPT 6.1 Sol, the model 5, 5.1 и 5.5. Плюс Nano Banana для изображений и генерация видео.

Стоит от 149 рублей. Пополнить баланс можно российской картой, через СБП или криптой. Для RAG это ровно то, что нужно на этапе генерации: один эндпоинт, переключение модели прямо в чате, никакой возни с иностранными платёжками. Гоняю один и тот же промпт через разные модели и смотрю, какая меньше фантазирует на моём наборе документов.

Доступ к флагманским нейросетям через 3GPT

Получить доступ ко всем флагманским моделям нейросетей из России можно на официальном сайте 3GPT - https://3seller.com/3gpt.

Готовые ИИ-агенты, если строить не хочется

Иногда RAG не нужен. Нужен ответ по трём регламентам и одному прайсу. Тогда быстрее взять готового агента под задачу - https://3seller.com/ai/agents. Выбираете агента, начинаете общение, а модель меняете прямо в чате, если текущая не тянет.

Готовые ИИ агенты под задачи

Для задач вроде «ответить клиенту по базе знаний» этого хватает. Для чего-то серьёзнее с обновлением индекса и контролем доступа придётся строить свой пайплайн. Зато прототип на агенте проверяет гипотезу за час, а не за неделю.

Картинки и видео закрываются там же

В RAG-проектах внезапно всплывает визуал. Нужны превью для карточек товаров, иллюстрации в инструкции, обложки. Реалистичные изображения генерирую через https://3seller.com/3gpt-image, там же видео и голос.

Генерация изображений через 3GPT

Инструменты генерации изображений и видео

С чего начать на этой неделе

Возьмите один документ на 20-30 страниц, нарежьте на чанки по 600 токенов с перекрытием 100, векторизуйте одной моделью и положите в FAISS. Задайте пять вопросов, ответы на которые знаете. Посмотрите, какие чанки пришли в топ-3. Половина будет мимо, и вы увидите причину: кривой парсинг, слишком крупный чанк, отсутствие заголовка в тексте.

Почините это до того, как добавите реранкер и гибридный поиск. Потом добавьте. Потом соберите 50 вопросов и меряйте. Такой порядок экономит недели, которые обычно уходят на перебор моделей там, где проблема была в нарезке текста.

← Вернуться к блогу

Читать дальше