Разработка RAG-системы на заказ: этапы, сроки, стоимость

Что такое RAG простыми словами

Языковые модели вроде YandexGPT, GigaChat, Gemini или GPT хорошо пишут тексты, но ничего не знают о вашей внутренней кухне: прайс-листах, регламентах, технических заданиях, переписке с клиентами. Если задать вопрос напрямую, модель либо честно признается в незнании, либо, что хуже, правдоподобно придумает ответ.

RAG решает эту проблему в два шага. Сначала система ищет в вашей базе знаний фрагменты, релевантные вопросу. Затем передаёт их модели вместе с вопросом и инструкцией: «отвечай только по этим материалам и укажи источник». Знания хранятся отдельно от модели, поэтому их можно обновлять без переобучения, а каждый ответ — проверить.

Где RAG приносит деньги, а не просто эффект «вау»

Чаще всего RAG заказывают для четырёх сценариев. Первый — внутренний ассистент для сотрудников: поиск по регламентам, инструкциям и базе знаний вместо часового копания в сетевых папках. Второй — поддержка клиентов: бот или подсказки оператору на основе документации, истории обращений и условий договоров.

Третий — работа с договорами, тендерной и технической документацией: сопоставление требований, поиск противоречий, подготовка черновиков. Четвёртый — ассистент на сайте или в приложении, который отвечает по каталогу и FAQ точнее, чем обычный поиск.

Есть и побочный эффект. Аккуратно структурированная база знаний, подготовленная под RAG, полезна и для нейропоисковиков — Яндекс Нейро, Алисы, Perplexity: чёткие определения и прямые ответы на вопросы повышают шансы, что ваш контент будет процитирован.

Почему готового конструктора часто недостаточно

На рынке хватает конструкторов, где можно загрузить PDF и получить чат. Для прототипа и небольшой базы знаний этого бывает достаточно. Проблемы начинаются, когда документов тысячи, форматы разнородные — сканы, таблицы, презентации, выгрузки из 1С и CRM, — а ответ должен учитывать права доступа и быть точным до цифры.

Именно здесь нужна заказная разработка: подбор стратегии нарезки документов, гибридный поиск, реранкинг, интеграции с корпоративными системами, оценка качества на ваших вопросах и развёртывание в нужном контуре. Сравнение подходов — в таблице ниже.

Как устроена RAG-система изнутри

Под капотом RAG — это не одна модель, а конвейер из нескольких компонентов, и качество итогового ответа определяется самым слабым звеном. Чаще всего проблема не в языковой модели, а в поиске: если нужный фрагмент не попал в контекст, даже самая сильная модель ответит неверно.

Базовый стек выглядит так: парсеры документов, модель эмбеддингов (например, мультиязычные BGE-M3 или E5, либо эмбеддинги из Yandex Cloud), векторная база — Qdrant, Milvus, pgvector в PostgreSQL или OpenSearch, — реранкер и генеративная модель. Оркестрацию обычно строят на LangChain, LlamaIndex или на собственном коде. Ниже — путь данных от документа до ответа.

Схема выглядит простой, но дьявол в деталях: как нарезать длинный договор, как не потерять таблицу при парсинге, как совместить смысловой и ключевой поиск, как учесть права доступа. Поэтому проект выстраивают как последовательность этапов, где на каждом шаге проверяется качество, а не как разовую сборку из готовых библиотек.

Безопасность, 152-ФЗ и выбор модели

Для российских компаний вопрос «где живут данные» часто решающий. Есть три типовых варианта. Первый — облачный: YandexGPT или GigaChat через API российских провайдеров, быстрый старт и данные в РФ. Второй — зарубежные API (OpenAI, Gemini): подходят только для информации без персональных данных и коммерческой тайны. Третий — закрытый контур: open-source модели (Qwen, Llama, Mistral) на собственных или арендованных GPU-серверах, максимум контроля при более высоких затратах на инфраструктуру.

Отдельно проектируется разграничение доступа: права из исходных систем должны применяться на этапе поиска, а не после генерации, иначе в контекст модели попадут чужие документы. Не менее важны защита от prompt injection — вредоносных инструкций, спрятанных в документах, — и журналирование запросов для аудита.

Как измерять качество, а не гадать

RAG нельзя принять «по ощущениям». Нужен эталонный набор вопросов с правильными ответами и указанием документов-источников. На нём отдельно измеряют качество поиска и качество генерации: нашла ли система нужный фрагмент и не добавила ли модель лишнего. Для автоматизации используют фреймворки вроде RAGAS и подход LLM-as-judge, а спорные случаи проверяют эксперты предметной области.

После запуска оценка не заканчивается. Фиксируйте вопросы без ответа, дизлайки и обращения к оператору, а если ассистент работает на сайте — настраивайте цели в Яндекс Метрике и Google Analytics: переход к менеджеру, оформление заявки, повторное обращение. Именно эти данные подсказывают, каких документов в базе не хватает.

Сколько стоит и сколько занимает разработка

Ориентиры для рынка такие. Пилот на одном источнике данных и одном сценарии — 3–6 недель, примерно от 300 тысяч до 1 миллиона рублей. Полноценная система с несколькими источниками, интеграциями, правами доступа и интерфейсом — 2–4 месяца, от 1,5 до 5 миллионов. Корпоративные решения с закрытым контуром и высокой нагрузкой стоят дороже и считаются индивидуально.

На бюджет сильнее всего влияют пять факторов: объём и «чистота» данных, количество источников и форматов, требования к безопасности и способу развёртывания, глубина интеграций, нагрузка и допустимое время ответа. Не забывайте и про стоимость владения: токены или GPU, векторная база, мониторинг, актуализация индекса и доработки — по ориентиру это 15–25% от стоимости разработки в год.