Что такое RAG и сколько стоит чат-бот по документам компании?

Что такое RAG простыми словами?

RAG (retrieval-augmented generation, «генерация с опорой на поиск») — способ заставить нейросеть отвечать по вашим документам. Перед ответом система ищет в базе файлов подходящие фрагменты, передаёт их модели и просит ответить только по ним, со ссылкой на источник. Это экзамен с открытой книгой: ответ строится по найденной странице, а не по памяти.

Отсюда два следствия. Модель не дообучается: файлы лежат в поисковом индексе рядом с ней, а не внутри. И ответ не лучше поиска: дубли, устаревшие версии и сканы без текста дают уверенные, но неверные ответы.

Сколько стоит разработка чат-бота по документам на RAG?

Опубликованные оценки расходятся в десять и более раз, потому что описывают разные проекты. Ни одна из них не является коммерческим предложением.

Строку VITON¹³ стоит читать как более узкий объём, а не скидку: пакет ограничивает число документов, источников, групп и тестовых вопросов, а распознавание сканов, интеграции и платежи провайдерам в цену не входят.

Почему два предложения на один и тот же бот отличаются в разы?

• Подготовка данных: по оценке Хамзы Шаббира, это 30–40% бюджета. Папка чистого текста готовится за день, архив сканов — за недели. Распознавание печатного текста в Yandex AI Studio стоит 0,1321 ₽ за страницу, то есть около 530 ₽ за 4 000 страниц, но проверка результата — работа человека.
• Источники: каждая система (диск, вики, почта) требует своего разбора файлов.
• Права доступа: если сотрудники читают разные документы, правила нужно перенести из системы-источника в поиск, а не фильтровать ответ задним числом.
• Оценка качества: набор из 50–100 вопросов с эталонными ответами Хамза оценивает в $1 000–$3 000. В пакете VITON¹³ есть 50 тестовых вопросов.
• Где живут данные: размещение на своих серверах или в российском облаке добавляет расходы на хостинг и сопровождение.
• Кто делает: по словам Хамзы, агентства просят в два-три раза больше одиночного инженера за тот же объём.

Готовый сервис или своя сборка: что есть и сколько стоит?

Если команда уже сидит в одной экосистеме, готового сервиса часто хватает. В таблице — цены с официальных страниц на сегодня.

Для 20 сотрудников «Алиса AI для бизнеса» после акции стоит 23 980 ₽ в месяц, около 287 760 ₽ в год (арифметика автора); ChatGPT Business — $4 800 в год при оплате за год. Это диапазон простой разработки, поэтому спрашивайте, чего подписка не умеет: работать внутри вашего сайта или Telegram-бота, отвечать посторонним, применять правила доступа на уровне документа.

Сколько стоит работа RAG-бота в месяц?

После запуска работают три счётчика: индексация файлов, хранение индекса и токены на каждый вопрос. Индексация почти бесплатна: 200 документов по 20 страниц, примерно 600 токенов на страницу, — это 2,4 млн токенов. Эмбеддинги стоят 0,0101 ₽ за 1 000 токенов в Yandex AI Studio и 0,014 ₽ в GigaChat, то есть 24–34 рубля.

Основной счётчик — вопросы. Возьмём вопрос на 3 000 входящих и 400 исходящих токенов (инструкция, пять найденных фрагментов и сам вопрос; такие размеры использует Хамза Шаббир) и 20 человек, которые задают по пять вопросов в день 22 рабочих дня: 2 200 вопросов.

Итого модель для небольшой команды стоит от сотен до нескольких тысяч рублей в месяц. Добавьте хостинг: по оценке Хамзы, $25–$150 в месяц. Главная статья расходов — человек, который держит документы актуальными и читает вопросы, оставшиеся без ответа.

Где RAG-боты всё ещё ошибаются?

• Находится не тот фрагмент: таблица или пункт, разрезанные пополам, дают ответ по половине условия, а скан без текстового слоя поиск не видит.
• Старые версии и дубли: в примере vc.ru бесплатная доставка раньше была от 3 000 ₽, теперь от 5 000 ₽, но старые условия никто не удалил, и поиск приносит оба куска.
• Выдумки не исчезают: в исследовании Стэнфорда юридические RAG-сервисы LexisNexis и Thomson Reuters ошибались в 17–33% ответов, меньше, чем универсальный чат-бот, но далеко от заявлений вендоров.
• Утечка прав: OWASP называет слабый контроль доступа к векторным базам и общие хранилища, где контекст перетекает между пользователями, одной из главных уязвимостей LLM-приложений.
• Отравленные документы: файл со скрытыми инструкциями может подтолкнуть ответ; OWASP советует проверять источники и вести журнал поиска.

Компания отвечает за слова своего ассистента. В деле Moffatt v. Air Canada (2024 BCCRT 149) трибунал Британской Колумбии отклонил довод авиакомпании, что чат-бот — отдельное лицо, и обязал её выплатить клиенту 812,02 канадского доллара за неверный совет о тарифе. Бот был клиентским, но сотрудники так же действуют по ответам внутреннего ассистента.

Что делать с 152-ФЗ, если в документах есть персональные данные?

Часть 5 статьи 18 закона 152-ФЗ в редакции от 28 февраля 2025 года не допускает запись, хранение и извлечение персональных данных граждан России с использованием баз данных за пределами России, кроме случаев из пунктов 2, 3, 4 и 8 части 1 статьи 6. Для RAG это значит: если в документах есть ФИО, телефоны или паспортные данные, файлы, индекс и сервер приложения должны находиться в России, а отправку таких текстов в зарубежный API стоит разобрать с юристом.

Это не юридическая консультация. Спросите юриста или ответственного за персональные данные, где провайдер обрабатывает данные, что он хранит и используются ли файлы для обучения.

Собирать, покупать или пока ничего не делать: какой чек-лист ваш?

• RAG не нужен, если вся библиотека — до 100–200 страниц и редко меняется: Хамза Шаббир советует загрузить её в кэшируемый запрос, а окно рассуждений ChatGPT Business — около 320 страниц.
• Берите готовый сервис, если команда уже в одной экосистеме, пользователей десятки, а встроенных прав доступа хватает.
• Берите конструктор бота для сайта, если аудитория — посетители, а содержимое публичное.
• Собирайте своё, если разные группы читают разные документы, ответ должен ссылаться на фрагмент, источники лежат в нескольких системах, нужен свой интерфейс (сайт, Telegram) или повторяемый набор тестов, либо данные должны остаться в российском контуре.