RAG простыми словами: как ИИ отвечает по вашим документам

Обычная нейросеть отвечает из того, что прочитала при обучении. Спросите её о вашем регламенте отпусков, и она честно придумает что-нибудь правдоподобное, потому что вашего регламента в её памяти нет. RAG (retrieval augmented generation, «генерация с поиском») меняет порядок: перед ответом система находит подходящие куски в ваших документах и передаёт их модели вместе с вопросом. Модель формулирует ответ по этим кускам и показывает, откуда взяла.

Как это работает по шагам

Подготовка. Ваши документы режутся на небольшие фрагменты. Каждый фрагмент превращается в вектор: числовое представление смысла, при котором близкие по значению куски оказываются рядом. Всё складывается в векторную базу.

Запрос. Сотрудник спрашивает: «сколько дней отпуска за ненормированный график». Его вопрос тоже превращается в вектор, система ищет ближайшие фрагменты из вашей базы и берёт верхние несколько.

Ответ. Модель получает вопрос и найденные фрагменты и пишет ответ строго по ним. Если в фрагментах нет данных, честный ответ: «в документах этого нет», вместо сочинённого.

Понадобилось обновить регламент: заменяете файл в базе, и через минуту ответы уже опираются на новую версию. Переобучать ничего не нужно, в этом главная практическая прелесть схемы.

Что это даёт бизнесу

Первое: ответы по вашей действительности, а не по среднему интернету. Цены, регламенты, характеристики ваших услуг. Второе: проверяемость. Ответ идёт со ссылкой на конкретный пункт документа, и юрист спит спокойно. Третье: скорость. Вопрос, который раньше летел в чат «кто знает, как у нас с командировочными», теперь закрывается за секунды, а не за полдня.

Где RAG ломается

Три режима отказа, и все три про документы, а не про векторы. Устаревшая база: положили прошлогодний прайс, получаете уверенные ответы по прошлогодним ценам. Мусорная база: три версии одного регламента в разных папках, и модель цитирует ту, что была хуже отсканирована. Секретная база без доступа: RAG отдаёт то, что нашёл, поэтому права на документы должны работать так же, как в файловом хранилище, иначе любопытный сотрудник спросит у системы то, что ему знать не положено.

Лекарство: владелец базы, регулярная чистка дублей и понятные права. Технология тут вторична.

Дальше по теме: если документы приходят сканами, им сначала нужен конвейер распознавания текста, и только потом RAG. А если контур должен быть полностью вашим, выбору моделей и железа посвящена отдельная статья.