Что такое RAG, без сложных терминов

RAG (генерация с дополнением извлечением) означает, что чат-бот сначала ищет ответ в вашем контенте - на вашем сайте, в FAQ и документах - и затем формулирует ответ на основе найденного, а не отвечает из общего обучения.

RAG расшифровывается как "генерация с дополнением извлечением". Эти три слова делают большую работу, поэтому вот простое объяснение.

Когда клиент спрашивает у чат-бота "во сколько вы открываетесь в воскресенье?", за кулисами происходит одно из двух. Либо бот отвечает на основе того, что он узнал во время обучения - что не включает ваш бизнес - и придумывает ответ. Либо бот сначала ищет ответ в вашем контенте, находит страницу с графиком работы и формулирует ответ на основе того, что там действительно написано.

Второй вариант - это RAG.

Представьте это как экзамен с открытой книгой. Без RAG чат-бот проходит экзамен по вашему бизнесу с закрытой книгой - и никогда не видел учебник. С RAG у него есть открытая книга, он находит нужную страницу и читает ответ перед тем, как ответить.

Без RAG и с RAG: пример с ценами

Без RAG бот дает общий ответ о типичных ценах; с RAG он называет вашу фактическую цену и что входит в план.

Предположим, вы продаете пакеты коучинга: $99 стартовый, $299 профессиональный, $599 элитный. Клиент спрашивает: "Сколько стоит профессиональный план?"

Без RAG:

"Цены зависят от поставщика и плана. Большинство пакетов коучинга варьируются от $50 до $1,000 в месяц. Рекомендую уточнить у компании для точной информации."

Технически правильно. Полностью бесполезно. Клиент уходит.

С RAG:

"Профессиональный план стоит $299/месяц и включает еженедельные индивидуальные сессии, неограниченные сообщения и персонализированный план развития. Хотите ссылку для начала?"

Конкретно, точно, полезно. Вот в чем разница, которую делает RAG - и это разница между ботом, который привлекает клиентов, и ботом, который их теряет.

Как это работает, кратко

Три шага: ваш контент разбивается на поисковые части (индекс), находятся наиболее релевантные части (извлечение), и модель пишет ответ на их основе (генерация).

Вам не нужно разбираться в инженерии, но вот 3-шаговая схема, чтобы вы понимали, о чем говорят поставщики.

  1. Индекс. Система читает ваш сайт, FAQ и загруженные документы - и разбивает их на поисковые части. Это происходит один раз при настройке, а затем каждый раз, когда ваш контент меняется.
  2. Извлечение. Когда клиент задает вопрос, система ищет в этих частях наиболее релевантные. Не просто совпадение по ключевым словам - семантический поиск. Она понимает, что "сколько стоит" и "какая цена" - это один и тот же вопрос.
  3. Генерация. Релевантные части передаются модели AI вместе с вопросом клиента. Модель пишет ответ на основе этих частей, а не на основе общего обучения.

Клиент видит один связный ответ. За кулисами произошло три вещи.

Почему RAG лучше дообучения для большинства бизнесов

Для большинства бизнесов RAG дешевле, обновляет контент за считанные минуты вместо дней, и может указать страницу, откуда взят ответ. Дообучение подходит для узких случаев, таких как специализированная лексика.

Альтернатива RAG - дообучение, то есть обучение базовой AI модели конкретно на данных вашего бизнеса. Это звучит привлекательно. Для большинства малых и средних бизнесов это неправильный выбор.

Стоимость. Дообучение обычно стоит в 100 раз дороже, чем работа чат-бота на основе RAG с теми же данными. Математика становится жестокой на любом масштабе.

Скорость обновления. Когда вы меняете цены, график работы или услуги, RAG обновляется так быстро, как вы можете переиндексировать контент - минуты, часто автоматически. Модели с дообучением нужно переобучать, что занимает от дней до недель. Измените цены в понедельник, и бот с дообучением может все еще называть старые цены в пятницу.

Прозрачность. Хорошие реализации RAG могут указать страницу-источник для каждого ответа ("это взято с вашей страницы цен"). Модели с дообучением не могут - они впитали информацию в свои веса. Когда клиент спрашивает "откуда это?", у вас нет ответа.

Для большинства бизнесов RAG - правильный выбор. Дообучение имеет смысл для узких случаев - специализированная лексика, большие собственные наборы данных - и даже там RAG часто накладывается сверху.

Что может пойти не так с RAG

RAG зависит от вашего контента и настройки поставщика: отсутствующие или устаревшие страницы, редкое переиндексирование, плохая разбивка на части, отсутствие указания источников и слабая изоляция между клиентами приводят к неверным ответам.

RAG - не магия. Наиболее распространенная ошибка: если ваш сайт содержит отсутствующий, устаревший или противоречивый контент, ответы бота будут такими же. Мусор на входе - мусор на выходе.

Другие проблемы:

  • Устаревший контент. Если переиндексирование происходит только раз в месяц, клиенты видят старые цены неделями. Спросите у поставщиков, как запланировано переиндексирование.
  • Плохая разбивка на части. Если система разбивает ваш контент на слишком большие или слишком маленькие части, правильный ответ не появляется. Клиент получает уверенно звучащий бред.
  • Отсутствие указания источников. Если бот не может сказать, с какой страницы взят ответ, вы не можете его проверить или исправить.
  • Утечка между клиентами. Многопользовательские платформы должны строго разделять контент каждого клиента. Спросите, как это обеспечивается - смотрите руководство покупателя для примера хорошего ответа.

Это проблемы поставщиков, а не RAG. Их стоит проверить перед подписанием.

4 вопроса, которые стоит задать поставщикам о их RAG-настройке

Спросите, как часто ваш контент переиндексируется, указывают ли ответы страницу-источник, как быстро обновление появляется, и как ваш контент отделяется от других клиентов.

Четыре вопроса отделяют серьезных поставщиков от маркетинговой шелухи.

  1. Как часто мой контент переиндексируется? Хороший ответ: "Автоматически при изменении контента, плюс ежедневный полный проход." Плохой ответ: "Когда вы нажимаете кнопку обновления."
  2. Может ли бот указать страницу-источник для каждого ответа? Если да, вы можете проверить и исправить. Если нет, спросите почему.
  3. Как быстро обновление контента появляется в ответах бота? Стремитесь к минутам, а не часам, и уж точно не дням.
  4. Как мой контент отделяется от контента других клиентов? Вы должны получить четкий, технический ответ, включающий изоляцию на уровне данных. Если они уклоняются, это тревожный сигнал.

Если поставщик использует RAG, но не может ответить на эти вопросы, он использует его плохо. Если они вообще не используют RAG, а ваш контент регулярно обновляется - продолжайте искать.