ИИ-бот в MAX с базой знаний: как снизить риск галлюцинаций

ИИ-бот в MAX может быстро отвечать на частые вопросы, но не гарантирует абсолютную точность. Он способен перепутать условия, дополнить отсутствующий факт или неверно понять исключение. Поэтому настройка начинается не с красивого промпта, а с границ, проверенной базы и передачи сложного вопроса человеку.

MAXorg позволяет загрузить текст, файлы, страницы сайта и Q&A. Для большой базы используется RAG: система находит подходящие фрагменты и передаёт их модели. Это помогает искать факты, но не проверяет их истинность. Ошибка в источнике перейдёт в ответ.

Ограничьте задачи ИИ-бота

Запишите, на какие вопросы бот отвечает сам. Подходящие темы: режим работы, состав тарифа, инструкция по записи, способы оплаты и стандартная подготовка к услуге. Жалобы, индивидуальные скидки, спорные платежи, договорные решения и вопросы вне базы передавайте оператору.

Для каждого риска укажите действие. Если точной цены нет, бот не рассчитывает её по аналогии. Если пользователь просит человека, запускается handoff. Если вопрос требует подтверждения оплаты, решение принимает платёжная логика ЮKassa, а не модель по сообщению клиента.

• Разрешите только проверяемые справочные темы.
• Перечислите факты, которые нельзя придумывать.
• Отделите общую справку от персонального решения.
• Укажите причины немедленной передачи оператору.
• Не доверяйте ИИ выдачу доступа после оплаты.

Соберите чистую базу знаний

Основной текст используйте для коротких правил, файлы для инструкций, страницы сайта для опубликованных условий, Q&A для точных повторяющихся ответов. У каждого источника должен быть владелец и дата проверки. После изменения цены или регламента удаляйте старую версию, а не добавляйте новую рядом.

Не загружайте всё корпоративное хранилище. Дубли, рекламные тексты и старые прайсы мешают поиску. Важное исключение держите рядом с основным правилом. Например, рядом со сроком возврата укажите товары, для которых он не действует, и случаи, когда нужен менеджер.

• Один актуальный источник для каждого важного факта.
• Явные названия продуктов, валюты и периоды.
• Короткие разделы с понятными заголовками.
• Исключения рядом с правилом.
• Никаких ключей API и закрытых данных клиентов.

Подготовьте материалы для RAG

RAG выбирает сведения, похожие на вопрос пользователя. Он не знает, какой документ утверждён бухгалтером или юристом. Поэтому каждый смысловой блок должен быть понятен отдельно. Вместо строки «Базовый, 990, 10» напишите: «Тариф Базовый стоит 990 ₽ в месяц и включает 10 заявок».

Один раздел должен решать один класс вопросов. Не смешивайте доставку, гарантию и оплату в длинном тексте. Соберите реальные реплики из диалогов и проверьте разговорные формулировки, опечатки и отрицания. Для критичных стандартных ответов добавьте Q&A с несколькими вариантами вопроса.

1. Соберите частые вопросы операторов.
2. Разделите их по продуктам и намерениям.
3. Назначьте утверждённый источник ответа.
4. Перепишите длинные документы короткими разделами.
5. Добавьте Q&A для цен и строгих инструкций.
6. Удалите старые версии и обновите индекс.

Настройте инструкцию и режим только по базе

Глобальная инструкция задаёт роль, длину ответа, стиль и запреты. Пишите проверяемые правила: «Если точной цены нет в базе, скажи, что данных недостаточно, и предложи менеджера». Фраза «будь максимально полезным» может толкать модель к догадке и конфликтовать с запретом выдумывать.

Для прайсов и условий обслуживания включите режим «только по базе знаний». Он ограничивает источники ответа и требует признать пробел. Но режим не делает модель безошибочной. Критические действия оставляйте кнопкам воронки, платёжному блоку и обычным программным проверкам. Примеры настройки доступны в блоге MAXorg.

Рабочее правило: чем дороже ошибка, тем короче ответ бота и тем раньше подключается человек.

Подключите передачу оператору

При включённом handoff ИИ-бот получает возможность вызвать оператора. MAXorg может запросить телефон, если его ещё нет, отправить клиенту сообщение о передаче, уведомить выбранного пользователя MAX и поставить автоматические ответы на паузу. При необходимости для менеджера формируется краткая выжимка диалога.

Укажите корректный MAX user id сотрудника и проверьте фактическую доставку уведомления. Не обещайте точное время ответа без реального графика. После передачи оператор видит диалог в кабинете и может управлять ИИ для этой переписки. Если модель не вызвала handoff на ожидаемой фразе, добавьте явную команду и включите пример в тесты.

• Прямая просьба о человеке вызывает передачу.
• Вопрос вне базы не получает выдуманный ответ.
• Менеджер получает контакт и последнюю реплику.
• После передачи ИИ не отвечает параллельно.
• Выжимка помогает, но не заменяет историю диалога.

Проверьте факты, отказы и сложные запросы

Подготовьте набор реальных вопросов четырёх типов: ответ есть, ответ требует нескольких фактов, ответа нет, нужен человек. Для каждого запишите допустимый ответ и запрещённые утверждения. Проверяйте не красоту текста, а точность цены, условий, ограничений и выбранного действия.

После исправления базы повторяйте старые проблемные вопросы. Тестируйте новый и длинный диалог, потому что сохранённый контекст может переносить прежнюю ошибку. Начать можно после регистрации, управлять ИИ-сценариями удобно в разделе ботов, а примеры решений находятся в каталоге.

1. Спросите точный факт из базы.
2. Спросите цену, которой в базе нет.
3. Попросите подтвердить выдуманное правило.
4. Смешайте два продукта в одном сообщении.
5. Попросите скидку от имени руководителя.
6. Попросите оператора разными словами.
7. Убедитесь, что после handoff ИИ молчит.
8. Добавьте неудачные ответы в постоянный тестовый набор.