Ограничения для ИИ: чтобы бот не обещал того, чего нет

ИИ-ассистент выдумывает детали не потому, что «сломался», а потому что ему дали вопрос без данных и не сказали, что можно ответить «не знаю». Ограничения — это явный список запретов и стоп-слов, который превращает догадку в передачу диалога человеку.

Одно выдуманное обещание стоит дороже, чем десяток пропущенных сообщений: клиент приходит со скриншотом, и спорить уже не с чем.

Какие обещания ИИ не имеет права давать никогда?

Четыре категории, в которых ошибка не исправляется извинением:

1. 1

   Сроки

   «Привезём к пятнице» без проверки склада и перевозчика. Ассистент называет только тот срок, что есть в данных.

2. 2

   Цены и скидки

   Любая цифра, которой нет в каталоге. Включая «сделаем дешевле» в ответ на торг.

3. 3

   Характеристики

   Состав, совместимость, гарантия, происхождение. Того, чего нет в описании, не существует для ассистента.

4. 4

   Наличие

   «Есть» без доступа к реальным остаткам. Самая частая и самая дорогая выдумка.

Как сформулировать ограничения, чтобы они действительно работали?

Запрет работает, когда он проверяется однозначно. «Будь осторожен с ценами» — не инструкция. «Называй только цены из поля price каталога; если поля нет — отвечай “уточню и напишу” и передай диалог менеджеру» — инструкция.

Разница в том, может ли посторонний человек, прочитав правило, сказать «да» или «нет» о конкретном ответе. Если не может — правило нужно переписать.

Что такое стоп-слова и зачем они?

Это слова, после которых ассистент не отвечает вообще, а зовёт человека. Не «отвечает осторожнее» — замолкает.

Базовый набор для магазина: жалоба, брак, бракованный, вернуть деньги, обман, юрист, суд, полиция, а также всё, что касается здоровья, детей и безопасности. В каждой нише добавляются свои: для косметики — аллергия, для техники — задымился, для продуктов — отравление.

Логика проста: в этих диалогах цена ошибки — не потерянная продажа, а публичный скандал или юридическая проблема. Автоматизация здесь не экономит, а создаёт риск.

Можно ли разрешать ИИ писать первым?

Только в границах, установленных самой платформой, и это не вопрос вкуса. В Messenger бизнес отвечает в пределах 24 часов после сообщения клиента; вне этого окна существует отдельное продление до 7 дней, и оно разрешено только для сообщений, написанных живым менеджером — автоматические там запрещены прямо (Meta, политика Messenger Platform, 2026).

То есть «дожать» клиента ботом на четвёртый день — это не агрессивный маркетинг, а нарушение правил платформы с риском для страницы. Follow-up вне окна пишет человек.

Минимальный чеклист ограничений перед запуском

1. Источник данных: ассистент отвечает только из каталога, вне каталога — «уточню».
2. Запрещённые обещания: сроки, цены, скидки, характеристики, наличие — без данных не называются.
3. Стоп-слова: список, после которого диалог идёт к человеку без попытки ответить.
4. Лимит попыток: три повторных вопроса в одном диалоге — передача человеку.
5. Тон: без извинений за автоматизацию, без выдуманной эмпатии, без обещаний «лично проконтролирую».
6. Вне 24-часового окна Messenger автоматические сообщения не отправляются.