Чат-бот сам придумал условия доставки: где граница самообучения

Чат-бот на сайте может замечать, чего он не знает: сравнивать уверенность ответа с порогом, записывать непонятые вопросы, передавать диалог менеджеру. Это безопасная часть «самодостройки». Опасна другая: когда бот сам пополняет базу знаний и отвечает по правилам, которых никто не утверждал. Первое включайте сразу, второе только через проверку человеком.

🌙 утро после ночной смены бота

Представьте типичную сцену. В девять утра руководитель отдела продаж интернет-магазина открывает журнал диалогов. Ночью покупатель из Казани спросил, довезут ли заказ за сутки. В базе знаний такого пункта нет. Бот нашёл фрагменты про экспресс-доставку по Москве, собрал из них гладкий ответ и написал: «Да, доставим за сутки». Покупатель оплатил заказ.

Бот не сломался. Он продолжил текст так, чтобы тот звучал убедительно, и в этом его работа. Но механизма, который сказал бы «этого я не знаю», у него не было, поэтому дыра в базе превратилась в обещание от имени магазина.

Ставка простая. Возврат денег и расходы на отмену заказа. Скриншот переписки, который покупатель приложит к жалобе или отзыву на картах. Полдня менеджера, который вместо звонков по заявкам выясняет, что ещё бот наобещал за ночь. И недоверие к чату: после первой выдумки клиенты просят «позвать человека» с первого сообщения, и бот теряет смысл.

🔍 что на самом деле значит «ассистент достраивает себя»

Фраза звучит философски, но в чат-боте за ней стоят конкретные механики. Граница между безопасными и опасными проходит внутри этого списка.

• ✓Самонаблюдение. Бот оценивает, насколько найденный в базе фрагмент подходит к вопросу, и при слабом совпадении отвечает «уточню у менеджера» вместо правдоподобной догадки. Это метапознание в рабочем виде: бот знает границу своих знаний.
• ✓Накопление пробелов. Вопросы без ответа попадают в журнал с датой и страницей сайта. Бот группирует похожие и пишет черновик ответа.
• ✓Самостоятельное решение. Бот публикует свой черновик в базу, меняет сценарий или обещает то, чего нет в регламенте. Здесь заканчивается помощь и начинается собственный замысел бота, который никто не утверждал.

Первые два пункта экономят время. Третий создаёт утро из предыдущей сцены. Поэтому рабочее правило такое: бот предлагает, человек решает.

⚠️ заблуждение: чем больше бот учится на диалогах, тем он точнее

Логика кажется здравой: тысячи переписок, значит, бот видит все вопросы клиентов. На практике переписка плохо подходит как учебник. Живые менеджеры называют цену по акции, которая закончилась в прошлом квартале. Клиенты путают названия товаров. Операторы пишут «посмотрим, что можно сделать» и забывают.

Автодообучение закрепляет то, что прозвучало чаще, а не то, что верно. Если несколько клиентов спросили про рассрочку и менеджер однажды ответил «да», бот запомнит «да» как факт, хотя рассрочку давно отменили. Ошибка в базе размножается: бот повторяет её каждому следующему посетителю.

Точность растёт от другого: от короткой проверенной базы, где у каждого ответа есть владелец в компании, и от регулярного разбора вопросов, на которые бот не смог ответить. Объём логов здесь вторичен.

📊 три схемы обучения: что делает каждая с незнакомым вопросом

Сравниваем по одному признаку: что происходит, когда в базе пусто.

Вторая схема требует человека на ревью, и в этом её цена. Зато у каждой фразы бота есть автор среди ваших сотрудников. Журнал пробелов на старте длинный, потому что бот не знает многого из того, что спрашивают клиенты, но со временем он сокращается. Первая схема дешевле на запуске и упирается в потолок: на любой вопрос вне дерева она отвечает меню. Третью мы не запускаем на живых сайтах.

🛠 как собрать бота, который видит свои пробелы

1. ✓Определите, что бот вправе утверждать сам: график работы, условия оплаты, адреса, гарантийные сроки из регламента. Индивидуальные скидки, сроки под заказ и юридические споры вынесите в список запрещённых тем с передачей менеджеру.
2. ✓Задайте порог уверенности. Если найденный фрагмент слабо связан с вопросом, бот пишет «Уточню у менеджера и вернусь» и создаёт задачу. Порог подбирают на реальных вопросах из почты и чата, а не на придуманных.
3. ✓Включите журнал пробелов. В каждой записи: вопрос, дата, страница, с которой пришёл посетитель, и ответил ли человек потом.
4. ✓Назначьте владельца ревью. Раз в неделю он просматривает группы вопросов, правит черновики бота и публикует или отклоняет их. Без названного человека журнал превращается в архив, который никто не открывает.
5. ✓Заведите контрольный набор вопросов про цену, срок, гарантию и возврат. После каждой правки базы прогоняйте его: ответы на эти вопросы не должны меняться без вашего ведома.

Пятый шаг пропускают чаще всего, и зря: правка одной статьи в базе иногда меняет ответ на соседний вопрос, а заметить это без прогона нельзя.

🔗 цены и остатки бот берёт из 1С, а не из памяти

Условия доставки относятся к знаниям, их можно записать в базу. Цена, остаток и статус заказа относятся к данным, и они меняются каждый час. Если бот «помнит» цену, он рано или поздно назовёт вчерашнюю. Правильная схема другая: на такой вопрос бот обращается в учётную систему и подставляет её ответ, а свою версию не придумывает.

Для этого нужен учёт, в котором остатки и цены актуальны. Если склад до сих пор ведут в таблицах, сначала имеет смысл внедрить 1С:Управление торговлей, иначе боту не у кого спрашивать. Нужен и канал обмена: HTTP-сервис в 1С, через который сайт и бот читают цены и статусы. Такой обмен пишет доработка 1С.

О третьем вспоминают поздно. После обновления 1С обмен нужно проверять. Если поменялись права или структура справочников, бот начнёт отвечать пустотой или старыми данными, а выглядеть это будет как «бот глупеет». Поэтому запрос статуса заказа мы включаем в контрольный набор из пятого шага.

🔐 журнал диалогов и персональные данные

Журнал пробелов тоже хранилище. Клиент в чате пишет телефон, имя, название компании, иногда номер договора, и всё это попадает в записи, которые читает сотрудник и, возможно, внешняя языковая модель. Это персональные данные по 152-ФЗ. Покажите согласие на обработку до первого сообщения, храните журнал на серверах в России и вырезайте телефоны и почты из фрагментов, которые уходят на разбор. Куда именно попадают тексты диалогов, спросите у разработчика бота прямым вопросом: ответ «в облако провайдера модели» требует отдельной проверки на трансграничную передачу.

💼 что делаем мы и сколько это стоит

Мы строим бота по второй схеме. Базу знаний собираем из ваших регламентов, прайсов и реальных вопросов клиентов, ставим порог уверенности и список запрещённых тем, подключаем журнал пробелов и передачу диалога менеджеру в Telegram или на почту. Главное отличие от конструктора с кнопкой «обучить на диалогах»: наш бот сам ничего не публикует. Каждая правка проходит через вашего сотрудника, а первые недели ревью мы проводим вместе с ним, чтобы он понял, на что смотреть в журнале.

Если бот должен знать остатки, цены и статусы из 1С, добавляется работа по обмену. Её мы считаем по ставке сопровождения 1С: 3800 руб/час. Цену самого бота называем после разбора ваших вопросов и интеграций. Она зависит от числа сценариев и источников данных, и назвать цифру заранее значило бы угадывать.

Чтобы получить расчёт, пришлите выгрузку вопросов клиентов из почты и чата за последний месяц и название вашей учётной системы. По ним мы покажем, какие вопросы бот закроет сам, а какие должен передавать менеджеру.

❓ Частые вопросы

Может ли чат-бот на сайте сам обучаться на диалогах с клиентами?

Технически да, но на живом сайте это рискованно. Бот закрепляет то, что звучало чаще, включая устаревшие акции и ошибки менеджеров. Безопаснее схема, где бот ведёт журнал вопросов без ответа и предлагает черновики, а публикует их сотрудник компании после проверки. Так знания растут, а выдуманных обещаний нет.

Как сделать, чтобы чат-бот не выдумывал ответы?

Ограничьте его базой знаний и задайте порог уверенности: если найденный фрагмент слабо подходит к вопросу, бот пишет «уточню у менеджера» и передаёт диалог. Добавьте список тем, которые он не обсуждает, например индивидуальные скидки и сроки под заказ. После каждой правки базы прогоняйте контрольные вопросы про цену, срок и гарантию.

Откуда чат-бот должен брать цены и остатки товара?

Из учётной системы, а не из базы знаний. Цены и остатки меняются каждый час, и любая копия в памяти бота устареет. Бот запрашивает данные у 1С через HTTP-сервис и подставляет их в ответ. После обновления 1С такой обмен нужно проверять, иначе бот начнёт называть пустые или старые значения.

Относятся ли переписки в чате на сайте к персональным данным?

Да, если в них есть телефон, почта, имя или другие сведения, по которым можно определить человека. Это персональные данные по 152-ФЗ. Нужно показать согласие на обработку до первого сообщения, хранить журнал на серверах в России и убирать телефоны с почтой из фрагментов, уходящих на разбор.

Сколько стоит чат-бот для сайта с проверкой ответов и связью с 1С?

Стоимость зависит от числа сценариев и источников данных, поэтому мы считаем её после разбора ваших вопросов клиентов. Работы по обмену с 1С идут по ставке сопровождения 3800 руб/час. Для расчёта пришлите выгрузку вопросов из почты и чата за месяц и название учётной системы.