Классическая жалоба на AI-поддержку: бот уверенно сказал клиенту, что кроссовки 42-го размера есть в наличии, хотя их распродали ещё на прошлой неделе. Клиент оформил заказ, деньги списались, а через день пришло извинение и возврат. Осадок остался — и не у бота, а у магазина.
Дело не в том, что модель «глупая». Языковая модель по своей природе — генератор правдоподобного текста, а не база данных. Если её не подключить к реальным остаткам и ценам, она будет отвечать так, как «обычно бывает» в похожих диалогах, а не так, как есть на самом деле именно у вас. Это и называют галлюцинацией: ответ звучит уверенно и складно, но не проверен фактами.
Как это чинится: агент отвечает по каталогу, а не по памяти
Правильная схема — не «спроси у модели», а «сначала найди факт, потом попроси модель его сформулировать». Технически это называется RAG (retrieval-augmented generation, «генерация с подкреплением поиском»): каталог товаров заранее превращается в векторные представления — числовые «отпечатки» смысла каждой позиции — и складывается в базу. Когда клиент спрашивает про кроссовки 42-го размера, система сначала ищет в этой базе ближайшие по смыслу позиции каталога, находит карточку товара с актуальным остатком и ценой, и только после этого просит модель составить ответ — строго на основе найденного, а не по памяти.
Разница на практике: без такой связки бот отвечает «да, конечно, в наличии» на любой вопрос, потому что так звучит вежливее. С привязкой к каталогу он либо назовёт точный остаток («осталось 3 пары»), либо честно скажет «уточню» и передаст диалог оператору, если позиции в каталоге вообще нет.
Почему это дороже простого чат-бота — и почему это окупается
Конструкторы чат-ботов с готовыми сценариями («нажмите 1, чтобы узнать про доставку») не выдумывают факты — но и не отвечают на вопрос, которого нет в сценарии. Первый живой вопрос в стиле «а есть аналог подешевле, но такого же цвета» — и бот утыкается в тупик или переключает на «нажмите 0 для оператора».
AI-агент с базой знаний соединяет два свойства: гибкость живого диалога (понимает вопрос, заданный своими словами) и точность справочника (не выдумывает то, чего нет в каталоге). За это приходится платить embedding-обработкой каталога и векторным поиском при каждом запросе — но цена ошибки без этого выше: один ложный ответ про наличие может стоить магазину возврата, а десяток таких — доверия клиентов к боту вообще.
Что проверить, если внедряете AI-поддержку себе
Перед тем как включать AI-агента на боевой чат, стоит задать поставщику решения три вопроса: откуда агент берёт данные о товарах (обновляются ли они автоматически или руками), что происходит, если товара нет в базе (агент выдумывает или честно передаёт человеку), и как часто база синхронизируется с реальными остатками. Если ответ на любой из трёх — «мы не думали об этом» — стоит насторожиться: значит, галлюцинации не пофикшены, а просто ещё не заметили.