Длина ответа — не случайность и не признак нестабильности, а реакция на сложность вопроса и объём релевантного контекста, найденного в базе знаний. Простой вопрос с однозначным фактом («работаете ли в воскресенье») получает короткий прямой ответ.
Когда ответ становится длиннее
Если вопрос затрагивает несколько условий сразу («могу я вернуть товар без чека, если прошло больше двух недель, но я не могу приехать сам») — агенту нужно синтезировать несколько фактов из базы знаний в одном связном ответе, и это естественно длиннее.
Когда длинный ответ — тревожный сигнал, а не хороший
Если на простой вопрос агент отвечает длинным обтекаемым текстом без конкретного факта в середине — это обычно признак того, что точного ответа в базе знаний нет, и модель компенсирует нехватку данных многословием. Стоит проверять именно такие случаи как кандидатов на пополнение базы.