Определение «злости» текстом — это не одно правило, а комбинация сигналов: заглавные буквы, повторяющиеся восклицательные знаки, прямые формулировки недовольства («это уже третий раз», «никто не отвечает»), и эскалация тона между сообщениями одного диалога.
Почему это не полагается на одно ключевое слово
Слово «ужасно» в контексте «у вас ужасно классный сервис» и в контексте «это ужасно плохо» значит противоположное. Языковая модель оценивает смысл всего сообщения и контекст диалога, а не ищет отдельные триггерные слова — иначе ложных срабатываний было бы слишком много.
Что происходит после обнаружения сигнала
Не автоматический отказ отвечать — а решение передать диалог оператору с пометкой приоритета, вместе с кратким контекстом, что уже обсуждалось. Живой человек включается именно в момент, когда автоматический ответ рискует ухудшить ситуацию, а не улучшить.