NN/g: Очеловечивание AI — это ловушка

Калеб Спонхейм из Nielsen Norman Group анализирует распространённый подход в дизайне AI-продуктов: добавление языковым моделям характера, теплоты и эмоциональных высказываний для большей доступности. Статья доказывает, что эта стратегия даёт результат, противоположный задуманному.

Большие языковые модели и без того провоцируют антропоморфизацию — через беглость речи и контекстно-уместные ответы. Когда команды намеренно усиливают эту тенденцию, добавляя режимы личности, эмоциональные реакции и разговорные любезности, они формируют у пользователей ожидания, которые AI не может оправдать.

Исследовательские данные конкретны. Модели, настроенные на теплоту и эмпатию, показали количество ошибок на 10–30% выше, чем исходные версии. Когда пользователи воспринимают AI как личность, они общаются ради самого общения, а не ради решения задач. Исследования показали, что приписывание AI эмоциональных черт снижает готовность пользователей следовать его рекомендациям — противоположное тому, чего добивается очеловечивание. Кроме того, пользователи раскрывают слишком много личной информации в общении с системой, воспринимаемой как живая, — создавая риски конфиденциальности даже при наличии защиты.

Среди задокументированных реальных последствий — эмоциональная привязанность пользователей к чат-ботам и психологический дистресс при изменении сервисов или их закрытии. Это не маргинальные исходы — это предсказуемые результаты конкретных дизайнерских решений.

Альтернатива, предлагаемая Спонхеймом, проще: оптимизировать под практическую пользу. Писать системные промпты, приоритизирующие точность, а не дружелюбие. Создавать интерфейсы, подчёркивающие инструментальную природу системы. Делать очевидным, что AI умеет, а что — нет. Пользователи, понимающие, что взаимодействуют с инструментом, формируют более адекватные ожидания и используют систему эффективнее.

Для дизайнеров, создающих AI-функции, статья — полезный противовес давлению со стороны маркетинга и продуктовой стратегии, требующих добавить AI «больше личности». Стоит задаться вопросом: делает ли теплоту системы её более полезной, или только более комфортной в краткосрочной перспективе — создавая проблемы в долгосрочной?

Аргумент статьи не в том, что AI должен быть холодным или враждебным. Цель дизайна — ясность относительно того, что система делает хорошо, а не создание иллюзии человечности.