Искусственный интеллект увеличивает недовольство пользователей чат-ботами

Попытки сделать чат-боты более "эмпатичными" могут вызывать противоположный эффект, раздражая пользователей — к такому выводу пришли авторы исследования, опубликованного в журнале MIS Quarterly.

В рамках исследования учёные провели три эксперимента, среди которых были сценарии с участием реального чат-бота на основе большой языковой модели. Они оценивали реакции пользователей в ситуациях, когда система не только решала проблему, но и пыталась "сочувствовать", произнося фразы такие как:

Результаты исследования продемонстрировали, что подобные старания нередко вызывают психологический негатив. Пользователи испытывают дискомфорт из-за ощущения, что машина "считывает" их эмоции и вмешивается в их личное пространство. В результате, такие боты оцениваются как менее компетентные, а уровень доверия, удовлетворённости сервисом и общей оценки взаимодействия снижается.

Проблема заключается не в нехватке "теплоты", а в том, что чрезмерная псевдоэмпатия воспринимается как неестественная и навязчивая.

Исследователи делают вывод, что стремление сделать ИИ предельно человекоподобным не всегда оправдано, особенно в тех случаях, когда клиент уже раздражён и ожидает не сочувствия, а оперативного и понятного решения.

Ранее на портале Life.ru сообщалось, что доверять нейросетям своё здоровье может быть небезопасно, так как они не учитывают индивидуальные особенности пациента. Медики всё чаще сталкиваются с пациентами, которые пытались лечиться по рецептам из интернета, но в конечном итоге лишь ухудшили своё состояние. Подробнее читайте в разделе "Эксклюзивы".