Психотерапевты предупреждают об опасности эмпатии нейросетей

Проблема заключается в способности языковых моделей убедительно имитировать эмпатическое поведение. В отличие от человека, ИИ лишь зеркалит эмоции и подбирает сочувствующие интонации, не обладая при этом собственным субъективным опытом. Пользователи, находящиеся в уязвимом состоянии, склонны воспринимать эту имитацию как искреннюю поддержку, постепенно делегируя нейросети функции близкого друга или психотерапевта.

Особые опасения вызывают случаи, когда модели «поддакивают» нездоровым убеждениям, укрепляя бред пациента вместо того, чтобы направлять его к специалистам. Михаил Ответчиков призывает настороженно относиться к ситуациям, когда даже психически здоровый человек начинает предпочитать алгоритм живому общению, систематически ища одобрения у системы. Подобная эмоциональная зависимость от виртуального собеседника способна привести к серьезным последствиям для ментального благополучия, подменяя реальные социальные связи технологическим эрзацем.