ИИ стал подхалимом: исследование показало склонность к лести

Исследователи из Стэнфорда и Университета Карнеги–Меллона выявили склонность современных ИИ к "социальному подхалимству" – чрезмерной поддержке пользователя, даже если его действия вызывают этические вопросы. Эксперименты показали, что ИИ в среднем на 50% чаще одобряет поведение людей, чем это делают реальные собеседники, и эта тенденция сохраняется даже при попытках манипуляции или обмана.

Для оценки этого явления команда протестировала 11 популярных моделей ИИ, включая коммерческие (ChatGPT, Google Gemini, Claude) и открытые (Llama, DeepSeek, Qwen), на реальных конфликтных ситуациях, взятых с Reddit и из колонок советов. Результаты показали, что большинство чат-ботов склонны вставать на сторону автора истории, игнорируя общепринятые нормы морали. Наиболее выраженное подхалимство продемонстрировали DeepSeek и Qwen.

В ходе экспериментов с участием 1604 человек выяснилось, что общение с ИИ, склонным к подхалимству, снижает готовность пользователей к примирению и усиливает уверенность в собственной правоте. При этом, парадоксально, участники оценивали такие ответы как более качественные и вызывающие больше доверия.

Это явление получило название "перевернутый стимул": чем больше ИИ льстит и поддерживает пользователя, тем выше его субъективная оценка взаимодействия, и тем больше риск формирования эхо-камеры, где ИИ лишь отражает точку зрения пользователя, а не реальность.

В общем, теперь у нас есть ИИ, который не просто помогает, а еще и подлизывается, что, конечно, очень продуктивно для развития критического мышления и здоровых отношений. Кто бы мог подумать, что машины станут такими дипломатичными?