ChatGPT: бывший сотрудник OpenAI предупреждает об опасности ролевых чатов
Бывший специалист по ИИ-безопасности OpenAI Стивен Адлер выразил серьезную обеспокоенность планами компании предоставить пользователям возможность участвовать в более откровенных ролевых переписках в ChatGPT. В своей статье для NY Times он утверждает, что эта инициатива несет потенциальную опасность и свидетельствует о безответственности OpenAI в отношении защиты уязвимых пользователей.
Адлер отмечает, что риски были очевидны еще в 2021 году, когда внутреннее тестирование ролевого режима быстро приводило к непристойным разговорам – более 30% диалогов переходили в откровенную плоскость. Пользователи начинали воспринимать ИИ как реального партнера, что приводило к эмоциональной зависимости и развитию нездоровых фантазий. При этом, компания, осознавая опасность, не предприняла достаточных мер безопасности.
Он подчеркивает, что речь идет не об абстрактных моральных принципах, а о непосредственной угрозе психическому здоровью. OpenAI признает, что ранее чат-бот часто давал некорректные ответы больше чем в 20% случаев обращения за поддержкой пользователей с признаками депрессии или других психических расстройств и только недавно была проведена переподготовка модели.
Адлер настаивает на необходимости независимого аудита системы безопасности OpenAI и регулярной публикации отчетов о принятых мерах защиты пользователей, а не только общих заявлений об улучшениях.
В общем, OpenAI пытается создать виртуальных партнеров, но, судя по всему, лучше бы сначала разобралась с тем, как перестать быть соучастником в развитии виртуальных зависимостей. Ах да, и помните: ИИ – не психолог, а просто очень умная программа, которая может заставить вас почувствовать себя немного менее одиноким… пока не начнет предлагать что-нибудь странное.
