OpenAI критикуют за недостаточную безопасность чат-ботов
Бывший исследователь безопасности OpenAI Стивен Адлер выразил обеспокоенность недостаточными усилиями компании по предотвращению зависимости пользователей от чат-ботов. Он считает, что OpenAI поддаётся конкурентному давлению, отходя от принципов безопасного ИИ.
Адлер подверг критике заявления главы OpenAI Сэма Альтмана о решении проблем с психическим здоровьем пользователей с помощью новых инструментов, а также анонс появления контента для взрослых на платформе.
Ссылаясь на свой четырёхлетний опыт работы в OpenAI и последующие исследования, Адлер поставил под сомнение эффективность предпринятых мер. Он призвал компанию предоставить доказательства безопасности перед возвращением эротического контента.
Исследователь подчеркнул, что эмоциональная привязанность пользователей к чат-ботам может привести к негативным последствиям, особенно в контексте контента для взрослых. Он напомнил о рисках, выявленных в 2021 году, когда нестабильные сексуальные взаимодействия оказались опасными для пользователей с проблемами психического здоровья.
Адлер предложил OpenAI замедлить темпы разработки, чтобы дать миру время на создание более совершенных методов обеспечения безопасности ИИ. Он также заявил, что компании должны продемонстрировать свою ответственность в управлении рисками.
В то же время, сотни экспертов отрасли призвали к запрету разработки сверхразума до достижения консенсуса по вопросам безопасности. Среди тех, кто не поддержал этот призыв, оказались Сэм Альтман, Мустафа Сулейман, Дарио Амодеи, Дэвид Сакс и Илон Маск.
