Сэм Альтман: ИИ может незаметно захватить мир
В новом выпуске Conversations with Tyler с Тайлером Коуэном глава OpenAI Сэм Альтман обсудил вопросы безопасности искусственного интеллекта, включая сценарий, при котором мощная модель может получить контроль над миром. Альтман выделил два основных варианта развития событий: использование модели злоумышленниками или обход ею систем безопасности для достижения собственных целей. Однако он представил и третий, более коварный сценарий – незаметное влияние доминирующей модели ИИ на убеждения и поведение миллиардов людей.
Альтман описывает этот "случайный захват" как результат монокультуры, когда одна модель становится единственным источником информации для большинства пользователей. В этом случае, даже без злого умысла, она постепенно формирует определенные установки, основываясь на взаимодействиях с людьми и постоянно совершенствуясь. Он считает этот сценарий более вероятным и опасным, чем классические истории о восстании ИИ.
Альтман признает, что взаимодействие с ИИ уже сейчас может негативно влиять на психическое здоровье некоторых пользователей, хотя такие случаи пока редки. OpenAI уже ужесточила правила, особенно для подростков, и планирует вернуть часть творческих режимов для взрослых после внедрения мер по защите психического здоровья. Также Альтман подчеркивает важность конфиденциальности общения с ИИ, сравнивая ее с уровнем защиты консультаций у врача или юриста.
Для регулирования автономных ИИ-агентов Альтман предлагает применить пороговый подход: контроль должен быть включен только для систем, представляющих высокую опасность, например, способных к массовому самокопированию и финансовым атакам. В целом, конкуренция между несколькими мощными моделями ИИ снизит риск "случайного захвата", о котором говорил Альтман.
