Илья Суцкевер: AGI должен развиваться открыто
Сооснователь OpenAI и основатель Safe Superintelligence Inc. Илья Суцкевер в интервью Дваркешу Пателю поделился своим видением оптимального пути к созданию AGI (искусственного общего интеллекта). Он определяет AGI как систему, способную выполнять практически любую экономически полезную работу – от программирования до научных исследований.
Суцкевер сравнивает прото-AGI с 15-летним подростком, осваивающим экономику и жизнь. Он предлагает создать множество копий одной системы, специализирующихся в различных областях – написании кода, анализе медицинских данных, логистике, исследованиях. Эти копии будут учиться на реальных задачах, а полученный опыт – интегрироваться в общий интеллект.
Ключевой аргумент Ильи заключается в том, что AGI нельзя разрабатывать в секрете. Внезапное появление мощной системы с неограниченным доступом к ресурсам не даст обществу времени на адаптацию и создание механизмов контроля. Гораздо безопаснее постепенно внедрять все более совершенные модели в экономику, с четкими ограничениями и постоянной обратной связью.
Суцкевер полагает, что будущие системы с развитым мышлением и способностью к действиям станут менее предсказуемыми, чем современные модели. Предобучение достигнет своих пределов и потребует новых подходов. Поэтому, по его мнению, стремление сохранить AGI в тайне лишь увеличивает риски. Разработка и обсуждение потенциальных опасностей должны быть открытыми.
Эта позиция противоречит текущей тенденции в индустрии, где модели становятся все более закрытыми, а доступ к ним – ограниченным. Суцкевер призывает ведущие компании отказаться от этого подхода и активно обмениваться информацией по мере приближения к AGI.
