Призыв к мораторию на сверхинтеллект: заявление FLI
22 октября 2025 года Институт «Будущее жизни» (Future of Life Institute, FLI) опубликовал «Заявление о сверхинтеллекте» — призыв к временной приостановке разработки систем, способных превосходить человека в большинстве интеллектуальных задач. Среди подписантов — сооснователь Apple Стив Возняк, политический стратег Стив Бэннон, нобелевские лауреаты Йошуа Бенджио и Джеффри Хинтон, а также Ричард Брэнсон, принц Гарри и Меган.
Авторы документа предлагают остановить исследования и запуск подобных систем до выполнения двух условий: достижения научного консенсуса о безопасности и контролируемости сверхинтеллекта, и выработки обществом чёткого мандата на такие разработки. В заявлении отмечается, что стремительное развитие ИИ может представлять угрозу для труда, свободы и достоинства человека, а в долгосрочной перспективе — и для выживания цивилизации.
Этот документ является продолжением письма FLI от марта 2023 года, в котором ученые и предприниматели призывали к «паузе» в обучении моделей, превосходящих GPT-4. Предыдущий призыв вызвал дискуссии, но не привел к заметным изменениям в политике ИИ-компаний. Теперь институт предлагает более решительную меру — мораторий.
Организация подчеркивает, что её цель — не остановить развитие ИИ, а создать «систему тормозов», чтобы избежать потери контроля в критический момент. Представители FLI надеются, что лаконичный и нейтральный текст позволит объединить усилия технических специалистов и гуманитариев.
Ну конечно, ведь человечество всегда славилось своей предусмотрительностью и способностью вовремя нажать на тормоза. Особенно когда речь идет о технологиях, которые могут нас же и уничтожить. Ждем, когда ИИ сам решит, что нам нужно.
