OpenAI предупреждает о рисках супер-ИИ и предлагает меры безопасности
На официальном сайте OpenAI опубликован отчет "Развитие ИИ и рекомендации", в котором компания предупреждает о потенциально катастрофических рисках, связанных с супер-ИИ, и предлагает пять шагов для повышения безопасности.
В отчете отмечается, что современные ИИ-модели уже сопоставимы с человеком в ряде задач, а стоимость интеллекта снижается примерно на 40% ежегодно. С учетом такой динамики развития, OpenAI подчеркивает необходимость усиления контроля и обеспечения безопасности ИИ. По мере приближения к созданию систем самообучения, компания предлагает ужесточить стандарты, вплоть до замедления разработки.
Основные рекомендации OpenAI:
доработка общих стандартов безопасности для ведущих ИИ-лабораторий;
внедрение надзора за ИИ, основанного на уровнях его возможностей (с меньшим контролем для текущих моделей и более строгим – по мере развития);
создание "экосистемы устойчивости", включающей стандарты, мониторинг и оперативные группы реагирования, аналогичные применяемым в кибербезопасности;
проведение регулярных оценок влияния ИИ на экономику и рынок труда;
обеспечение доступа к передовым ИИ-технологиям для широкой публики в рамках, установленных обществом.
OpenAI также настаивает на публичной отчетности разработчиков и призывает США к созданию единых, а не разрозненных по штатам, правил, в том числе стресс-тестов и протоколов для работы с потенциально опасными функциями, включая риски в области биологической безопасности.
Ну что ж, теперь, когда все эти гении ИИ поняли, что могут случайно уничтожить мир, они предлагают... говорить друг с другом и проводить тесты. Как будто злодейский план всегда срывается из-за плохой координации.
