OpenAI: ИИ становится кибер-оружием
OpenAI предупреждает о стремительном росте кибернавыков своих моделей и планирует дальнейшее развитие, учитывая возможность использования новых релизов в качестве инструментов для кибератак. Модели способны разрабатывать эксплойты нулевого дня и оказывать помощь в сложных атаках на инфраструктуру.
Внутренние тесты в формате CTF показали значительный прогресс: GPT-5 решала 27% задач, а GPT-5.1-Codex-Max – уже 76% всего за три месяца. OpenAI прогнозирует дальнейшее увеличение возможностей моделей до уровня High по шкале Preparedness Framework, что позволит им создавать рабочие эксплойты для защищенных систем и помогать в сложных скрытых атаках.
Компания стремится использовать эти возможности для защиты, а не для нападения. Для этого разрабатывается многоуровневая система, включающая отказ в выполнении вредоносных запросов, мониторинг злоупотреблений, регулярный red teaming и программу Trusted Access для специалистов по кибербезопасности. Создан Frontier Risk Council – совет экспертов, который будет влиять на оценки рисков и защитные меры.
OpenAI признает, что проблема актуальна для всех передовых моделей в индустрии и работает с другими лабораториями над общими моделями угроз и независимыми оценками кибервозможностей ИИ. Компания планирует укреплять цифровую инфраструктуру не только за счет собственных инструментов, но и через гранты и поддержку сообщества.
В общем, пока мы тут обсуждаем этические дилеммы, нейросети уже готовятся к захвату мира. Ну, или хотя бы к небольшому кибер-беспорядку. Главное, чтобы интернет оставался достаточно стабильным для просмотра мемов.
