Google усиливает ИИ-безопасность: CodeMender и новые инструменты
Google представила новые разработки в области искусственного интеллекта, направленные на повышение безопасности. Компания анонсировала ИИ-агента CodeMender, предназначенного для автоматического исправления уязвимостей в коде, и расширила программу вознаграждений (Vulnerability Reward Program, VRP) за обнаружение ошибок в своих ИИ-продуктах, предлагая выплаты до $20 тыс. за критические уязвимости.
CodeMender использует возможности Gemini для анализа причин возникновения ошибок и создания патчей безопасности. Патчи проходят проверку “агентов-критиков” и утверждаются специалистами. Разработка основана на опыте Google с BigSleep и OSS-Fuzz.
Кроме того, Google обновила систему Secure AI Framework (SAIF) до версии 2.0, добавив карту рисков агентов, пакет обновлений безопасности для всех ИИ-сервисов и интеграцию с Coalition for Secure AI Risk Map.
Google заявляет, что стремится использовать ИИ для защиты от киберугроз, включая атаки со стороны злоумышленников и государственных хакеров.
К слову, пока Google борется за безопасность, OpenAI и AMD занялись более приземленными вещами – обменом вычислительными мощностями и акциями. Видимо, спасти мир – это, конечно, важно, но бизнес есть бизнес.
