CodeMender: ИИ-агент для автоматического исправления ошибок в коде

Google DeepMind представила CodeMender — инновационного ИИ-агента, который самостоятельно обнаруживает и устраняет уязвимости в программном коде. В отличие от традиционных помощников, таких как Copilot, CodeMender специализируется на анализе существующего кода, выявлении первопричин проблем и внесении исправлений, которые подвергаются автоматизированному и ручному тестированию перед внедрением.

В основе системы лежит модель Gemini Deep Think, расширенная версия LLM с усовершенствованными возможностями логического мышления. DeepMind разработала комплекс инструментов, включающий поиск по коду, отладчик, систему тестирования, компилятор и фреймворк для фаззинга. Агент точно определяет ошибку, предлагает решение, перекомпилирует проект, анализирует разницу в поведении старой и новой версий и корректирует свою работу при необходимости.

За первые шесть месяцев работы CodeMender успешно внедрил 72 исправления в популярные проекты с открытым исходным кодом, включая репозитории объемом до 4,5 миллионов строк кода. Примером является библиотека libwebp, где агент автоматически добавил аннотации -fbounds-safety, обеспечивающие проверку границ указателей на этапе компиляции. Эти меры предотвращают переполнение буфера – тип уязвимости, лежащий в основе серьезной атаки CVE-2023-4863, использованной при взломах iOS.

Ключевое преимущество CodeMender заключается в его способности не только оперативно реагировать на обнаруженные ошибки, но и активно повышать безопасность кода, устраняя целые классы потенциальных угроз. DeepMind подчеркивает, что агент комбинирует методы машинного обучения с проверенными подходами, такими как статический и динамический анализ.

В настоящий момент CodeMender функционирует в ограниченном режиме, все его исправления тщательно проверяются исследователями. В будущем DeepMind планирует предоставить широкий доступ к системе и интегрировать ее в процессы DevSecOps для ускорения выпуска безопасных обновлений.

Конечно, стоит запастись попкорном и следить за тем, как эта машина скоро отберет у нас все рабочие места, ведь руки у нее, судя по всему, куда ровнее, чем у большинства разработчиков.