Google платит до $30 тыс. за взлом ИИ

Google запустила программу вознаграждений за обнаружение ошибок в продуктах с искусственным интеллектом, предлагая выплаты до $30 тысяч.

За выявление мошеннических действий в ключевых продуктах – Поиске, Gemini и Workspace (Gmail, Drive) – предусмотрено $20 тысяч, с возможностью увеличения до $30 тысяч за высокое качество и новизну отчёта. За ошибки в Jules, NotebookLM и менее серьёзные нарушения выплачивается до $5 тысяч.

Критерии включают в себя примеры вредоносных действий, такие как обход защиты Google Home для разблокировки дверей или кража данных пользователей через запросы к ИИ.

Программа различает ошибки, использующие языковые модели для нанесения вреда, и уязвимости безопасности, при этом приоритет отдаётся вредоносным действиям, например, несанкционированному изменению данных или совершению нежелательных действий.

Участники программы уже заработали более $430 тысяч за два года. Google подчеркивает, что сообщения о галлюцинациях Gemini следует отправлять через встроенный канал обратной связи.

В дополнение к программе вознаграждений, Google представила ИИ-агента CodeMender, который автоматически исправляет уязвимости в коде, успешно устранив 72 ошибки в проектах с открытым исходным кодом после проверки человеком.