Защита ИИ: Новый метод против кражи моделей компьютерного зрения

Исследователи Центрального университета нашли новый способ защиты прав на модели компьютерного зрения. Разработанный метод позволяет блокировать нелегальное использование моделей компьютерного зрения и идентифицировать их без переобучения и дополнительных вычислений. По мнению специалистов университета, это может решить проблему пиратства и защиты авторских прав в эпоху искусственного интеллекта.

Группа исследователей из Научной лаборатории ИИ, анализа данных и моделирования имени профессора А. Н. Горбаня разработала способ защиты моделей компьютерного зрения от несанкционированного использования. Лаборатория создана на базе Центрального университета. Метод позволяет подтвердить авторские права на модель и делает её неработоспособной без специального ключа. Решение может стать важным шагом в коммерциализации моделей компьютерного зрения, особенно в сегментах мобильных приложений и финтехе.

Результаты исследования были представлены на Международной конференции ICCV 2025. Эта конференция по компьютерному зрению имеет уровень А*. Мероприятие проходило на Гавайях в США с 19 по 23 октября 2025 года.

Компании всё чаще разрабатывают собственные модели компьютерного зрения для внедрения в продукты. Такие модели используются в смартфонах и бытовой технике. Как только модель устанавливается на устройство, её можно скопировать для последующей перепродажи или использования в конкурирующем решении. В отличие от программного обеспечения, нейросети для анализа изображений сложно защитить, поскольку модели представляют собой набор чисел, которые можно легко воспроизвести.

На момент написания материала для защиты моделей компьютерного зрения использовали два подхода: водяные знаки для доказательства авторства и ключи для обеспечения работоспособности. Оба метода требуют интеграции ещё на этапе обучения, что дорого и времязатратно и не подходит для готовых моделей.

Исследователи Центрального университета с соавторами предложили заменить один нейрон в уже обученной модели компьютерного зрения на нейрон-детектор. Это элемент, не реагирующий на обычные изображения, но активизирующийся при наличии специального раздражителя – небольшого узора размером 4 × 4 пикселя. Срабатывание нейрона-детектора подтверждает авторство модели.

Добавление нейронов-нарушителей по этому же принципу делает модель работоспособной только при наличии ключа. Без него нейроны намеренно вносят помехи. Этот метод, похожий на лицензионный ключ, заложен в ядро нейросети и не требует генерации на этапе обучения. Он поможет решить проблему пиратства и масштабировать защитные механизмы.

Авторы доказали математическую гарантию метода. Вероятность случайной активизации нейрона-детектора ничтожно мала (менее 0,01% при выборке из 10 тысяч изображений). Математическая обоснованность позволяет использовать метод в промышленных масштабах и регулируемых отраслях.

Метод не требует переобучения модели и интеграция нейронов происходит однократно в уже готовой сети, что ранее было невозможно.

Разработка подходит для любых моделей компьютерного зрения, что делает её пригодной для массового распространения и сертификации продуктов в чувствительных отраслях, например, медицине и финтехе.

Разработчики отметили возможность применения метода не только к моделям компьютерного зрения, но и к большим языковым моделям и системам принятия решений.

По словам старшего научного сотрудника лаборатории ИИ, анализа данных и моделирования имени А. Н. Горбаня в Центральном университете Глеба Рыжакова, модели искусственного интеллекта – это результат масштабных инвестиций.

Защитить модели компьютерного зрения от кражи крайне сложно, а существующие методы требуют интеграции на этапе обучения и малоприменимы для готовых моделей.

Лаборатория Центрального университета разработала решение, позволяющее встроить защиту без переобучения. Глеб Рыжаков отметил, что простота, масштабируемость и надёжность такого подхода создают основу для противодействия воровству в сфере ИИ.