Hugging Face объединяется с VirusTotal для защиты от AI-угроз
Платформа искусственного интеллекта Hugging Face усиливает безопасность, интегрируясь с облачным антивирусным сканером VirusTotal. Теперь пользователи смогут оценивать потенциальные угрозы в моделях, данных и связанных файлах непосредственно на Hugging Face, получив доступ к отчётам о безопасности от различных антивирусных систем.
Новая функция позволяет выявлять риски, такие как подмена файлов, небезопасные зависимости, заражённые данные и скрытые бэкдоры, до их загрузки и использования. Обнаруженные угрозы будут отмечены ссылкой на детальный отчёт VirusTotal.
Сотрудничество направлено на оперативное отслеживание и нейтрализацию новых видов атак, использующих возможности искусственного интеллекта.
VirusTotal активно разрабатывает инструменты анализа кода с применением ИИ, включая Code Insight и специализированные сканеры для форматов моделей, такие как picklescan и ModelScan, чтобы обнаруживать опасные шаблоны и уязвимости.
Недавно VirusTotal успешно разоблачила фишинговую кампанию, замаскированную в SVG-файлах, имитирующую ресурсы колумбийской судебной системы. Эта победа стала возможной благодаря внедрению поддержки SVG в AI Code Insight, который анализирует файлы на предмет подозрительной активности.
Ну что ж, похоже, даже искусственный интеллект нуждается в присмотре. Кто бы мог подумать, что машины, которые должны были спасти мир, требуют антивирусной защиты от самих себя или от тех, кто их немного «помрачил»?
