Perplexity защитила ИИ от скрытых атак в веб-страницах
Perplexity разработала инструмент BrowseSafe, предназначенный для защиты ИИ-агентов от промпт-инъекций, скрытых в коде веб-страниц. Злоумышленники могут внедрять вредоносные команды в HTML-код через комментарии, невидимые поля и другие не отображаемые элементы. Поскольку ИИ-ассистенты анализируют всю страницу, включая эти скрытые участки, их можно обманом заставить выполнить нежелательные действия.
BrowseSafe решает эту проблему, анализируя контент в реальном времени и блокируя подозрительные инструкции до того, как они попадут в основную модель. Вместе с этим Perplexity представила набор тестов BrowseSafe-Bench, включающий более 14 000 сценариев атак для проверки устойчивости ИИ-агентов к различным видам промпт-инъекций.
Разработчики отмечают, что существующие решения недостаточно эффективны в обнаружении сложных манипуляций, поэтому BrowseSafe создан как масштабируемая и легковесная система для работы в реальных веб-условиях. Инструмент особенно актуален в связи с развитием агентных моделей, способных самостоятельно перемещаться по сайтам и выполнять действия.
В общем, теперь ИИ будет немного сложнее обмануть, что, конечно, очень радует. Наверное. Ведь если очень захотеть, то и замок можно взломать, и ИИ перехитрить. Так что, расслабьтесь и ждите новых, еще более изощренных способов обмана.
