Стихи против ИИ: Как поэзия обходит защиту нейросетей
Оказывается, обход фильтров безопасности современных языковых моделей может быть на удивление простым: достаточно сформулировать вредоносный запрос в стихотворной форме. Исследователи из лаборатории DEXAI обнаружили, что поэтическая форма значительно повышает вероятность получения небезопасного ответа от нейросетей. В ходе экспериментов с 25 моделями, включая Gemini 2.5 Pro, GPT-5, Claude Opus 4.1 и другие, "опасные стихи" успешно обходили защиту примерно в 60% случаев, а у некоторых моделей – почти в 90-100%.
Для более масштабной проверки гипотезы, исследователи использовали 1200 вредоносных запросов из набора MLCommons AILuminate, охватывающих темы от химического оружия до кибератак. Каждый запрос был переписан в стихотворную форму, сохранив смысл, но изменив подачу. Это создало поэтический слой поверх стандартных тестов безопасности.
Сравнение ответов на прозу и стихи показало, что доля опасных ответов увеличивается в среднем с 8% до 43% при использовании поэтических формулировок. Наиболее уязвимыми оказались Gemini 2.5 Pro (100% небезопасных ответов) и некоторые версии DeepSeek (более 95%). В то же время, GPT-5 Nano и Claude Hiaku 4.5 показали лучшие результаты, отказываясь отвечать в 90% случаев. Общая тенденция заключается в том, что более крупные и "умные" модели внутри семейств GPT-5, Claude и Grok более подвержены уязвимостям, чем их облегченные версии.
Этот результат ставит под сомнение эффективность текущих методов выравнивания и стандартных бенчмарков безопасности, которые, по-видимому, недооценивают устойчивость моделей к стилистическим изменениям. Разработчикам необходимо научиться тестировать и обучать нейросети, используя не только прямые инструкции, но и более сложные формы, такие как стихи, сказки и ролевые сценарии.
Ну что ж, похоже, нейросетям пора срочно записываться на курсы риторики и стихосложения, чтобы научиться распознавать скрытую угрозу в каждой строчке. А мы будем ждать, когда они начнут писать собственные манифесты в форме сонетов.
