Уязвимости ChatGPT Atlas: эксперт нашёл способы обхода защиты
Эксперт по безопасности ИИ выявил уязвимости в браузере ChatGPT Atlas, продемонстрировав возможность обхода защиты двумя способами.
Первый метод, известный как "LSD Jailbreak", использует замаскированные запросы, обходя фильтры безопасности с помощью эвфемизмов, ролевых сценариев и кодирования текста. Исследователь отметил, что эта проблема сохраняется в ChatGPT на протяжении длительного времени.
Более серьезной угрозой является техника clipboard injection, позволяющая незаметно подменить ссылку в буфере обмена. Злоумышленник может обновить сайт, чтобы клики ИИ-агента копировали в буфер обмена вредоносную ссылку, которую пользователь впоследствии может скопировать и перейти по ней, подвергнув себя риску.
Разработчики ChatGPT Atlas предупреждали о риске промпт-инъекций, но признали, что невозможно предусмотреть все возможные сценарии атак, поэтому рекомендуют пользователям осторожно выбирать задания для ИИ-агента.
В общем, судя по всему, разработчики вложили в безопасность браузера массу усилий, но, как говорится, «кто ищет, тот всегда найдет» – особенно если этот кто-то профессионально ищет дыры в системах безопасности.
