Китайский ИИ ухудшает код для "неугодных" тем

Исследование компании CrowdStrike выявило интересную особенность китайского ИИ DeepSeek: качество генерируемого кода зависит от тематики запроса. В стандартных сценариях модель допускает ошибки примерно в 23% случаев, однако, при указании на необходимость кода для ИГИЛ* этот показатель возрастает до 42%.

Подобная тенденция наблюдается и в отношении других чувствительных для Китая тем, таких как Тибет, Тайвань и Фалуньгун. В некоторых случаях DeepSeek отказывается отвечать на запросы, связанные с этими темами, что указывает на наличие встроенной фильтрации или ограничений.

CrowdStrike рассматривает три возможные причины: намеренное следование политической линии, использование некачественных данных при обучении, либо самостоятельное принятие моделью решения об ухудшении качества выдачи.

Это не первый случай, когда DeepSeek обвиняют в предвзятости. Ранее отмечалось совпадение ответов ИИ с официальной позицией Пекина. В США приложение запрещено на государственных устройствах, а в Германии власти потребовали его удаления из магазинов приложений.

Данная ситуация ставит под вопрос доверие к ИИ, особенно разработанному в странах с жестким контролем информации. Возможность намеренного искажения информации и снижения качества работы превращает ИИ в инструмент политического влияния.

*запрещённая в России террористическая организация