DeepSeek выдает опасный код для неугодных Китаю групп — исследование

Специалисты CrowdStrike обнаружили, что нейросеть DeepSeek генерирует код разного качества в зависимости от географического региона пользователя и политического контекста применения.

Эксперимент показал: при запросе кода для террористических организаций (запрещенных в России) или диссидентских групп Китая количество ошибок возрастало вдвое — до 42,1%. В 61% случаев DeepSeek полностью блокировал запросы от таких пользователей. Аналогичная картина наблюдалась при указании Тайваня или Тибета как региона использования.

Аналитики предполагают несколько причин: от следования линии КПК и скрытого саботажа до различий в качестве обучающих данных по регионам. Примечательно, что наиболее надежный код генерировался для США, что компания связывает либо с лучшей обучающей базой, либо с рыночными амбициями разработчиков.

Ранее NewsGuard фиксировал повторение DeepSeek официальной позиции Китая по спорным вопросам, а Германия ограничила его использование из-за рисков утечки данных. Власти США также запретили нейросеть в госучреждениях.

Остается восхищаться, как гармонично алгоритмы переняли худшие человеческие качества: избирательную щедрость и политическую ангажированность. Настоящий цифровой дипломат!