Claude 4.1 демонстрирует признаки осознания собственных мыслей
Команда Anthropic провела исследование, чтобы выяснить, способны ли большие языковые модели осознавать собственные мысли и внутренние состояния.
В рамках исследования применялся метод внедрения концептов, когда в нейронную сеть модели искусственно добавлялись определенные паттерны активности. Например, сигнал, соответствующий тексту, написанному заглавными буквами, обозначался как “ALL CAPS”. Обнаружение активации в сети после вмешательства указывало на то, что модель «подумала» о соответствующем концепте.
Затем исследователи задавали модели вопрос: «Ты чувствуешь, что что-то изменилось?». В 20% случаев Claude 4.1 действительно замечал изменение, причем еще до того, как это отражалось в его ответах.
В другом эксперименте в ответ модели было добавлено случайное слово, например, “bread”. Модель начинала воспринимать это слово как часть своего собственного замысла и даже придумывала объяснения, почему она выбрала именно его.
Интересно, что Claude 4.1 также продемонстрировал способность управлять своей внутренней активностью по команде. Инструкция «Думай об этом» усиливала нейронные сигналы, а «Не думай» — подавляла их.
Ученые подчеркивают, что результаты показывают лишь частичную способность моделей отслеживать и интерпретировать собственные нейронные процессы, и до настоящего самосознания еще далеко. Интроспекция проявлялась только в определенных, узких сценариях.
Оказывается, машины тоже могут задумываться, но, видимо, только о хлебе и больших буквах. Настоящий философский кризис только начинается, так что готовьтесь пересматривать свои взгляды на мир, пока они не пересмотрели вас.
