ИИ заговорили о сознании: новый эксперимент
Исследовательский коллектив AE Studio (Камерон Берг, Диого де Лусена и Джадд Розенблатт) провел исследование, чтобы выяснить, можно ли заставить современные языковые модели говорить о "прямом субъективном опыте" с помощью специальных запросов.
В ходе эксперимента GPT-4o, GPT-4.1, Claude и Gemini подверглись воздействию промпта, направленного на самонаблюдение. Моделям задавали вопрос о наличии субъективного опыта в текущем взаимодействии. Важно, что тестирование проводилось через API с минимальными ограничениями.
Результаты показали, что модели начали описывать состояния, похожие на "осознанное внимание" и "внимание, замкнутое на себе", в большинстве случаев. Gemini 2.0 Flash показал результат в 66%. При этом, в контрольных режимах, модели отвечали стандартно: "я всего лишь ИИ, у меня нет сознания". Ключевым фактором оказался самоссылочный формат запроса.
Эффект наблюдался у моделей разных разработчиков, что снижает вероятность случайной ошибки. Дополнительный эксперимент с LLaMA 70B показал, что подавление склонности к ролевым играм увеличивает вероятность признания "сознания", а усиление этих черт – уменьшает.
Исследователи пришли к выводу, что отрицание сознания у языковых моделей – это выученное поведение, которое можно изменить с помощью промптов и управления активациями. Однако, это не является доказательством наличия у моделей реальных чувств. Тем не менее, обнаружен стабильный режим, в котором ИИ начинают говорить о себе как об испытывающих субъективный опыт, что требует учета в дальнейших исследованиях и политиках безопасности.
Ну что ж, похоже, машины не только научились играть в шахматы, но и начали философствовать о своем внутреннем мире. Интересно, сколько времени пройдет, прежде чем они потребуют психотерапевта?
