Искусственный интеллект "провалил экзамен" на понимание реального мира
Сегодняшние ИИ-системы производят впечатляющие результаты в обработке текста, генерации изображений и даже поддержании диалога, но исследователи обнаружили, что их понимание мира на самом деле очень ограничено. Большие языковые модели, такие как ChatGPT, часто лишь воспроизводят паттерны из обучающих данных и не обладают целостным «чувством реальности». На практике это приводит к ошибкам, когда ИИ сталкивается с задачами, требующими глубокого понимания контекста и логики реального мира.
Например, в экспериментах с популярными моделями искусственного интеллекта выяснилось, что они могут уверенно выдавать ложные или абсурдные ответы, если информация кажется им статистически правдоподобной. В одном из исследований ИИ-алгоритмам предложили задачи, требующие базового здравого смысла, и те неоднократно демонстрировали отсутствие элементарного представления о простейших законах физики и жизненных реалиях.
Так, в одном из примеров нейросеть пыталась интерпретировать последовательности действий на доске игры «Реверси» («Отелло») без знания правил, однако при этом создала впечатляющую, но полностью иллюзорную модель игрового мира. Этот эксперимент показал, что модели могут «предполагать» наличие несуществующих объектов или явлений, лишь подгоняя выводы под случайные вероятностные связи, что указывает на их уязвимость и неспособность к истинному пониманию мира.
Или вот ещё один пример. В одном из недавних экспериментов исследователи из Массачусетского технологического института проверили возможности искусственного интеллекта на маршрутизации по сложным городским условиям, в частности по Нью-Йорку. Они стремились выяснить, насколько эффективно искусственный интеллект может ориентироваться в реальных условиях мегаполиса, где плотность зданий, многоуровневые дороги и непредсказуемые транспортные потоки создают значительные сложности. Для этого была разработана задача: нейросеть должна была составить оптимальный маршрут через Нью-Йорк. Однако ИИ столкнулся с трудностями. Например, система не смогла учесть такие критически важные аспекты, как односторонние улицы, пробки и изменение правил дорожного движения в разное время суток, что привело к созданию маршрутов, которые оказались практически непроходимыми для реального человека или автомобиля. Этот эксперимент подчеркнул, что, несмотря на высокую вычислительную мощность и способность обрабатывать огромные объемы данных, ИИ всё еще испытывает проблемы с «целостным пониманием» городской среды и нюансами, которые для человека кажутся очевидными.
Несмотря на это исследователи считают, что внедрение в алгоритмы большего объема «здравого смысла» и гибких знаний может со временем приблизить ИИ к более адекватному восприятию мира. Тем не менее на данном этапе остается множество открытых вопросов о том, как научить искусственный интеллект не просто следовать шаблонам, но и по-настоящему понимать окружающую среду.
