Наделла: Гонка за AGI – бессмысленный подгон под тесты
Генеральный директор Microsoft Сатья Наделла в интервью Дваркешу Пателю выразил критическое отношение к погоне за "вехами AGI", назвав такие цели "бессмысленным подгоном под тесты". По его мнению, подобные достижения не отражают реальный прогресс в области искусственного интеллекта и служат скорее поводом для привлечения внимания, чем ориентиром для индустрии.
Под "вехами" Наделла подразумевает искусственные метрики и демонстрации, которыми злоупотребляют некоторые компании, занимающиеся разработкой ИИ. Это рекорды в тестах, под которые модели специально оптимизируются, впечатляющие видеоролики, не отражающие стабильную работу в реальных условиях, и непроверяемые внутренние отчеты о достижении AGI. Он подчеркнул, что такие показатели легко становятся объектом манипуляций, подтверждая закон Гудхарта: как только метрика становится целью, она теряет свою значимость.
Вместо этого Наделла предлагает оценивать прогресс по реальному влиянию на экономику: росту производительности и ВВП, снижению транзакционных издержек, стабильной полезности агентных систем в реальных бизнес-процессах, а также надежности и безопасности при длительной эксплуатации.
Эта точка зрения соответствует обновленной стратегии Microsoft в области ИИ: мультимодальному подходу, включающему использование OpenAI, развитие собственных разработок и интеграцию сторонних моделей. Компания стремится перенести ценность из самих моделей в платформы и продукты, делая ИИ когнитивным слоем в Copilot, GitHub, Office и других сервисах, а не просто объектом гонки за громкими заявлениями.
Для реализации этих задач Microsoft представила Fairwater (Azure AI Superfactory) – новую инфраструктурную платформу для ИИ, представляющую собой огромные кластеры ускорителей, объединенных для обеспечения минимальной задержки при обмене данными, а также собственную оптическую сеть для объединения различных площадок в единый вычислительный комплекс. Цель – быстрое масштабирование различных ИИ-стеков без привязки к конкретной архитектуре и получение измеримых результатов, соответствующих видению Наделла.
