ИИ – это не человек: Новый взгляд Андрея Карпати
Бывший директор по ИИ в Tesla Андрей Карпати предложил рассматривать большие языковые модели (LLM) не как несовершенных людей, а как качественно иной тип интеллекта. Он утверждает, что LLM развиваются в уникальной среде, отличной от той, что формировала человеческий разум на протяжении миллионов лет.
Карпати объясняет, почему ИИ преуспевает в сложных задачах, таких как написание кода или рассуждения о физике, но иногда терпит неудачу в простых, например, в подсчете букв. В его понимании, ошибка для животного может быть фатальной, а для LLM – незначительной, не влияющей на ее дальнейшее развитие.
Он выделяет три ключевых уровня различий: носитель (биологический мозг vs. трансформер), механизм обучения (генетика, развитие, опыт vs. текстовые данные и обратная связь), и режим существования (непрерывная биография vs. активация по запросу).
Центральным моментом является разница в целях оптимизации. Естественная эволюция оттачивала биологический разум через борьбу за выживание, тогда как LLM оптимизируются под данные, метрики и оценки пользователей. В итоге, ИИ демонстрирует удивительные способности в определенных областях, но может допускать абсурдные ошибки в тех задачах, которые не имеют значения для его “коммерческой эволюции”.
Карпати заключает, что ожидания от LLM, основанные на сравнении с человеческим интеллектом, ошибочны. Эти модели будут лишены здравого смысла, инстинкта самосохранения и интуиции, пока эти качества не станут частью их целевой функции. Понимание этого позволит эффективнее использовать LLM и прогнозировать их развитие.
