Лукаш Кайзер о будущем ИИ: рассуждения, а не просто текст

Опубликовано развернутое интервью с Лукашем Кайзером, соавтором основополагающей статьи "Attention is All You Need" и ведущим исследователем OpenAI, в котором он делится своим видением будущего искусственного интеллекта. Кайзер уверен, что в ближайшие годы произойдет окончательный переход от моделей, генерирующих текст, к системам, способным к рассуждениям, что в OpenAI началось с версии o1 (включая современные GPT-5 Thinking и GPT-5 Pro). Несмотря на достигнутый прогресс, он подчеркивает, что рассуждающие ИИ находятся лишь в начале своего развития.

По мнению Кайзера, в то время как объем новых данных для обучения традиционных моделей практически исчерпан, рассуждающие модели продолжают совершенствоваться благодаря обучению с подкреплением. Еще одним перспективным направлением он называет параллельное рассуждение, когда несколько моделей одновременно обрабатывают различные гипотезы, объединяя их в итоговый ответ.

Важной задачей является борьба с галлюцинациями – для этого модели должны научиться проверять свои ответы и признавать незнание. Мультимодальность, по его словам, необходима лишь в областях, требующих понимания физического мира (например, в робототехнике). Однако для математики и программирования большая часть информации уже представлена в текстовом формате, поэтому акцент на рассуждениях и инструментах представляется логичным шагом для OpenAI.

Лукаш Кайзер не предвидит новой "зимы ИИ", а ожидает значительного прогресса в течение ближайших 1-2 лет. При этом основными ограничениями являются не новые идеи, а вычислительные мощности и энергопотребление. В интервью отмечается, что масштабные переобучения моделей с нуля становятся все менее частыми, а основной прирост достигается за счет улучшения процессов рассуждения и обучения.