Kimi K2: Что нового в развитии AI-модели от Moonshot
Команда Moonshot AI поделилась планами развития модели Kimi K2. В ближайшем будущем ожидается выпуск нескольких версий, включая облегченные для запуска на потребительском оборудовании, а также расширение функциональности за счет мультимодальности и агентного режима с поддержкой инструментов.
Разработчики планируют выпустить модели с 15-30 миллиардами параметров, которые смогут эффективно работать на GPU, таких как RTX 3090/4090/5090, что позволит пользователям запускать и экспериментировать с K2 локально.
В настоящее время ведется активная разработка версии K2 с поддержкой компьютерного зрения. Она сможет анализировать изображения, скриншоты, PDF-документы и отвечать на вопросы, связанные с визуальным контентом.
Особое внимание уделяется созданию полноценного агентного режима, позволяющего K2 самостоятельно использовать инструменты для решения задач, такие как поиск, выполнение кода и парсинг данных. Главная задача – обеспечить стабильность и избежать ошибок в процессе работы.
Kimi K2 уже оптимизирована для более быстрой работы благодаря переходу на формат INT4, а также использует передовые технологии, такие как KDA + NoPE MLA и оптимизатор Muon. Разработка K3 находится на начальной стадии, но, по словам команды, она будет завершена раньше, чем конкуренты успеют построить дорогостоящую инфраструктуру.
