VibeThinker-1.5B: Маленький размер, большие результаты
Исследовательская команда WeiboAI представила VibeThinker-1.5B - компактную модель с 1.5 миллиарда параметров, которая демонстрирует передовые результаты в задачах рассуждения и математического мышления. Несмотря на небольшой размер, она превосходит DeepSeek R1-0120 в математических бенчмарках AIME24/25 и HMMT25, а также опережает модели аналогичного класса в соревновательном программировании.
Модель отличается высокой эффективностью и низкой стоимостью. Полный цикл пост-тренинга обошёлся команде всего в $7.8 тыс., что значительно дешевле, чем у DeepSeek R1 или MiniMax-M1. При этом VibeThinker-1.5B показывает результаты, сравнимые с более крупными системами, такими как Kimi K2.
Ключом к производительности модели являются архитектурные принципы Spectrum-to-Signal Principle (SSP) и MGPO-фреймворк, оптимизирующие процесс рассуждения и позволяющие эффективно использовать ограниченные вычислительные ресурсы.
VibeThinker-1.5B доказывает, что компактные модели могут не только конкурировать с крупными, но и превосходить их в точности и стабильности. Это подтверждает тенденцию развития умных малых LLM, где приоритет отдается архитектуре и оптимизации, а не масштабу.
Ну что ж, похоже, пора пересматривать все наши представления о том, что размер имеет значение. Видимо, теперь все будут стремиться к созданию самых маленьких и самых умных моделей, чтобы доказать, что можно обойтись без огромных вычислительных мощностей и непомерных затрат. Кто бы мог подумать!
