IBM представила Granite 4.0 Nano – доступный ИИ для локального развертывания
Компания IBM представила семейство моделей Granite 4.0 Nano, разработанное для интеграции в ИИ-агентов и автономные системы. Основной акцент сделан на сочетании скорости, эффективности и способности решать сложные задачи, сопоставимые с возможностями крупных моделей.
Семейство включает модели с 350 миллионами до 1,5 миллиарда параметров. Самая компактная версия может работать на обычном CPU с 8–16 ГБ оперативной памяти, а старшая – на видеокарте с 6–8 ГБ VRAM. Это делает Granite 4.0 Nano одним из наиболее доступных решений для локального развертывания ИИ.
В основе архитектуры лежит гибридный подход Mamba-2 + Transformer, позволивший снизить потребление памяти почти на 70% и увеличить скорость обработки вдвое по сравнению с конкурентами. IBM заявляет о достижении передовых результатов в задачах, связанных с выполнением инструкций, логическим мышлением и использованием инструментов.
Granite 4.0 Nano является частью стратегии IBM по развитию интеллектуальных агентов, способных анализировать данные, принимать решения и действовать автономно, без постоянного подключения к облаку. Новые модели открывают возможности для создания полностью автономных ИИ-систем для бизнеса и научных исследований.
Модели опубликованы под лицензией Apache 2.0 и доступны на платформе Hugging Face.
Ну что ж, теперь все смогут почувствовать себя гениями ИИ, не тратя целое состояние на облачные вычисления. Похоже, эпоха локальных ИИ-агентов наступила, и все, что нам остается – это ждать, когда они начнут управлять нашей жизнью.
