GPT-OSS теперь на Android-смартфонах: Nexa AI даёт новую жизнь нейросетям
Команда Nexa AI интегрировала в приложение Nexa Studio оптимизированную версию GPT-OSS, предназначенную для работы на современных Android-смартфонах. Модель весом 10 ГБ требует устройства с 16 ГБ оперативной памяти и мощным процессором.
Тестирование GPT-OSS проводилось на ASUS ROG Phone 9 с Snapdragon Elite Gen 5, показавшее время получения первого токена 3 секунды и скорость генерации 17 токенов в секунду. Процессор Snapdragon Elite Gen 5 уже установлен в Xiaomi 17 / 17 Pro / 17 Pro Max, а в ближайшем будущем ожидается в таких моделях, как realme GT 8 Pro, Honor Magic 8 / Magic 8 Pro, iQOO 15, OnePlus 15 и Samsung Galaxy S26.
Детали оптимизации для Android не разглашаются, разработчики выражают благодарность Qualcomm за содействие. В основе модели лежит GPT-OSS 20B, демонстрирующая производительность, сопоставимую с o3-mini.
- Комментарии