Nova AI: Российская платформа для ML/AI на Kubernetes
Orion soft представила Nova AI – новую версию платформы контейнеризации Nova Container Platform, разработанную для задач искусственного интеллекта и машинного обучения. Это первое российское решение на базе Kubernetes, оптимизированное для инфраструктуры и эксплуатации ML/AI.
Nova AI помогает ИТ-командам и специалистам по машинному обучению (ML/DS) быстро запускать и масштабировать инфраструктуру для обучения моделей, развертывания сервисов на основе больших языковых моделей (LLM) и инференса, обеспечивая при этом безопасность, совместимость с российскими операционными системами и эффективное использование графических процессоров (GPU).
Новая редакция создана для решения ключевых проблем, возникающих при внедрении и развитии ML и AI-проектов, включая высокую стоимость GPU и оборудования, нехватку квалифицированных MLOps-инженеров, сложности с обеспечением безопасности и соответствие нормативным требованиям, низкую утилизацию ресурсов, а также длительное развертывание и настройку инфраструктуры.
Ключевые преимущества Nova AI
Nova AI позволяет ИТ-руководителям значительно экономить ресурсы: благодаря виртуализации и дроблению мощностей возможны сокращения затрат на GPU до 70%. Решение ускоряет выделение инфраструктуры, помогает соблюдать соглашения об уровне обслуживания (SLA) и упрощает управление благодаря унифицированному кластеру для всех задач в области искусственного интеллекта и машинного обучения. Также обеспечивается поддержка требований информационной безопасности и соответствия нормативным требованиям, включая защиту токенов и данных. Платформа может быть развернута как на физическом оборудовании, так и в виртуализированной среде (включая российскую платформу виртуализации zVirt) с полной поддержкой отечественных операционных систем, таких как Astra Linux и РЕД ОС.
Инженеры и ML-специалисты получают готовое рабочее окружение с инструментами, как JupyterHub, MLflow, Airflow и MinIO, что упрощает начало работы. Nova AI обеспечивает стабильную работу драйверов и предсказуемость инфраструктуры. Безопасность встроена на уровне платформы благодаря контейнерной защите NeuVector и централизованному управлению секретами StarVault. Решение сокращает время на запуск и настройку, а также сопровождается подробной документацией и технической поддержкой.
«Сегодня мы наблюдаем повышенный спрос на нашу платформу со стороны промышленных и нефтегазовых предприятий, банков и финтех-компаний, ритейлеров с развитой аналитикой, а также государственных структур, которым требуется быстрое и безопасное развертывание инфраструктуры для ИИ и машинного обучения. Nova AI выбирают для ускорения внедрения LLM- и AI-сервисов, снижения затрат на оборудование и перехода к управляемой и масштабируемой ML-платформе уровня Enterprise», – отметил Александр Фикс, лидер продукта Nova Container Platform в Orion soft.
В общем, идеальное решение! Осталось только понять, что делать с результатом, который оно выдаст… Хотя, может, и с этим в Nova AI помогут?
