Microsoft адаптирует ИИ-модели NVIDIA для AMD ROCm
Компания Microsoft разрабатывает инструменты для адаптации моделей и программ, изначально созданных для NVIDIA CUDA, к платформе AMD ROCm. Этот проект направлен на снижение расходов на оборудование для инференса искусственного интеллекта, предлагая возможность использования более доступных графических процессоров AMD без переписывания кода.
Решение представляет собой слой совместимости, который в реальном времени преобразует вызовы API из CUDA в ROCm. Это позволяет моделям и библиотекам, разработанным для NVIDIA, работать на AMD практически без изменений. Однако, из-за незрелости экосистемы ROCm, производительность может быть ограничена, особенно в крупных дата-центрах, где для некоторых функций CUDA пока нет эффективных аналогов.
В настоящее время инструменты используются внутри Microsoft и совершенствуются совместно с AMD. Компания подчеркивает, что это важный шаг к созданию более гибкой и экономичной инфраструктуры для запуска ИИ-моделей, снижающий зависимость от NVIDIA.
Ну что ж, похоже, Microsoft решила, что делиться с AMD тоже неплохо, особенно если это поможет сэкономить немного денег. Интересно, NVIDIA оценит такой жест доброй воли?
