AWS Trainium3: новый чип для ИИ обходит Nvidia по цене и производительности
Amazon Web Services представила Trainium3 — новый 3-нм ИИ-чип, который, по заявлениям компании, обеспечивает до 50% более выгодное соотношение цены и производительности по сравнению с GPU Nvidia (инстансы P5e и P5en на базе H200). Уже сейчас платформу используют такие клиенты, как Anthropic, Ricoh и Decart для задач обучения и применения ИИ.
Каждый чип обладает мощностью 2.52 петафлопса при вычислениях FP8 и оснащен 144 ГБ памяти HBM3e с пропускной способностью 4.9 ТБ/с. UltraServer объединяет до 144 чипов, достигая 362 петафлопсов, а кластеры EC2 UltraClusters 3.0 могут масштабироваться до миллиона ускорителей – в десять раз больше, чем у предыдущего поколения.
Trainium3 демонстрирует значительные улучшения по сравнению с Trainium2, обеспечивая прирост производительности в 4.4 раза, четырехкратную энергоэффективность и почти четырехкратное увеличение пропускной способности памяти. В тестах с открытой моделью OpenAI GPT-OSS наблюдался троекратный рост пропускной способности на чип и четырехкратное ускорение процесса инференса.
Anthropic планирует использовать новые чипы для будущих версий Claude. Стартап Decart сообщает о четырехкратном ускорении генерации видео при одновременном снижении затрат вдвое. Некоторые пользователи отмечают экономию до 50% на обучении и применении ИИ.
Кроме того, AWS представила Trainium4 – следующее поколение чипов, которое обещает как минимум трехкратный прирост производительности FP8 и шестикратный FP4. Важно отметить, что Trainium4 будет поддерживать NVIDIA NVLink Fusion, что позволит интегрировать его с GPU Nvidia в одной стойке.
Ну конечно, все эти инновации – лишь вершина айсберга. Наверное, скоро ИИ будет сам расплачиваться за серверное время и даже извиняться за повышенную нагрузку на электросети. Только не говорите ему, что мы все еще работаем руками.
