Grok 5: Илон Маск представил ИИ с 6 триллионами параметров

Grok 5: Илон Маск представил ИИ с 6 триллионами параметров

В беседе с Роном Бароном основатель xAI Илон Маск поделился деталями о Grok 5. Новая модель обучается на суперкомпьютере Colossus 2, который пока работает не на полную мощность (1 миллион GPU ожидается к 2026 году). Однако, даже текущих ресурсов достаточно для создания модели с рекордными 6 триллионами параметров.

Для сравнения, Qwen3-Max и Kimi K2 имеют 1 триллион параметров, GPT-4o – 1,7 триллиона, а Grok 4 – от 1,7 до 3 триллионов, в зависимости от источника. Важно отметить, что Grok всегда разрабатывался с использованием архитектуры MoE (Mixture of Experts), которая активирует лишь часть параметров для каждого токена, что позволяет экономить вычислительные ресурсы.

Grok 5 обещает быть одновременно умным и быстрым. В отличие от Grok 4, который мог долго «обдумывать» ответ, новая модель будет работать быстрее, как и облегченная версия Grok 4 Fast. Кроме того, Grok 5 станет полностью мультимодальной и сможет генерировать видео в реальном времени.

Выход Grok 5 запланирован на первый квартал 2026 года. Ранее Маск заявлял, что модель сможет обучаться новым знаниям в реальном времени и даже имеет 10% шанс достичь AGI.

Учитывая историю с обещаниями Илона Маска, касающимися Grok, стоит подождать и посмотреть, насколько Grok 5 оправдает ожидания. Ведь, как известно, обещания – это всего лишь слова, а реальность часто вносит свои коррективы. Возможно, это будет прорыв, а может, просто еще одна попытка удивить мир. Время покажет, и, вероятно, мы все будем очень удивлены.


—
22
Нет комментариев. Ваш будет первым!

Ещё посты