NVIDIA объявила о полномасштабном производстве стойки Groq, которая будет развернута в Nebius

Сообщение ChainCatcher, старший директор NVIDIA Дион Харрис в понедельник по местному времени объявил, что стойка Groq 3 LPX вошла в стадию массового производства и будет развернута в дата-центре нового облачного провайдера Nebius, ожидается, что она будет запущена позже в этом году. Этот шаг знаменует собой коммерциализацию технологий, полученных NVIDIA после заключения сделки по лицензированию технологий с Groq на сумму около 20 миллиардов долларов в декабре прошлого года, несколько ключевых сотрудников Groq присоединились к NVIDIA, а основатель Джонатан Росс стал главным архитектором программного обеспечения NVIDIA.

NVIDIA ускоряет производство чипов Groq и предоставляет продукты клиентам, подчеркивая важность низкой задержки вывода. Groq 3 LPX, выпущенный в марте этого года, является ускорителем вывода для платформы Веры Рубин, архитектура которого интегрирует 500 мегабайт высокоскоростной SRAM на кристалле чипа, чтобы уменьшить узкие места в памяти. Каждая стойка LPX может интегрировать 256 чипов Groq 3, NVIDIA ссылается на бенчмаркинг, который утверждает, что она может обрабатывать 3400 токенов в секунду; чип производится компанией Samsung.

Харрис заявил, что чипы с низкой задержкой не заменяют GPU, а предназначены для использования подходящих процессоров в различных этапах рабочих нагрузок, облачные провайдеры могут предлагать более дорогие тарифные планы для пользователей, чувствительных к задержке. Генеральный директор NVIDIA Дженсен Хуанг планирует выделить около четверти пространства дата-центра для программных приложений для чипов Groq, остальная часть будет использовать систему Веры Рубин, и ожидается, что к 2027 году совокупные продажи Blackwell и Веры Рубин достигнут 1 триллиона долларов.