groq

Согласно сообщению ZDNet Korea от 20 октября, ссылаясь на отчеты полупроводниковой отрасли, компания Groq, занимающаяся AI-чипами и фактически приобретенная NVIDIA, продвигает внедрение трехмерной упаковки DRAM в следующем поколении чипов, чтобы заменить быстрое, но менее емкое решение SRAM. Groq была основана в 2016 году бывшим дизайнером TPU Google Джонатаном Россом, и сообщается, что компания была косвенно приобретена NVIDIA в прошлом году.Сообщается, что рассматриваемый Groq вариант — это 3DS, то есть высокоемкая упаковка, которая вертикально соединяет чипы DRAM через кремниевые отверстия. Трехмерная упаковка позволяет вертикально укладывать несколько голых чипов и работать как один чип, уменьшая площадь и повышая энергетическую эффективность по сравнению с плоскими решениями. 3DS и HBM используют кремниевые отверстия, но HBM акцентирует внимание на скорости передачи, в то время как 3DS сохраняет существующий интерфейс DRAM и сосредотачивается на расширении емкости. Анонимный представитель отрасли заявил, что Groq планирует использовать трехмерную упаковку в следующем поколении чипов, укладывая DRAM, а не SRAM; другой источник отметил, что рыночный спрос смещается в сторону чипов с большей емкостью, и поэтому Groq выбирает более выгодный с точки зрения емкости DRAM.

Согласно отчету Нью-Йорк Таймс, регулирующие органы проводят расследование лицензионного соглашения между NVIDIA и Groq.

Сообщение ChainCatcher, главный финансовый директор NVIDIA заявил, что ожидается, что в конце этого квартала начнется массовая поставка Groq 3 LPX ранним клиентам, среди которых первый клиент — Nebius.

Сообщение ChainCatcher, старший директор NVIDIA Дион Харрис в понедельник по местному времени объявил, что стойка Groq 3 LPX вошла в стадию массового производства и будет развернута в дата-центре нового облачного провайдера Nebius, ожидается, что она будет запущена позже в этом году. Этот шаг знаменует собой коммерциализацию технологий, полученных NVIDIA после заключения сделки по лицензированию технологий с Groq на сумму около 20 миллиардов долларов в декабре прошлого года, несколько ключевых сотрудников Groq присоединились к NVIDIA, а основатель Джонатан Росс стал главным архитектором программного обеспечения NVIDIA.NVIDIA ускоряет производство чипов Groq и предоставляет продукты клиентам, подчеркивая важность низкой задержки вывода. Groq 3 LPX, выпущенный в марте этого года, является ускорителем вывода для платформы Веры Рубин, архитектура которого интегрирует 500 мегабайт высокоскоростной SRAM на кристалле чипа, чтобы уменьшить узкие места в памяти. Каждая стойка LPX может интегрировать 256 чипов Groq 3, NVIDIA ссылается на бенчмаркинг, который утверждает, что она может обрабатывать 3400 токенов в секунду; чип производится компанией Samsung.Харрис заявил, что чипы с низкой задержкой не заменяют GPU, а предназначены для использования подходящих процессоров в различных этапах рабочих нагрузок, облачные провайдеры могут предлагать более дорогие тарифные планы для пользователей, чувствительных к задержке. Генеральный директор NVIDIA Дженсен Хуанг планирует выделить около четверти пространства дата-центра для программных приложений для чипов Groq, остальная часть будет использовать систему Веры Рубин, и ожидается, что к 2027 году совокупные продажи Blackwell и Веры Рубин достигнут 1 триллиона долларов.

Сообщение ChainCatcher, официально объявлено NVIDIA, что SpaceXAI развернет процессор NVIDIA Vera для ускорения своих приложений AI следующего поколения. Vera — это первый процессор, специально разработанный для AI-агентов, с 88 собственными ядрами Olympus от NVIDIA, использующий технологию пространственной многопоточности и память LPDDR5X с высокой пропускной способностью, достигающей 1,2 ТБ/с. В сценариях, таких как агентский AI, обучение с подкреплением и обработка данных, скорость выполнения задач по сравнению с x86 CPU может увеличиться до 1,8 раз.Президент SpaceXAI Майк Николлс заявил, что производительность процессора Vera и пропускная способность памяти достаточно для поддержки масштабной оркестрации задач, выполнения кода и обработки данных, что позволяет GPU работать наиболее эффективно, получая больше полезного выхода из расчета на ватт.SpaceXAI также планирует расширить инфраструктуру AI, стоящую за Grok, на платформе NVIDIA Vera Rubin, продвигаясь к вычислительной мощности в мегаваттном диапазоне. Vera Rubin интегрирует ускоренные вычисления NVIDIA, NVLink, сеть Spectrum-X и технологии обработки данных BlueField, с целью снижения стоимости за токен и повышения общей энергоэффективности AI-фабрики.Еще более примечательно, что SpaceXAI отправит оптимизированную систему Vera Rubin NVL72 в космос, ее первое поколение спутников AI Starmind будет использовать эту архитектуру уровня стойки, став первым знаковым развертыванием ускоренных вычислений NVIDIA, переходящих от наземных дата-центров к орбитальным вычислениям.

Сообщение ChainCatcher, согласно информации от The Information, ссылаясь на двух сотрудников Nvidia, сообщает, что Nvidia планирует в конце года начать небольшие поставки LPU (языкового процессора), основанного на технологии Groq, для китайских клиентов, и уже несколько китайских клиентов разместили заказы. Сообщается, что этот чип не требует снижения характеристик и может использоваться с процессорами, доступными на китайском рынке, только с помощью программного обеспечения.Nvidia затем опровергла этот отчет, заявив, что он "неправилен", и что в настоящее время у компании нет продаж LPU в Китае, а в дорожной карте продуктов также нет "специального LPU для Китая". В марте этого года Reuters также ссылалась на осведомленные источники, сообщая, что Nvidia готовится продавать чипы Groq в Китае, на что Дженсен Хуанг в интервью Punchbowl заявил, что отчет "совершенно ошибочен" и четко указал, что чипы Groq не будут поставляться в Китай. Рекомендуется полагаться на официальные заявления.

According to Jinshi reports, U.S. stocks opened with the Dow Jones Industrial Average down 0.04%, the S&P 500 up 0.04%, and the Nasdaq Composite up 0.1%. Nvidia (NVDA.O) rose 0.8% as the company reached a non-exclusive technology licensing agreement with Groq. Mining stocks were influenced by the recent rise in metal prices, with Coeur Mining (CDE.N) up 3.4% and Pan American Silver (PAAS.O) up 1.9%. Storage concept stocks rose, with Micron Technology (MU.O) up 0.8% and SanDisk (SNDK.O) up 3.5%. Omdia expects AI demand to drive NAND prices up 40% next year.

According to CNBC, Nvidia has agreed to acquire all assets of AI chip startup Groq for approximately $20 billion in cash (excluding its GroqCloud business), marking its largest acquisition to date.Groq was founded by a developer of Google's TPU core and focuses on low-latency AI inference chips. Although Groq claims that the agreement with Nvidia is a "non-exclusive technology licensing agreement," its founder and CEO Jonathan Ross and the executive team will join Nvidia, with Groq's CFO Simon Edwards taking on the role of new CEO and continuing to operate independently. Nvidia emphasized that it did not acquire Groq as a whole but is integrating its low-latency processor architecture into its AI platform.

ChainCatcher message, the official block explorer Etherscan posted on social media stating that the code reader has been updated. An option has been added for users logging into their Etherscan accounts, allowing them to use the Groq AI model without needing an API key.