groq

ZDNet Korea の 10 月 20 日の報道によると、英偉達に実質的に買収された AI チップ会社 Groq は、次世代チップに DRAM 三次元スタッキングパッケージを導入することを進めており、速度が速いが容量が小さい SRAM ソリューションに代わるものです。Groq は前 Google TPU デザイナーの Jonathan Ross によって 2016 年に設立され、昨年英偉達に間接的に買収されたと報じられています。報道によれば、Groq が評価しているソリューションは 3DS であり、シリコンビアを通じて DRAM チップを垂直に接続する高容量パッケージです。三次元パッケージは複数の裸チップを垂直にスタッキングし、一つのチップとして機能させることができ、平面ソリューションに比べて面積を縮小し、電力効率を向上させます。3DS と HBM はどちらもシリコンビアを使用していますが、HBM は伝送速度に重点を置き、3DS は既存の DRAM インターフェースを維持し、容量の拡張に焦点を当てています。匿名の業界関係者は、Groq が次世代チップに三次元パッケージを採用する計画であり、スタッキングされるのは SRAM ではなく DRAM であると述べています。別の関係者は、市場の需要がより大容量のチップにシフトしているため、Groq は容量で優位性のある DRAM を選択したと述べています。

ニューヨークタイムズの報道によると、規制当局はNVIDIAとGroqの間で締結されたライセンス契約を調査しています。

英偉達の最高財務責任者は、今四半期の後半に早期顧客に向けて Groq 3 LPX の大規模出荷を開始する予定であり、最初の顧客には Nebius が含まれると述べました。

英偉達の上級ディレクター、Dion Harrisは現地時間の月曜日に、Groq 3 LPXラックが全面的な量産段階に入ったことを発表し、新しいクラウドサービスプロバイダーNebiusのデータセンターに展開される予定で、今年の後半に稼働する見込みです。この動きは、英偉達が昨年12月にGroqと約200億ドルの技術ライセンス契約を結んだ後、得られた技術が正式に商業化されることを示しています。複数のGroqの核心社員が英偉達に参加し、創業者のJonathan Rossが英偉達のチーフソフトウェアアーキテクトを務めています。英偉達はGroqチップの生産を加速し、顧客に製品を提供しており、低遅延推論の重要性を強調しています。今年3月に発表されたGroq 3 LPXはVera Rubinプラットフォームの推論アクセラレーターで、チップのダイ上に500メガバイトの高速SRAMを統合してメモリボトルネックを減少させています。各LPXラックは256個のGroq 3を統合でき、英偉達はベンチマークテストを引用して、毎秒3400トークンを処理できると述べています。このチップはサムスンによって製造されています。Harrisは、低遅延チップはGPUを置き換えるものではなく、異なるワークロードの各段階に適切なプロセッサを使用することを目的としており、クラウドサービスプロバイダーは遅延に敏感なユーザーに対してより高い料金プランを提供できると述べています。英偉達のCEO、黄仁勲は、プログラミングアプリケーション向けのデータセンターのスペースの約4分の1をGroqチップに割り当て、残りの部分はVera Rubinシステムを使用し、2027年までにBlackwellとVera Rubinの累計売上が1兆ドルに達することを見込んでいます。

英偉達は公式に、SpaceXAIが次世代エージェントAIアプリケーションを加速するために英偉達のVera CPUを展開することを発表しました。VeraはAIエージェント専用に設計された初のCPUで、88個の英偉達自社開発のOlympusコアを搭載し、空間マルチスレッド技術とLPDDR5X高帯域幅メモリを採用しており、帯域幅は1.2TB/sに達します。エージェントAI、強化学習、データ処理などのシーンにおいて、x86 CPUと比較してタスク完了速度が最大1.8倍向上します。SpaceXAIの社長Mike Nicollsは、VeraのCPU性能とメモリ帯域幅は大規模なタスク編成、コード実行、データ処理を支えるのに十分であり、GPUを最高効率で運用し、1ワットあたりの計算からより多くの有効な成果を得ることができると述べています。SpaceXAIはまた、NVIDIA Vera Rubinプラットフォームに基づいてGrokの背後にあるAIインフラストラクチャを拡張し、ギガワット級の計算容量に向かう計画を立てています。Vera Rubinは英偉達の加速計算、NVLink接続、Spectrum-Xネットワーク、BlueFieldデータ処理技術を統合しており、目標は各トークンのコストを削減し、AIファクトリー全体のエネルギー効率を向上させることです。さらに注目すべきは、SpaceXAIが最適化されたVera Rubin NVL72システムを宇宙に送ることであり、その第一世代Starmind AI衛星はこのラックマウントアーキテクチャを採用し、英偉達の加速計算が地上のデータセンターから軌道計算に拡張される最初の象徴的な展開となります。

The Informationによると、NVIDIAの2人の社員が報告したところによれば、NVIDIAは年末までに中国の顧客に向けてGroq技術に基づくLPU（言語処理器）を少量出荷する計画であり、すでに数社の中国の顧客が注文を出しているとのことです。報道によれば、このチップはスペックを下げる必要がなく、ソフトウェアの調整だけで中国市場で入手可能なプロセッサと組み合わせて使用できるとのことです。NVIDIAはその後、この報道を否定し、「不正確」と述べ、現在中国でLPUの販売は行っておらず、製品ロードマップにも「中国特供LPU」は存在しないとしています。今年の3月、ロイターも関係者の話を引用してNVIDIAが中国にGroqチップを販売する準備をしていると報じましたが、黄仁勲はその後、Punchbowlのインタビューで報道は「完全に誤り」であり、Groqチップが中国に入ることはないと明言しました。公式声明を基準とすることをお勧めします。

据金十报道，美股开盘，道琼斯工业平均指数跌 0.04%，标准普尔 500 指数涨 0.04%，纳斯达克综合指数涨 0.1%。英伟达（NVDA.O）涨 0.8%，公司与 Groq 达成一项非独家技术许可协议。矿业股受近期金属涨势影响，科尔黛伦矿业（CDE.N）涨 3.4%，泛美白银（PAAS.O）涨 1.9%。存储概念股上涨，美光科技（MU.O）涨 0.8%，闪迪（SNDK.O）涨 3.5%，Omdia 预期 AI 需求将推动 NAND 明年涨价 40%。

据 CNBC 报道，英伟达已同意以约 200 亿美元现金收购 AI 芯片初创公司 Groq 的全部资产（不含其 GroqCloud 业务），成为其迄今最大一笔收购。Groq 由谷歌 TPU 核心开发者创立，专注低延迟 AI 推理芯片。尽管 Groq 称与英伟达达成的是"非独家技术许可协议"，但其创始人兼 CEO 乔纳森·罗斯及高管团队将加入英伟达，Groq 将由 CFO 西蒙·爱德华兹出任新任 CEO 并继续独立运营。英伟达强调未整体收购 Groq 公司，而是整合其低延迟处理器架构于 AI 平台中。

ChainCatcher のメッセージ、ブロックエクスプローラー Etherscan の公式がソーシャルプラットフォームで発表し、コードリーダーが更新されたことを示しています。ユーザーが Etherscan アカウントにログインする際に、API キーなしで Groq AI モデルを使用できるオプションが追加されました。