8月25日消息,Groq 在官方博客宣布成为 NVIDIA Groq 3 LPX 的首批采用者之一,将把它与 Vera Rubin NVL72 一起部署进自家的 AI 推理云,并与 Dell Technologies 合作落地。同一天,NVIDIA 在 Hot Chips 上宣布这款推理加速器全面投产。
需要先厘清的是产品归属:Groq 3 LPX 是 NVIDIA 的产品,不是 Groq 公司的新品。它源自双方 2025年12月的一笔技术授权交易,这一点决定了整条新闻的读法。Groq 没有公布容量上线的时间和采购规模,官方给出的性能数字也有口径上的前提,后文分别说明。
部署安排:Nebius 首家,Groq 首批之一
按 NVIDIA 新闻稿的口径,首家采用 Groq 3 LPX 的 AI 云是 Nebius,将通过其 Token Factory 推理服务上线。Groq 属于首批采用者之一,角色是把它接入自己面向开发者和企业的推理云。
Groq 在博客中透露,今年8月它已成为 NVIDIA Cloud Partner,将按 NVIDIA 的参考架构和运营标准来设计、部署和运营加速计算。Dell Technologies 负责集成基础设施和供应链。Groq 首席技术官 Sinclair Schuller 称,客户将在真实生产负载上获得使用 Groq 3 LPX 的最早路径之一。
Groq 自称已有超过 600 万开发者,每周在北美、欧洲、中东和亚太的数据中心产生数万亿 token。这是厂商口径,目的是说明它承接新平台的运营资历:官方称 Groq 是唯一有大规模生产环境 LPU 运营经验的团队。
Groq 3 LPX 是什么,数字该怎么读
Groq 3 LPX 在 Vera Rubin 体系里负责解码环节。异构部署中,Rubin GPU 承担上下文摄入和 prefill 计算,Groq 3 LPX 负责延迟敏感的 token 生成。每个 2U 液冷托盘装 16 颗 LPU,机架级部署最多 256 颗 LP30 加速器,托盘间通过芯片直连光链路互联。
性能方面,NVIDIA 公布的数字是在 Artificial Analysis 基准中,Gemma 4 31B 模型、10 万 token 上下文下达到每秒 3400 个输出 token,比最近的替代平台高 4 倍交互性。Artificial Analysis 记录其为该模型测得的最快结果。
这个对比有一个重要口径:据 StorageReview 报道,NVIDIA 的数字来自 8月21日的一个私有预发布端点,而被对比的是线上生产端点的数字。两类端点的测量条件并不对称,读这组数字时需要带上这个前提。NVIDIA 同时宣称,Vera Rubin NVL72 在 14 万 token 的智能体编程负载下,每兆瓦 token 吞吐最高可达 GB300 NVL72 的 30 倍,这是特定负载下的厂商宣称值。
八个月前的那笔交易
Groq 3 LPX 为什么姓 NVIDIA,答案在 2025年12月24日。当天 Groq 宣布与 NVIDIA 达成非独家推理技术授权协议。据路透社和 CNBC 当时的报道,交易规模约 200 亿美元。Groq 创始人 Jonathan Ross、总裁 Sunny Madra 及多名核心成员随交易加入 NVIDIA,Groq 继续独立运营,Simon Edwards 接任 CEO,GroqCloud 保持运转。
这笔交易至今没有完全翻篇。据 Bloomberg 报道,参议员 Warren 和 Blumenthal 今年3月已启动调查,致信 NVIDIA 质疑该交易是否以授权加聘用的结构规避反垄断审查。调查目前尚无结论。
技术绕了一圈,回到 Groq 的云
把两件事放在一起,关系才算清楚。八个月前,Groq 把推理技术授权给 NVIDIA,创始人团队随交易离开;八个月后,基于这项技术做成的 NVIDIA 品牌加速器全面投产,Groq 成为它的首批客户。Groq 从卖技术的一方,变成了买技术的一方,保留下来的资产是云、客户和运营经验。
对要建智能体应用的企业,这是一条实际的新路径:Groq 云和 Nebius Token Factory 会是 Groq 3 LPX 容量最早对外的两个入口,且都承诺沿用现有 API,不需要迁移技术栈。对 Groq 自己,这次合作换来的是 NVIDIA 体系内的位置;这笔交易长期上是得是失,现在的证据还回答不了——创始人已经离开,授权是非独家的,参议院的调查也没有结论。
Groq 尚未公布容量上线时间;在第三方拿到生产端点复测之前,每秒 3400 个输出 token 还只是一个私有预发布端点上的成绩。