在2026年OCP全球峰会（圣何塞）第三天，技嘉科技旗下AI基础设施子公司Giga Computing于A39展位展示了一套完整配置的NVIDIA Vera Rubin NVL72机架。该平台将以往需多机架配置的工作压缩至单一系统，集成72颗Rubin GPU和36颗Vera CPU，共享20.7 TB统一HBM4内存池。这一容量足以让单个机架运行万亿参数大语言模型及百万Token上下文窗口，无需跨机架网络通信。
每颗Rubin GPU配备288 GB HBM4内存。机架层面，第六代NVLink互连技术将72颗GPU绑定为相干内存域，提供约1.4 PB/s聚合内存带宽。单颗GPU带宽高达19.2 TB/s。NVIDIA评估，该平台在NVFP4精度下算力达3.6 EFLOPS；相较上一代GB200，单GPU推理性能提升最高达5倍，混合专家（MoE）模型单Token成本降低高达10倍。
散热方面，该机架实现100%液冷，支持45°C冷却液入口温度，并配备一条储能能力为前代20倍的液冷母线。平台支持全机架规模NVIDIA保密计算，以适应受监管行业及共享基础设施部署需求。Vera Rubin NVL72于今年3月NVIDIA GTC 2026首发并投入量产，目前已部署于超大规模云服务商及AI研究实验室。此次展示是继NVIDIA自有场地外，首批公开亮相的全配置生产级机架之一。
### Groq 3 LPX破解推理延迟瓶颈
大语言模型服务包含预填充和解码两个阶段。预填充阶段受益于GPU高FLOP计数，而解码阶段受限于内存带宽及高延迟。Groq 3 LPX机架专攻解码瓶颈，基于语言处理单元（LPUs）构建，提供315 PFLOPS算力、256个LPUs及128 GB片上SRAM，片上内存带宽高达40 PB/s。这种PB级带宽使LPUs能即时获取权重并生成Token。NVIDIA评估，Vera Rubin NVL72与Groq 3 LPX组合配置的每兆瓦吞吐量，较Grace Blackwell NVL72系统最高高出35倍。
Giga Computing将两者定位为互补系统：在非聚合式推理架构中，Rubin GPU负责注意力计算，Groq LPUs承担前馈层和MoE层。该堆栈优化了每用户每秒Token数，让昂贵GPU产能专注于其高效领域。
### Vera CPU机架支撑Agentic AI编排
Giga Computing展示的NVIDIA Vera CPU机架基于Arm架构Vera数据中心处理器构建，旨在解决Agentic AI流水线的编排和沙箱化需求。每台机架可支持22,500个并发执行环境，适用于RLHF、多智能体编排等需快速启动轻量级上下文的AI工作流。该机架基于NVIDIA MGX开放架构，集成Spectrum-X以太网网络以解决拥塞和抖动问题，设计与Vera Rubin NVL72及Groq 3 LPX协同运作。
### OCP ORV3与800V供电革新
除专有平台外，Giga Computing还展示了完整配置的OCP Open Rack Version 3 (ORV3) 机架，支持AMD EPYC和Intel Xeon CPU，涵盖计算、存储及管理硬件，均采用直接液冷。展示配置包括专为八GPU主板设计的GIGABYTE TO46系列及基于NVIDIA HGX B300系统的配置。
配电方面，展位展示了TaiSol Electronics生产的800V CDU（冷却分配单元）。转向800V直流配电减少了长距离电缆的电阻损耗，对于高功率密度AI机架而言，这是降低规模化运营成本的关键系统设计约束。
### 从服务器制造商到全栈合作伙伴
Giga Computing正从GPU服务器制造商转型为全栈AI基础设施合作伙伴。2026年9月22日，该公司在新北市推出GAIFA AI计算中心和验证测试床，拥有700千瓦计算容量。2026年7月，其扩展GigaPOD AI基础设施平台家族；此前在台北Computex 2026上，与韩国芯片初创公司Rebellions签署谅解备忘录，共同开发面向主权AI市场的机架规模AI服务器解决方案。
OCP全球峰会是数据中心开放基础设施标准制定的主要场所。Giga Computing此次展示的Vera Rubin NVL72、Groq 3 LPX、Vera CPU和ORV3产品组合，代表了现代AI工厂各层面的系统级解决方案。参观者可在10月15日前于A39展位观看这些机架系统在生产配置下的运行状态。