英伟达(Nvidia)推出的Vera CPU,标志着其在AI基础设施领域的又一重大里程碑。随着代理式AI(Agentic AI)工作流的兴起,数据中心对CPU的需求激增,Vera正是为此应运而生。尽管外界曾质疑在六个月内开发出适配新需求的CPU是否可行,但基准测试证实,英伟达关于Vera性能的宣称并非虚言。

在当前缺乏标准化端到端代理基准测试的情况下,基于现有工作负载的测试显示,Vera在代理式工作流中极具潜力。特别是在作为AI软件生态核心的Python语言处理上,Vera展现了顶尖性能。此外,凭借芯片间高速C2C互连技术,Vera在单插槽及系统级别均呈现出统治级的内存带宽,这对于需要频繁查询大型数据库的高竞争代理环境至关重要。

正面硬撼x86:通用与专用负载双优

Vera进入的是一个由AMD和Intel传统x86芯片主导的竞争激烈的服务器市场。然而,测试表明,Vera不仅在类代理工作负载中表现出色,在通用服务器工作负载中也具备极强竞争力,往往能持平甚至超越同级别的AMD Turin和Intel Granite Rapids-AP芯片。虽然在前端工作负载上,x86 CPU凭借核心密度占据一定优势,但Vera通过强大的后端和数据密集型操作性能弥补了这一差距。

Vera是英伟达首款搭载自定义核心“Olympus”的CPU,相比使用现成Arm核心的Grace芯片,其在几乎所有方面均有显著提升。这颗88核CPU基于Armv9.2-A架构,支持每核双线程,拥有10宽解码特性及第二代可扩展一致性Fabric(SCF)。SCF将L3缓存在晶圆上分布,提供高达3.4 TB/s的晶圆内带宽。配合最高9600 MT/s的SOCAMM2 LPDDR5X内存,Vera总内存带宽高达1.2 TB/s,每核带宽约14 GB/s,是AMD高密度Turin设计的两倍以上。

Nvidia Vera规格
核心/线程88 / 176
L2缓存每核2 MB
L3缓存每CPU 164 MB
内存最高1.5 TB SOCAMM2 LPPDDR5X
内存速度最高9600 MT/s
内存带宽最高1.2 TB/s(聚合),14 GB/s(每核)
PCIe88条PCIe 6.4通道(仅CPU),96条PCIe 6.4通道(Vera Rubin),支持分片至x2,CXL 3.1
可配置TDP250W - 450W

代理式AI重塑CPU需求

代理式AI的工作特性对CPU提出了新要求。以云端持久性代理为例,其工作负载由高并发定义,重点在于芯片满载时每个沙盒的表现。Google Cloud AI副总裁Mark Lohmeyer指出,代理工作负载具有突发性:用户可能在短时间内发起大量请求,随后长期空闲。这种模式要求CPU能在高并发下维持性能,并高效处理代码编译、图遍历和大型数据库查询等任务。

德克萨斯大学奥斯汀分校和微软Azure研究人员在2026年8月发表的报告《代理式AI工作流的架构影响》中指出,CPU在代理流程中扮演三重角色:GPU推理调度器、状态协调者以及工具执行者(通常运行Python逻辑)。由于目前业界尚未建立类似SPEC或TPC的端到端代理循环基准测试,本次测试侧重于评估对代理循环至关重要的性能指标,如Python性能、JSON解析及数据库处理能力。

SPEC CPU 2026预估:Vera表现亮眼

在SPEC CPU 2026 intrate基准测试中,Vera展现了强劲的整数运算吞吐量。测试结果显示,Vera领先AMD EPYC 9755约1.5%至3%。若按核心分解得分,Vera的性能优势更为明显。即便面对经过oneAPI优化的Intel Xeon 6980P二进制文件,使用通用GCC编译器的Vera仍领先8.6%。不过,Vera在SEAL加密和Zstd解压方面略逊于竞争对手。

在浮点性能方面,Vera同样位居榜首,特别是在依赖内存带宽的ROMS测试和展现SCF优势的PALM数字测试中表现突出。尽管在FemFlow和CACTUS等个别项目中存在短板,但整体性能优势清晰。

Python性能:AI代理的核心竞争力

鉴于Python是LangGraph、CrewAI等主流代理框架的基础,Python性能成为衡量代理式CPU的关键指标。PyBench测试显示,Vera的总平均测试时间最短,领先EPYC 9755达4%,更大幅领先Intel Xeon系列及AMD EPYC 9965。由于Python主要为单线程运行,Vera在此类基本内置函数测试中确立了显著优势。

需要强调的是,服务器硬件的选择高度依赖用例和总拥有成本(TCO)。超大规模云服务商通常根据特定工作负载优化硬件堆栈。本次测试中,英伟达提供了远程访问双插槽Vera系统的机会,除确保平台正常运行的配置检查外,未对测试内容施加任何限制。随着未来行业级代理基准测试的完善,Vera在完整代理循环中的表现值得进一步关注。