随着AI智能体从单纯问答转向任务执行,模型决策与执行间的协同需求愈发迫切。在这一架构中,GPU主导模型推理,而CPU承担大部分执行工作。英伟达产品营销总监Hannah Coutand指出,这种分工构成了其与CoreWeave计划部署Vera CPU的合作基石。

“Vera的重要性在于,我们需以全局视角审视AI工厂,消除低效瓶颈。”Coutand表示,团队初衷并非制造通用CPU,而是专门解决CPU在智能体工作负载中形成的性能瓶颈。

智能体时代重塑CPU性能标准

训练与推理的交织要求基础设施同时支撑模型计算与智能体运行环境。Coutand解释称,工具调用、API交互及SQL查询显著增加了CPU的执行负载。她强调,新一代CPU需具备高速核心、高内存带宽和低延迟特性,才能为智能体用例及强化学习奠定坚实基础。

CoreWeave宣布,将在现有设施外提供独立的Vera CPU容量服务。其高级产品总监Harsh Banwait透露,经过测试,搭载Vera CPU的沙盒服务启动性能提升约3倍。这种组合既满足了硅片级的性能需求,也保障了客户预期的产品体验。

硬件级协同保障安全与效率

安全性是智能体基础设施的另一核心。英伟达Open Agent Safety Platform通过结合运行在Vera CPU上的OpenShell运行时,以及运行在BlueField-4数据处理单元(DPU)上的Nvidia Sentry,构建了独立的监控与执行层。

“这些组件均集成于单一的Vera Rubin托架内,”Coutand说明,“OpenShell运行于Vera CPU,DOCA Sentry运行于DPU,所有硬件基础设施高度整合。”

Banwait补充道,运营此类基础设施需统筹电力、冷却、网络及存储自动化。只有消除链条中最薄弱的环节,确保各组件协同推进,才能实现系统整体的连贯高效运行。