NVIDIA Launches Vera CPU for AI Factory Agent Throughput and Energy Efficiency

前言

智能体工作流不只在 GPU 上做推理:检索、查库、写代码与执行动作等环节都落在 CPU 上,任务过程中会在 GPU 推理与 CPU 执行之间反复切换。企业把更多智能体投入生产后,基础设施需要在有限功率内同时提高单智能体完成速度,并承载更多并发智能体;这在 x86 上往往要靠「快型号」和「高密度型号」混配来折中。

2026 年 11 月 5 日,NVIDIA 通过官方博客介绍 Vera CPU,强调在 AI 工厂场景下兼顾智能体速度与每瓦可承载的智能体规模,并给出百兆瓦级数据中心对比及多家合作方的生产向测试数据。来源:NVIDIA Blog。

Vera 针对的工作负载特征

官方描述中,智能体步骤对 CPU 的依赖是连续发生的:信息搜索、数据库查询、代码编写与测试、以及后续动作执行,都要求 CPU 侧低时延、高并发。AI 工厂运营商的常见约束是机房总功率封顶;在不能无限加电的前提下,需要提高「每瓦完成的智能体工作量」,并避免智能体因排队等待 CPU 而拉长端到端时延。

Vera 的定位是:用单一 CPU 产品线覆盖多种智能体负载,减少为平衡速度与容量而在不同 x86 部件之间混搭的运维与采购复杂度。博客未在此处展开微架构细节,重点落在智能体场景下的实测对比与合作方案例。

百兆瓦数据中心对比指标

NVIDIA 在博客中给出 100 megawatt 数据中心场景下的对比结论(具体对照的 x86 型号未在摘录中列出):

  1. 与「最快 x86 CPU」相比:单颗 Vera 在智能体速度上表现更好,同时每瓦约可支撑 1.6 倍规模的智能体(官方表述为 1.6x more agents per watt versus the fastest x86 CPU)。
  2. 与「能效 leading 的 x86 CPU」相比:智能体速度约为 2 倍,且 Vera 侧仍具备领先的能效(2x faster agent speed with leading energy efficiency)。

上述数据来自 NVIDIA 自有对比;读者在选型时仍需结合自身负载模型、软件栈与机架功率做复现验证。

合作方披露的生产向测试

博客列出多家早期采用方在接近生产条件下的结果,节选如下。

智能体与编排

  • Perplexity:智能体编码任务在 Vera 上较传统 CPU 快约 1.5 倍;计划在未来生产系统中部署 Vera。
  • DeepInfra:在生产智能体编排负载上,相对测试中最佳 x86 最高约 2.2 倍;在四种架构中取得最快成绩。
  • Modal:每核心沙箱吞吐量相对同类 x86 最高约 2 倍,高负载下增益更明显。

沙箱与批处理

  • Daytona:使用 Vera 时 1,000 个智能体沙箱约 10.8 秒上线;2,000 并发沙箱下约 12.7 jobs/s。对照 x86 为 88.4 秒完成同类 1,000 沙箱上线(博客未给出 x86 在 2,000 并发下的 jobs/s 数字)。

分析与基准

  • ClickHouse:标准二进制未经 Vera 专项调优,在 176 核心上接近线性扩展,并在 ClickBench 硬件排行榜登顶。
  • DuckLabs:TPC-H SF1000 中位数性能约为 Intel Xeon 6 基线的 1.5 倍。

这些案例说明 Vera 除智能体编排外,在 OLAP、基准与沙箱隔离等 CPU 密集型路径上也有合作方公开数字;是否与读者业务一致,取决于 workload 是否与上述测试相近。

对 AI 基础设施叙事的衔接

NVIDIA 将 Vera 与「AI 工厂」、全栈协同(GPU 推理 + CPU 执行 + 功率预算)放在同一话语里。智能体规模化部署抬高了「高密度 + 低时延」CPU 的需求:若 CPU 成为切换与执行瓶颈,GPU 侧推理再快也难以缩短任务墙钟时间。Vera 作为新硬件支点,配合博客同日条目中的 AI Infrastructure、Agentic AI 等标签,延续其在数据中心内同时谈性能与能效的路线。

对行业而言,可观察的变化包括:云与托管推理厂商在功率封顶机房中重新评估 CPU /socket 与智能体并发模型的关系;合作方已公开的 1.5x–2.2x 量级数字,可能成为招标与 POC 中的参考基线,但最终仍以各厂商在相同软件版本下的复测为准。产品细节与规格可继续关注 NVIDIA 官方 Vera CPU 专题页面(博客文末 Learn more about the NVIDIA Vera CPU 链出)。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye