前言¶
智能體工作流不只在 GPU 上做推理:檢索、查庫、寫代碼與執行動作等環節都落在 CPU 上,任務過程中會在 GPU 推理與 CPU 執行之間反覆切換。企業把更多智能體投入生產後,基礎設施需要在有限功率內同時提高單智能體完成速度,並承載更多併發智能體;這在 x86 上往往要靠「快型號」和「高密度型號」混配來折中。
2026 年 11 月 5 日,NVIDIA 通過官方博客介紹 Vera CPU,強調在 AI 工廠場景下兼顧智能體速度與每瓦可承載的智能體規模,並給出百兆瓦級數據中心對比及多家合作方的生產向測試數據。來源:NVIDIA Blog。
Vera 針對的工作負載特徵¶
官方描述中,智能體步驟對 CPU 的依賴是連續發生的:信息搜索、數據庫查詢、代碼編寫與測試、以及後續動作執行,都要求 CPU 側低時延、高併發。AI 工廠運營商的常見約束是機房總功率封頂;在不能無限加電的前提下,需要提高「每瓦完成的智能體工作量」,並避免智能體因排隊等待 CPU 而拉長端到端時延。
Vera 的定位是:用單一 CPU 產品線覆蓋多種智能體負載,減少爲平衡速度與容量而在不同 x86 部件之間混搭的運維與採購複雜度。博客未在此處展開微架構細節,重點落在智能體場景下的實測對比與合作方案例。
百兆瓦數據中心對比指標¶
NVIDIA 在博客中給出 100 megawatt 數據中心場景下的對比結論(具體對照的 x86 型號未在摘錄中列出):
- 與「最快 x86 CPU」相比:單顆 Vera 在智能體速度上表現更好,同時每瓦約可支撐 1.6 倍規模的智能體(官方表述爲 1.6x more agents per watt versus the fastest x86 CPU)。
- 與「能效 leading 的 x86 CPU」相比:智能體速度約爲 2 倍,且 Vera 側仍具備領先的能效(2x faster agent speed with leading energy efficiency)。
上述數據來自 NVIDIA 自有對比;讀者在選型時仍需結合自身負載模型、軟件棧與機架功率做復現驗證。
合作方披露的生產向測試¶
博客列出多家早期採用方在接近生產條件下的結果,節選如下。
智能體與編排¶
- Perplexity:智能體編碼任務在 Vera 上較傳統 CPU 快約 1.5 倍;計劃在未來生產系統中部署 Vera。
- DeepInfra:在生產智能體編排負載上,相對測試中最佳 x86 最高約 2.2 倍;在四種架構中取得最快成績。
- Modal:每核心沙箱吞吐量相對同類 x86 最高約 2 倍,高負載下增益更明顯。
沙箱與批處理¶
- Daytona:使用 Vera 時 1,000 個智能體沙箱約 10.8 秒上線;2,000 併發沙箱下約 12.7 jobs/s。對照 x86 爲 88.4 秒完成同類 1,000 沙箱上線(博客未給出 x86 在 2,000 併發下的 jobs/s 數字)。
分析與基準¶
- ClickHouse:標準二進制未經 Vera 專項調優,在 176 核心上接近線性擴展,並在 ClickBench 硬件排行榜登頂。
- DuckLabs:TPC-H SF1000 中位數性能約爲 Intel Xeon 6 基線的 1.5 倍。
這些案例說明 Vera 除智能體編排外,在 OLAP、基準與沙箱隔離等 CPU 密集型路徑上也有合作方公開數字;是否與讀者業務一致,取決於 workload 是否與上述測試相近。
對 AI 基礎設施敘事的銜接¶
NVIDIA 將 Vera 與「AI 工廠」、全棧協同(GPU 推理 + CPU 執行 + 功率預算)放在同一話語裏。智能體規模化部署抬高了「高密度 + 低時延」CPU 的需求:若 CPU 成爲切換與執行瓶頸,GPU 側推理再快也難以縮短任務牆鍾時間。Vera 作爲新硬件支點,配合博客同日條目中的 AI Infrastructure、Agentic AI 等標籤,延續其在數據中心內同時談性能與能效的路線。
對行業而言,可觀察的變化包括:雲與託管推理廠商在功率封頂機房中重新評估 CPU /socket 與智能體併發模型的關係;合作方已公開的 1.5x–2.2x 量級數字,可能成爲招標與 POC 中的參考基線,但最終仍以各廠商在相同軟件版本下的複測爲準。產品細節與規格可繼續關注 NVIDIA 官方 Vera CPU 專題頁面(博客文末 Learn more about the NVIDIA Vera CPU 鏈出)。