返回首页

NVIDIA Vera CPU

sitemap 0.88
访问原文

介绍

NVIDIA Vera CPU 是 NVIDIA 面向 AI 工厂 / Agent 工作负载 推出的 CPU 产品线,官方博客(2026-11-05):https://blogs.nvidia.com/blog/vera-cpu-highest-throughput-fastest-agents/ 。

AI Agent 不只生成答案,还会搜索信息、查询数据库、编写并测试代码并采取行动;这些步骤在任务过程中在 GPU 推理与 CPU 执行之间来回切换。随着企业部署更多 Agent,AI 工厂需要在可用功耗内同时做到“单 Agent 更快”和“单位功耗支持更多 Agent”。

要点:

  • 定位:最高吞吐 与 最快 Agent 兼顾,减少运营商为速度与密度混搭不同 x86 CPU 的需求;
  • NVIDIA 在约 100 MW 数据中心对比中称:相对最快 x86,Vera 在保持领先 Agent 速度的同时可实现约 1.6× 每瓦 Agent 数;相对最能效 x86,约 2× Agent 速度 并保持领先能效;
  • 早期采用方(按官方博客):Perplexity Agent 编程任务约 1.5×;DeepInfra Agent 编排最高约 2.2×;ClickHouse 标准二进制在 176 核上近线性扩展并登上 ClickBench 硬件榜;DuckLabs TPC-H SF1000 中位约 1.5× Intel Xeon 6;Daytona 1000 个 Agent sandbox 上线约 10.8 s(x86 约 88.4 s),2000 并发时约 12.7 完成任务/秒;Modal 每核 sandbox 吞吐最高约 2×。

解释

解决什么问题

Agent 工作流高度依赖 CPU(搜索、DB、沙箱、编排),而 AI 工厂又常受功耗上限约束。Vera 试图用一颗 CPU 同时覆盖“要快”和“要密”,避免为不同负载混用多种 x86 部件。

与 GPU 的分工

  • GPU:模型推理 / 生成;
  • CPU:工具调用、查询、代码执行、沙箱生命周期、编排;
  • Agent 任务在二者之间频繁切换,CPU 成为吞吐与时延瓶颈之一。

局限与注意

  • 对比数据来自 NVIDIA 官方博客与合作伙伴生产式测试,具体基线与配置以各方披露为准;
  • “最快 / 最高吞吐”是产品定位表述,真实收益取决于工作负载、软件栈与整机配比;
  • 面向 AI 工厂与云/推理服务商,不是消费级桌面 CPU。

用法

适合谁

  • 建设 Agent / AI 工厂的云与推理服务商;
  • 需要高并发沙箱、数据库查询与 Agent 编排的平台(如官方提及的 coding agent、向量/分析库场景)。

如何了解更多

  1. 阅读 https://blogs.nvidia.com/blog/vera-cpu-highest-throughput-fastest-agents/ ;
  2. 对照自身 Agent 负载(搜索、DB、代码写测、sandbox)评估 CPU 是否为瓶颈;
  3. 关注功耗墙下“每瓦 Agent 数”与单任务时延的权衡,而非只看峰值核数;
  4. 向 NVIDIA / 合作伙伴获取 Vera 平台规格与部署指南(以官方渠道为准)。

广告