NVIDIA 博客介绍 Vera CPU：称 100 兆瓦对比中每瓦可支撑更多 agent
NVIDIA 官方博客介绍了其数据中心 CPU Vera。文中称，agent 会在 GPU 推理与 CPU 执行之间切换，而 AI 工厂又受功率限制，因此运营商需要一颗既能加快 agent 步骤、又能在每瓦功率内容纳更多 agent 的 CPU。NVIDIA 表示，Vera 在单颗 CPU 上同时给出较快的 agent 性能和较高的每瓦容量，提供方不必再把高速 x86 与高密度 x86 搭配起来平衡速度和容量。
功率受限时 CPU 要做什么
博客写道，AI agent 不只生成答案，还会检索信息、查询数据库、编写并测试代码，并采取行动。上述每一步都依赖 CPU。企业把更多 agent 投入工作后，AI 工厂需要在可用功率之内，快速执行这些步骤，并同时支撑许多 agent。
NVIDIA 把需求概括为两点：支撑更多 agent，同时不让每个 agent 为完成工作等得更久；在功率封顶的前提下，选择能让每一瓦做更多工作的基础设施。
100 兆瓦对比中的两组结果
据 NVIDIA 在该博客中的自测，在 100 兆瓦数据中心对比里，单颗 Vera CPU 优于最快的 x86 CPU，也优于最节能的 x86 CPU。
- 相对最快的 x86 CPU，Vera 在保持博客所称业界领先 agent 速度的同时，每瓦可支撑的 agent 数量为对方的 1.6 倍。
- 相对最节能的 x86 CPU，Vera 的 agent 速度为对方的 2 倍，并能效领先。
六家早期采用者的测试
博客称合作伙伴已在使用 Vera，早期采用者在生产风格测试中看到同样出色的性能。以下数字均转述自该文所引各家说法：
- Perplexity 称，Vera 上的 agent 编程任务运行速度为传统 CPU 的 1.5 倍，并计划在即将上线的生产系统中部署 Vera。
- DeepInfra 称，其生产 agent 负载的 agent 编排速度最高达最佳 x86 处理器的 2.2 倍，为所测四种架构中最快。
- ClickHouse 称，标准二进制文件未做 Vera 专项调优，仍在 176 核上接近线性扩展，并登上 ClickBench 硬件榜首。
- DuckLabs 称，TPC-H SF1000 的中位性能约为 Intel Xeon 6 基线的 1.5 倍。
- Daytona 称，使用 Vera 在 10.8 秒内拉起 1000 个 agent 沙箱，x86 为 88.4 秒；在 2000 个并发沙箱下每秒完成 12.7 个作业。
- Modal 称，相对可比 x86 硬件，每核沙箱吞吐量最高达 2 倍，且负载越重增益越大。
来源
