自主人工智能代理的兴起可能导致数据中心中央处理器核心需求增加四倍
2026年11月16日 · 阅读 1 分钟
自主人工智能代理的日益普及可能会导致数据中心对中央处理器核心的需求增加四倍。
分析公司 Trendforce 指出,基于代理的人工智能创造了新的需求来源,这可能迫使运营商大幅增加中央处理器的数量,并重新评估服务器基础设施中中央处理器与图形处理器的平衡。Trendforce 表示,与传统的大语言模型推理相比,人工智能代理带来的是对中央处理器要求更高的工作负载。虽然图形处理器在模型训练阶段仍然必不可少,但中央处理器负责协调使人工智能代理能够自主运行的复杂操作序列,包括任务规划、子任务调度、调用外部工具、管理多代理交互以及评估结果。此外,这些代理依赖传统数据资源来运行 Python 代码、搜索数据库、浏览网站和处理信息。
Trendforce 提到,传统的人工智能数据中心通常每四个到八个图形处理器配备一个中央处理器。然而,根据 Arm 的估计,随着基于代理的工作负载变得普遍,每吉瓦数据中心容量所需的中央处理器核心数可能从约 3000 万个增加到 1.2 亿个。Trendforce 预计,在代理人工智能基础设施中,中央处理器与图形处理器的比例将演变为一个中央处理器对应一个到两个图形处理器。
研究显示,在某些基于代理的工作负载中,基于中央处理器的工具处理可能占据总延迟的 90.6 百分比。在某些运行条件下,中央处理器的动态能耗也可能在系统总能耗中占很大比例。如果负责协调人工智能代理的处理器成为瓶颈,单纯增加图形处理器容量可能无法提高整体性能。
Nvidia 的策略转变也反映了这一趋势。该公司推出了 Grace 处理器,现已包含在 Vera 代产品中。Vera 旨在与 Nvidia 的图形处理器平台紧密协作,拥有 88 个中央处理器核心和 176 个线程,并配备高带宽的 NVLink-C2C 连接用于通信和内存共享。Nvidia 还在开发专门的 Vera 中央处理器机架,允许客户独立于图形处理器密集型系统部署中央处理器系统。