首页 > 创作知识 > 干货知识 > AI进入Agent时代,CPU何以站上“算力C位”?

AI进入Agent时代,CPU何以站上“算力C位”?

发布时间:2026-01-31 17:45:00来源: 18736031234

1月31日讯在很长一段时间内,市场始终将GPU和AI算力划上等号,然而随着AI行业步入由智能体驱动的强化学习时代,CPU正逐渐演变为算力“木桶效应”下的新短板。

最新研究显示,在完整的Agent执行链路中,工具处理相关环节在CPU上消耗的时间占端到端延迟的比例最高可达90.6%。在高并发场景下,CPU端到端延迟从2.9秒跃升至6.3秒以上。其结果揭示了在大量Agentic场景中,系统吞吐受限的并非GPU计算能力,而是CPU的核心数并发调度问题。

就在日前,GPU的超级玩家英伟达主动掏出20亿美元追加认购CoreWeave股票,并声称后者将在其平台上部署Vera CPU——一款专为“代理式推理(Agentic Reasoning)”设计,且在大规模AI工厂最具能效优势的CPU。据悉,因ARM CPU瓶颈,英伟达已计划在下一代Rubin架构中大幅提升CPU核心数,并开放NVL72机柜对x86CPU的支持。

东吴证券指出,英伟达主动提升CPU权重,等同于在系统层面确认:在长上下文与高并发Agent场景中,大内存CPU是承载海量KV Cache(键值缓存)的最优容器

与此同时,由于超大规模云服务商“扫货”,英特尔与AMD在2026全年的服务器CPU产能已基本售罄。为了应对供需极端失衡并确保后续供应稳定,两家公司均计划将服务器CPU价格上调10-15%。其中,英特尔甚至紧急将产能转向服务器端,一度导致消费电子端交付受阻。

在英特尔2025年第四季度财报电话会上,CEO陈立武表示,尽管AI时代带来了前所未有的半导体需求,但短期内,“我对未能完全满足市场需求感到遗憾”。

▌对话靠GPU,执行靠CPU

是什么让CPU从AI算力界的“冷板凳”上站起,成为需要被单独规划的核心资源池?国金证券等多个机构总结道,Agent对CPU需求提升主要来自三方面,即应用调度压力、高并发工具调用成为瓶颈,以及沙箱隔离抬升刚性开销

应用调度压力较好理解,当AI智能体层出不穷,服务器端整体调用频次与覆盖面显著升高,便会带来更多系统请求、数据搬运与控制流开销。

至于为何CPU负载高于GPU,在东吴证券看来,Agent时代AI由“纯对话”转向了“执行任务”,因此产生大量if/else判断,这种“分支类任务”倘若由GPU执行,会因控制流发散导致算力利用率急剧下降。与之相比,CPU的微架构却能够适应此类任务。

另据广发证券,Agent时代下,大语言模型叠加了决策编排器与多类外部工具,整体计算流程演化为“感知-规划-工具调用-再推理”的闭环结构。由于工具调用、任务调度、信息检索等关键环节均依赖CPU完成,随着Agent渗透率与工具调用密度提升,CPU作为中间调度枢纽的占用线性放大。

此外,在Agent场景下,长上下文推理会快速耗尽GPU HBM容量。为解决这一问题,业界采用KV CacheOffload技术将数据迁移至CPU内存。如此一来,CPU搭配大容量DDR5/LPDDR5承载KV Cache与部分参数,便成为了兼顾吞吐、扩展性与成本效率的主流架构选择。

从投资层面来看,招商证券表示,海外CPU巨头在国内的合作商将从这一轮CPU涨价行情中直接受益。此外,国内AI全产业链自主可控仍在不断推进,硬件端与软件端的生态适配正同步跟进,生态架构的升级将会对其中的各个环节提供性能上和产量上的双重要求,并带来明显的边际变化。

国海证券指出,超大规模数据中心已进入“升级周期”,CPU架构有较大替换需求,预计2026年服务器CPU出货量有望增长25%。服务器CPU是AI算力与数据中心升级的核心受益环节,正进入存量升级+国产替代+模型迭代三重共振周期,或将迎来价值重估机会。

干货知识更多>>

豆包官宣收费:免费两年的AI“老友”,终于要和你算钱了 iQOO 15T这件事,远比你想象的更重要 2026 款比亚迪海鸥配置解读:6.99万起国民代步纯电车 19.48万起的极狐问道V9 想入手MPV的朋友 可以留意一下 预售10.49万元起,一汽悦意08成为家用轿车优选 smart精灵#1新款8月上市 现款一口价14.29万起 又一英伦复古跑车,碳纤维车身+铝合金车架,还有5.0升V8发动机 900V +弯道之王+16.99 万起,国产纯电轿车新王登基? 16.99万元起,能跑山、能买菜,领克10/10+能买吗? 别只看理想L8了,奕派M8把华为六件套塞进25万级SUV 华为与广汽的新“王炸”,为何敢叫板保时捷? 5月29日,猛士汽车与华为乾崑联手打造的“智能越野第一车”——全新猛士M817正式开启预售,官方预售价37万元起。新车实现296项全方位进化,首搭华为乾崑智驾ADS 5与鸿蒙座舱6,以“五新”实力重新定义智能越野时代。 霸屏2026粤港澳车展,极氪展台登顶全场人气王! 车企扎堆入局以租代售,新模式会改写汽车销售格局吗? 索尼A7C2高速连拍/4K视频流畅摄录的超强辅助,选佰维SD210存储卡 iOS 27 还没发布,iOS 28 先被看高:苹果这次可能不急着“炫技” 买笔记本电脑建议一步到位,补贴后 “ 近乎完美 ” 的三款笔记本。 启境GT7入市:以“满血华为”杀入30万级猎装红海,胜算几何? 国内首款4nm智驾芯片!智驾撞车全赔!比亚迪又把桌给掀了? SUV车型卖火了!1-4月销量榜出炉 19款累计销量超4万辆 博越第二 全球第一亿位用户交车仪式”举办,上汽大众ID. ERA 9X成为其中最特别的注脚 跟风聊个冷知识,EZ-60这风道设计让我想起了法拉利 2026款丰田汉兰达焕新现身,搭2.4T混动四驱,最大马力373匹! 6月想买SUV的先别急!这5款新车要来了,五菱星光L成最大黑马? 四连代=四连爆雨琦同款Reno16口碑稳得很安心 续航全面焕新,实力再进阶! 全新吉利星愿正式上市,限时权益价6.18万元起 当“9系”越来越像移动客厅,谁还在为“驾驶者”造车吗? 新乐道L60将下月上市,新增激光雷达会涨价吗? 预售价格区间21.99-30.99万元 启境GT7正式开启预售 启境GT7预售21.98万起!实打实把‘高端’下放?