
11月12日,百度世界2026开幕式上,百度创始人李彦宏谈及AI芯片时表示:过去AI算力需求主要以训练为主,现在是训练与推理并重的格局,尤其是智能体应用的规模化,带动了推理计算需求的大爆发。推理将成为AI芯片长期持续增长的主要推动力。
当天公布的昆仑芯产品计划是:M100已如期上市,主打极致性价比;旗舰款M300将于明年推出,在算力、存储、互联等多个维度实现了全方位能力跃升;到2028年,基于全新N架构的多颗芯片也将推向市场,匹配差异化应用场景。M100覆盖对性价比敏感的主流市场,M300冲击性能上限,N架构芯片面向更长远的差异化需求。
训练与推理的需求逻辑并不一样。训练一个大模型,要在短时间内集中大量算力完成海量数据的计算,特点是集中、爆发、一次性,任务结束,算力需求随之回落。推理是模型实际使用中的计算:每一次用户提问、每一次智能体执行任务,都会产生推理计算。只要模型还在被使用,推理需求就一直在产生。
推理需求的爆发,是智能体应用规模化带起来的。智能体大规模进入办公、客服、创作等场景后,每一次任务执行都会调用模型、消耗推理算力。单个智能体的调用量或许不大,成千上万个同时运转,总需求就非常可观。推理需求更分散、更持续,也更难通过一次性投入满足。
推理与训练对芯片的要求也不一样:训练更看重峰值算力与大规模并行能力,推理更看重能效比、延迟表现与成本控制。面向推理的芯片,要在保证响应速度的前提下,尽可能降低每一次推理的成本。M100主打极致性价比,对应的正是推理场景对成本的敏感;M300在算力、存储、互联上的跃升,则是为更大规模的推理负载做准备。推理成为主要增长动力后,芯片厂商的竞争焦点也会跟着转移,从训练性能更强,转向推理性价比更高。
李彦宏还提到,昆仑芯是百度十多年坚持投入的结果,其商业价值正获得越来越广泛的认可。AI芯片研发周期很长,从架构设计到流片量产往往需要数年,百度在昆仑芯上的投入已经持续十多年。M100如期上市、M300明年推出,产品线进入了稳定的迭代节奏。同时拥有模型、云与智能体业务的百度,可以根据自身业务需求定义芯片规格。
其他厂商也在往同一个方向走。英伟达、华为、寒武纪等厂商都在加大对推理芯片的投入,云厂商自研芯片的重点也越来越多地转向推理场景。AI应用正在从训练驱动转向应用驱动:模型越来越多地被实际使用,为使用过程提供算力的推理芯片,需求增长最快。
百度世界2026上,百度围绕芯、云、模、体四层架构发布了一系列成果:昆仑芯属于芯片一层,天池1024卡超节点属于云与算力基础设施一层。自研芯片配自研超节点,百度可以根据模型与智能体的需求,自主调配从芯片到集群的各个环节,而不需要完全依赖外部供应商。
M300明年推出后,能否在实际性能与性价比上达到预期、获得足够多的客户采用,还需要在市场中验证。推理需求的增长能否如预期般持续,同样要看实际使用。
来源:华商网
相关阅读:
《百度天池1024卡超节点发布,单套可训5万亿参数模型》
《百度推出大模型交易平台词元所》
[…] 相关阅读:《昆仑芯M300明年推出:推理将成AI芯片长期增长主推力》 […]
[…] 相关阅读:《昆仑芯M300明年推出:推理将成AI芯片长期增长主推力》 […]
[…] 昆仑芯M300明年推出:推理将成AI芯片长期增长主推力 […]