百度天池1024卡超节点发布,单套可训5万亿参数模型
silybear
2天前
103

1024颗芯片以光引擎互联成算力星座,托举起巨型模型

11月12日,百度世界2026大会开幕式上,百度集团执行副总裁沈抖正式发布天池1024卡超节点,计划明年推向市场。这套集群为超大规模模型的训练与推理提供一体化的硬件底座,单套就能支撑5万亿参数大模型训练。

超节点搭载光引擎技术,卡间互联带宽提升3倍;对比上一代产品,训练性能提升2.5倍、推理性能提升3倍。上千张加速卡协同工作时,卡与卡之间的数据交换速度,往往比单卡的算力更能决定整体效率。光引擎技术的引入,相当于把卡间的数据通道从普通公路升级为高速公路,让大规模并行训练中的通信瓶颈得到缓解。

超节点还配套G3.5 KV Cache显存加速柜,强化缓存复用能力。长上下文推理性能提升2倍;在多轮对话缓存命中场景下,首Token等待时间降低90%,整体吞吐提升7倍。对处理超长文本、多轮对话的智能体应用来说,首Token等待时间就是用户感受到的响应快慢,降低90%之后,等待感会明显变轻;吞吐提升7倍,同一套硬件能接下更多并发请求。

5万亿参数是什么概念?当前主流的旗舰大模型,参数规模大多在数千亿到一两万亿之间,5万亿已经超出了现有旗舰模型的量级。单套超节点撑得住这一规模,模型再往大了做,硬件不会先成为瓶颈;单套不够,还能横向扩展到万卡集群。

这次发布比原计划提前了。百度去年在百度世界大会上宣布,天池千卡级超节点2028年上市,如今提前到明年。过去,算力需求主要由模型训练驱动,训练任务相对集中,硬件的更新节奏可以从容安排;如今,随着智能体应用的规模化,推理需求爆发式增长,训练与推理并重的格局已经形成,算力供给的节奏必须跟上需求的变化。

在同一届百度世界大会上,百度还发布了文心5.5 Flash预览版、昆仑芯的产品路线图以及大模型交易平台词元所。芯片、模型、算力集群与交易平台放在一起,百度搭的是从芯片到云、从模型到智能体的布局,超节点是其中算力基础设施的一环,给上层的模型训练和智能体应用提供支撑。

国产AI算力的竞争焦点也在变。过去,国产算力集群的讨论更多集中在单卡性能与国产化替代上;如今,竞争的焦点已经扩展到集群规模、互联带宽与推理效率等系统级能力。单套支撑5万亿参数训练、卡间互联带宽提升3倍、推理性能提升3倍,这些指标指向的都是系统级的能力。算力竞争进入系统级阶段后,厂商比拼的是整体方案的成熟度。

超节点的实际表现还需要在真实部署中验证。发布会上的数字能否在客户的实际业务中完整兑现,取决于软件栈的成熟度、运维体系的完善程度以及与具体应用场景的适配情况。百度计划明年将天池1024卡超节点推向市场,从发布到上市之间还有一段时间,这段时间里的打磨,将在很大程度上决定这款产品的实际竞争力。

去年百度世界大会上说的还是2028年上市,如今提前到明年,上市时间提前了一年。产品真正上市之后,发布会上的数字能在实际业务里兑现多少,才能见分晓。

来源:IT之家

相关阅读:
《百度推出大模型交易平台词元所》
《IDC:上半年国产 AI 芯片出货接近英伟达两倍,推理芯片首次反超 GPU》

收藏 0
打赏
美团LongCat-2.5以MIT协议开源,累计Token用量破千亿
上一篇
文心5.5 Flash预览版发布,2800亿参数支持100万Token上下文
下一篇

发表评论

注册不是必须的

  1. […] 《百度天池1024卡超节点发布,单套可训5万亿参数模型》 […]

silybear
silybear
361 文章
0 评论
0 喜欢
最新文章

Edge0开源145B端侧大模型,单张消费级显卡可跑

Edge0开源145B端侧大模型Edge0-145B与Edge0-120B及推理框架,145B模型峰值显存29GB,自称笔记本上生成速度80+ tokens/s,Terminal-Bench 2.1自测86.5分。模型源自Qwen3.8-Flash-Next,512专家、每步激活10个,单张消费级显卡即可运行。

蚂蚁inclusionAI发布Duo-1.0-distill-quant,全双工音视频交互模型量化版上线

蚂蚁旗下inclusionAI发布Duo-1.0-distill-quant,是FP8量化的四步蒸馏版本,用于全双工音视频交互。同系列Duo-1.0-causal-base已于11月12日发布,开发者可在Hugging Face上获取该模型。量化版本在保持交互能力的同时降低了部署成本,全双工音视频模型正走向更轻量的落地形态。

地瓜机器人与无问芯穹达成战略合作,共推具身智能开源基础设施

地瓜机器人与无问芯穹11月13日联合宣布达成战略合作,共推具身智能开源基础设施。双方推动开源矩阵RLark、RLinf、RPent、APXInf与地瓜旭日全系芯片、RoboGo软件平台协同,覆盖模型训练、设备管理、智能体运行和端侧部署。旭日5等芯片已完成RLark适配,合作旨在降低具身智能的开发与部署门槛。

擎天租完成数亿元战略融资,从机器人租赁转向生产力服务

11月13日,擎天租宣布完成数亿元战略融资交割,投资方为和达投资、芒果产业投资方厚为资本、中联即送,这是其2026年内第七轮融资。公司同步品牌升级,推出Worken有效智能工时计量框架,已接入近20家本体品牌与20家全国运营中心。此次融资将用于扩大运营网络与服务能力。
标签
Generating...
赞赏二维码