腾讯DSpine让Qwen3.8-27B智能体推理快3.84倍
silybear
6天前
120

腾讯DSpine智能体推理加速概念海报,多条并行草稿汇聚成一条验证通过的答案

智能体真正磨人的地方,往往不是它答不出来,而是答得太慢。一个要查资料、比价格、订机票的任务,模型每走一步都要先想明白再动手,中间的等待一次次叠加,最后用户盯着屏幕等来的,是一次漫长的沉默。腾讯最新发布的一项工作,正是冲着这个等待来的:公司为Qwen3.8-27B发布了并行草稿模型DSpine-b16,并在智能体实测中跑出了自回归基线3.84倍的速度。

要理解这个数字,先看智能体平时是怎么“想”的。常规的大模型一次只生成一个词,写完一个再写下一个,像一个人逐字默写答案,准确但缓慢。并行草稿换了一个思路:先一次给出多份候选,再由验证环节挑出可用的部分,相当于同时起草几个版本,再留下一个最好的。这样一来,单步的等待被摊薄,整个任务的推进也就快了起来。DSpine-b16就是按这个思路,为Qwen3.8-27B配的一套并行草稿模型,目前已在Hugging Face上公开,编号为tencent/Qwen3.8-27B-DSpine-b16。

3.84倍这个成绩,是在WorkBuddy Office任务上测出来的。办公场景里的智能体任务,最能体现“慢”的代价:打开文档、核对数据、调用工具、回填结果,每一步都依赖上一步的输出,串行等待没有捷径。一次生成多份候选再验证的做法,恰好压低了这种多步工具调用里的等待时间。换句话说,提速的重点不在模型变聪明了,而在它少空等了。

对智能体来说,延迟从来不只是体验问题。一步慢,步步慢,一个十几步的任务拖下来,用户可能在中途就失去耐心,转而自己动手。工具调用越频繁,这种拖累就越明显。把单步等待压下来,智能体才有可能从“能帮忙”变成“值得托付”。DSpine瞄准的正是这层窗户纸:不改模型本身的能力,只改它出答案的节奏。

这件事放在腾讯近期的动作里看,位置也很清楚。就在几天前,腾讯混元Hy4正式版刚刚发布,模型层面的竞争还在继续;而DSpine做的,是在推理效率这一层补功课。模型越来越大、任务越来越长之后,谁能把每一次调用的成本和等待压下来,谁就能在真实场景里多占一点先机。混元Hy4与DSpine一前一后,恰好构成模型与推理效率的两条线。

从开发者的角度看,DSpine-b16的公开方式也很值得注意:它不是藏在某家公司的内部系统里,而是直接挂在Hugging Face上,任何人都能下载、测试、接入自己的智能体流程。开源模型生态的竞争,早已不只是比谁的模型分数高,还要比谁的配套工具更顺手。一个好用的推理加速方案公开出来,受益的是所有用Qwen3.8-27B搭智能体的团队,省下的等待时间,最终会变成产品里实实在在的体验。

不过,3.84倍这个数字也要放在具体语境里读。它是WorkBuddy Office这一类任务上的实测结果,换到别的任务、别的工具链,倍数未必相同。并行草稿一次多生成候选,也意味着验证环节要跟上,挑错了、验慢了,省下的时间又会被吃回去。速度的提升,并不自动等于答案质量的提升,这两者仍要分开看。

对普通用户而言,这类技术的意义要等它落到产品里才看得见:以后让智能体帮着整理一份表格、跑一趟多步流程,等待或许会从以分钟计变成以秒计。至于DSpine-b16会在哪些产品里先用上、实际体验能快多少,还要看后续的落地。至少从这一次发布看,智能体提速的战场,正在从“模型多大”转向“每一步等多久”。

来源:腾讯/Hugging Face

相关阅读:腾讯混元Hy4、DeepSeek、Kimi K3.1 Pro

收藏 0
打赏
最新AI大事 · 11月9日
上一篇
Menlo Ventures:中国AI模型占全球企业开源模型支出89%
下一篇

发表评论

注册不是必须的

silybear
silybear
361 文章
0 评论
0 喜欢
最新文章

Edge0开源145B端侧大模型,单张消费级显卡可跑

Edge0开源145B端侧大模型Edge0-145B与Edge0-120B及推理框架,145B模型峰值显存29GB,自称笔记本上生成速度80+ tokens/s,Terminal-Bench 2.1自测86.5分。模型源自Qwen3.8-Flash-Next,512专家、每步激活10个,单张消费级显卡即可运行。

蚂蚁inclusionAI发布Duo-1.0-distill-quant,全双工音视频交互模型量化版上线

蚂蚁旗下inclusionAI发布Duo-1.0-distill-quant,是FP8量化的四步蒸馏版本,用于全双工音视频交互。同系列Duo-1.0-causal-base已于11月12日发布,开发者可在Hugging Face上获取该模型。量化版本在保持交互能力的同时降低了部署成本,全双工音视频模型正走向更轻量的落地形态。

地瓜机器人与无问芯穹达成战略合作,共推具身智能开源基础设施

地瓜机器人与无问芯穹11月13日联合宣布达成战略合作,共推具身智能开源基础设施。双方推动开源矩阵RLark、RLinf、RPent、APXInf与地瓜旭日全系芯片、RoboGo软件平台协同,覆盖模型训练、设备管理、智能体运行和端侧部署。旭日5等芯片已完成RLark适配,合作旨在降低具身智能的开发与部署门槛。

擎天租完成数亿元战略融资,从机器人租赁转向生产力服务

11月13日,擎天租宣布完成数亿元战略融资交割,投资方为和达投资、芒果产业投资方厚为资本、中联即送,这是其2026年内第七轮融资。公司同步品牌升级,推出Worken有效智能工时计量框架,已接入近20家本体品牌与20家全国运营中心。此次融资将用于扩大运营网络与服务能力。
标签
Generating...
赞赏二维码