英伟达发布 120B 开放多模态智能体模型 Nemotron 3.5:权重、数据集、训练配方与强化学习环境全开放
silybear
9天前
20

概念图:深蓝色科技风背景上,一颗由电路纹路构成的绿色芯片大脑,眼睛部位投射出图像、文档与视频三种光束,象征多模态智能体模型,无文字

10 月 15 日,英伟达发布了 Nemotron 3.5 系列模型,其中的旗舰型号 Nemotron 3.5 Super VL 定位为”为全天候企业智能体打造的开放视觉-语言模型”。这是一个总参数 120B、每次处理一个 token 激活 120 亿参数的混合专家(MoE)模型,能够读取文本、图像、文档与视频,并在同一个模型内完成推理、调用工具与编写代码。对开发者而言,这意味着过去需要”一个文本模型加一个视觉模型”才能做到的事,现在一个开放检查点就能覆盖。

这次发布最不寻常的地方在于开放的完整度。按照英伟达的说法,公开的不只是模型权重——权重本身采用 OpenMDW-1.1 许可发布——训练数据集、训练配方以及强化学习环境也一并交了出来,其中强化学习环境放在 NeMo Gym 中提供。在开放权重模型越来越多的今天,”连训练配方和 RL 环境一起开源”的做法依然少见,它直接降低了第三方复现与继续训练的门槛。

从技术架构看,Super VL 的主干交错堆叠了 Mamba-2、混合专家与注意力层,每个 MoE 层包含 512 个路由专家;视觉部分由 C-RADIO 视觉编码器加一个连接器负责,把图像、文档页面与视频帧送入语言主干。模型的上下文窗口最长支持 100 万 token,视频输入限定为最长 2 分钟的 MP4 片段,推理模式可以通过对话模板开关。英伟达表示,该模型是从 Nemotron 3 Ultra(总参数 550B、激活 550 亿)蒸馏而来,预训练数据约 26 万亿 token,后训练用了约 380 万样本并在数十个环境中做强化学习,还额外加入了 100 亿 token 的印度语系(Indic)数据用于持续预训练。

性能方面,英伟达公布了一组基于 NVFP4 检查点的自报成绩:GPQA-Diamond 89.90、SWE-bench Verified 71.07、Terminal-Bench 2.1 得 60.80、BrowseComp 77.5、IFBench 71.50、图表推理 CharXiv 79.88、文档长文本 MMLongBench-Doc 62.82、计算机操作 OSWorld-Verified 52.3。需要指出的是,长周期智能体任务 tau3-bench 银行场景仅得 17.78,说明模型在超长任务上的短板依然明显。在与同量级开放模型的横向比较中,Super VL 的 GPQA-Diamond 高于阿里 Qwen3.5-122B-A10B 的 86.6,与 Thinking Machines Lab 的 Inkling-Small(89.5)接近;SWE-bench Verified 则低于 Inkling-Small。不过各家评测的 harness 与版本并不统一,几分的差距需要谨慎看待。

速度是英伟达这次着力宣传的另一个维度。Super VL 的加速来自四项技术:原生多 token 预测(起草器一次前向提出多个 token 再验证)、面向 DGX Spark 的推测解码器 LiLiCorr(token 生成最快提升 2.3 倍)、NVFP4 量化感知蒸馏(Blackwell 上权重与激活均为 4 位,其他平台权重 4 位、激活 16 位),以及跨智能体轮次复用注意力缓存与 Mamba 状态的前缀缓存。英伟达称,在 Baseten 的端点上,模型在智能体任务中输出速度超过每秒 600 token,单 GPU 吞吐量最高达到开放竞品的 5 倍。

部署路径覆盖了从云端到本地的完整光谱。Super VL 已上架 Hugging Face、OpenRouter、ModelScope 与英伟达 NIM,支持 vLLM、SGLang 与 TensorRT-LLM 推理框架(Blackwell 与 Hopper 平台)。NVFP4 检查点可以在单台 DGX Spark、单块 H200、两块 H100 或单台 GB200 上运行,同时也发布了 BF16 检查点;本地路线则支持 llama.cpp 与 Unsloth。面向生产环境,英伟达还提供了 Dynamo 推理配方,称在 16 块 B200、每用户每秒 50 token 的配置下可服务 8 倍用户,首 token 延迟下降 85%。

定制化方面,英伟达给出了 NeMo AutoModel(用于 SFT 与 LoRA 微调)与 NeMo RL(强化学习)两条路线,并引用了几家早期用户的数字:Scale AI 为 Skydance 处理供应商信用场景,推理成本降低 40 倍、延迟降至五分之一;Ramp 的收据转 JSON 提取吞吐量最高提升 50%、延迟预计降低 10 倍;AI21 的 Alice 威胁情报场景准确率提升 40%。这些均为英伟达引用的合作方早期结果。

同批发布的两款边缘模型同样值得关注。其中 Nemotron 3.5 Bolt 74B-A9B 定位为本地智能体模型,由 Super VL 蒸馏而来,采用原生 2 位量化,整个模型可以塞进 24GB 显存,在 RTX 与 DGX Spark 系统上运行。英伟达称,它在 PinchBench 上位列同级别开放模型第一,在 BrowseComp 开放模型榜上排名第二,现已上架 Hugging Face,支持 llama.cpp、Ollama、LM Studio、Unsloth 与 vLLM。这意味着,一台配备 RTX 5090 的工作站就能在本地跑起一个 74B 级别的智能体模型。另一款 Bolt E4B 则只有 4GB,面向语音助手与嵌入式智能体,覆盖 GeForce RTX、Jetson 以及 RTX/DGX Spark 平台,定于 10 月 23 日到来。

把这次发布放在更大的图景里看,它标志着开放模型竞争进入了”配方开放”的新阶段。过去开放权重往往只给一个”结果”,开发者拿到了模型却学不到做法;英伟达这次把数据集、训练配方与 RL 环境一并公开,实际上是在输出一整套”如何训练智能体模型”的方法论。与此同时,Bolt 系列把 70B 级别模型压缩进消费级显卡,配合多 token 预测等推理优化,正在把”本地智能体”从概念推向可用。权重开放加本地可跑,或许正是下一波企业智能体落地的底座。

收藏 0
打赏
微软发布 2.8 万亿参数全 MoE 基座模型 MAI-Base-2,训练效率最高自称达 DeepSeek-V4-Pro-Base 的 12 倍
上一篇
Anthropic 悄悄向美国国会递上自家起草的 AI 安全法案(据媒体报道,未经证实)
下一篇

发表评论

注册不是必须的

  1. […] AI 智能体“的官方事件记录。据路透社 10 月 16 日报道,多家 AI […]

  2. […] “许愿式编程”——只用一句话描述想法,剩下的交给模型——这个在 AI 编程圈子里流传的概念,正在被一次版本更新推向现实。10月17日,深度求索宣布将 DeepSeek V4.1 Flash 更新至 V4.1-Flash-1017,新版本在网页端、App 与 API 三端同步上线。最受关注的升级点是:基于自反馈强化学习技术,新模型补上了”从零搭建完整项目”这一关键能力,官方演示中故宫3D建模、网页版赛车游戏在极少提示词下一次生成成功。 […]

  3. […] 十余天,两度刷新全球纪录——来自上海的 AI 团队 StartLux,正在决策智能这个细分赛道上跑出令人瞩目的加速度。其发布的 StartLux-Decision-v1.1-27B Instant 以69.1分登顶 Hugging Face Decision Index 0.3.2,在173个复现模型中成为唯一突破69分的模型,并以领先第二名近3分的优势确立了断层领先。与成绩一同发布的,还有 RLCD² 强化学习训练方法与 DecisionPivot 评测基准,以及全权重加推理代码的完全开源。截至10月17日,该模型累计下载已近12万次。 […]

silybear
silybear
156 文章
0 评论
0 喜欢
最新文章

一万名开发者数据显示:AI 用得越猛,交付并没有更快

Faros AI 分析了一万多名开发者、1255 个团队的工作流,发现 AI 采用率与关键交付指标之间没有显著相关性。PR 合并量涨了 98%,代码审查时间却涨了 91%——瓶颈从“写”挪到了“审”。

Kimi K3.1 Pro 押上 3 万亿参数,全球智能指数进前四

Kimi K3.1 Pro 以 3 万亿参数级拿到 Artificial Analysis 全球智能指数 55 分,进入全球前四,比上一代提升 11 分,权重承诺两周内开源。同一天,科大讯飞星火 X2.6 也交出了全国产算力训练的答卷。

630 亿美元买芯片,Anthropic 把算力做成了可抵押资产

美国银行、黑石、花旗、摩根士丹利联合为 Anthropic 采购博通芯片提供 630 亿美元融资,结构是 SPV 买设备再回租。算力第一次被完整地做成可抵押、可分层、可证券化的资产包。

OpenAI 一天推进三个调和分析猜想,发布流程也一起改了

局部光滑猜想、挂谷猜想、斯坦因限制猜想在同一天被推进,证明以 Lean 形式化代码公开。比结果更值得看的,是 OpenAI 这次换了发布顺序:先给原始输出,再谈解释。
标签
Generating...