
10 月 15 日,微软 AI 在官方博客《Frontier Pre-training at Microsoft AI》中宣布,已完成新一代基座模型 MAI-Base-2 的预训练。这是一个混合专家(MoE)架构的基础模型,总参数达 2.8 万亿,而每次处理一个 token 时仅激活其中的 800 亿参数。按照微软的说法,它是公司迄今训练过的最大、最稀疏的模型,也被微软内部视为其大模型自主研发路线上的关键一步。
需要先说明一个概念:MAI-Base-2 并不是一个可以直接对话的成品大语言模型,而是一个”基座模型”。基座模型可以理解为没有经过精调的”毛坯”,开发者还需要对其进行多轮额外训练,加上推理能力与安全护栏,才能变成面向用户的产品。微软选择先公布基座模型的训练成果,本身就说明它想强调的重点不是产品功能,而是训练本身的规模与效率。
从架构上看,MAI-Base-2 最大的变化是”全 MoE 化”。混合专家架构的核心思想,是让模型在处理每个请求时只动用一部分”专家”神经元,而不是把整个网络全部点亮,从而在参数规模膨胀的同时把计算开销控制住。微软上一代基座模型 MAI-Base-1(今年 6 月发布)采用的是 MoE 层与传统前馈网络(FFN)层混搭的设计,而 MAI-Base-2 的每一层都是 MoE 层。微软表示,这一改动是模型效率提升的重要来源之一,同时其 MoE 层的计算利用率也从 24% 提升到了 35%,并改进了 Muon 优化器。
训练规模同样惊人。根据微软披露的信息,MAI-Base-2 在 2026 年 8 月至 9 月期间,用 16000 块英伟达 GB200 芯片连续训练了 38 天,训练数据总量为 50 万亿 token。微软特别强调,这些数据全部由内部处理,没有使用其他公司模型的蒸馏数据,微软将其称为”有机”数据,模型的知识截止时间为 2026 年 3 月。在整个训练过程中,平均模型 FLOPs 利用率为 21%,”goodput”(训练真正取得进展的时间占比)达到 89%。
与上一代相比,MAI-Base-2 还有一个显著变化:视觉能力是原生训练出来的,而非事后嫁接。大约 18% 的训练数据是视觉与语言混合数据,涵盖图表、字幕、空间推理与医学影像等类型。微软称,这让模型在理解科学图表等任务上明显强于前代。从 MAI-Base-1 到 MAI-Base-2,用于训练的独立 token 总量增长了约 36%。
真正引发行业讨论的,是微软给出的效率声明。微软表示,通过缩放定律拟合估算,要达到与DeepSeek-V4-Pro-Base 相当的质量,MAI-Base-2 的训练方案所需的预训练算力仅为对方的约十二分之一到四分之一,即 4.2 至 12.3 倍的效率优势。DeepSeek-V4-Pro-Base 是目前公开可得的最强基座模型检查点,也是唯一一个参数超过万亿的公开基座模型,因此成为微软选定的对标对象。微软还称,在自有的留出文本评测集上,MAI-Base-2 的 bits-per-byte 指标(越低越好)优于 DeepSeek-V4-Pro-Base、Kimi K3、Qwen3.8-2.4T-A95B 与 MiMo-V2.6-Pro-RL。
不过这些数字需要打一个谨慎的注脚。首先,这是微软基于自有评测集与自有方法学的估算,截至 10 月 16 日尚无任何第三方研究机构复现验证。其次,微软自己也承认,对比对象中只有 DeepSeek 发布了真正的基座检查点,其余三款是已经过后训练的模型,拿基座模型去和它们比并不完全对等。微软表示,其评测集的代码取自自家代码库,数理与问答题目则专门委托供应商定制,以尽量减少基准污染,但这些题目能否代表前沿模型在实际部署中面对的任务分布,目前仍是未知数。
另一则未经官方发表的消息同样值得关注。据 Business Insider 报道,微软 AI 首席执行官穆斯塔法·苏莱曼曾向员工表示,MAI-Base-2 在内部私下测试中击败了 OpenAI GPT-5.6 背后的基座模型,而所用算力仅约为对方的四分之一。这次比较基于微软掌握的 OpenAI 模型技术信息进行,从未公开发表,微软方面拒绝置评,OpenAI 也未回应。考虑到微软持有 OpenAI 大量股份、同时又在 Azure 上销售 OpenAI 的模型,这番表态更多折射的是双方合作关系的微妙变化,而非一次公开的榜单对决。
在发布计划上,微软表现得相当克制。MAI-Base-2 目前仍处于后训练阶段,权重并未公开发布。微软表示,未来计划通过 Foundry 平台向”可信合作伙伴”授权模型权重,但没有给出具体条款、价格或时间表。与此同时,MAI-Base-3 的筹备工作已经启动。换句话说,外界短期内还用不上这个模型,能看到的只有微软选择披露的训练故事。
把视野拉开来看,MAI-Base-2 的发布延续了 2026 年大模型领域的两条主线:一是参数规模继续向”万亿俱乐部”集中,二是效率叙事正在取代单纯的规模叙事。当所有人都能堆出万亿参数时,”用多少算力堆出来”成了新的分水岭。微软这次把效率数字摆到台前,既是对 DeepSeek 等开放权重路线的正面回应,也是在为其云与 Foundry 业务铺路——毕竟,一个训练效率高出数倍的自研模型,最终会变成 Azure 上更便宜的推理算力。
[…] 当大模型产业仍在围绕”谁是更强的那一款单体模型”展开角逐时,一条来自国内团队的新路线正在浮出水面:不去训练一个面面俱到的巨无霸,而是把多款国产高性价比大模型组织成一支”特种部队”,按任务环节各司其职、协同作战。10月18日,南芥智能发布技术报告,正式推出 Mio 1.0 Lite,用这种多模型协同调度方案,在九项公开基准测试中拿下平均77.15分的第一名成绩,超越了价格更高的单体大模型。 […]