
字节跳动 AI 研究部门 Seed 近期成立了独立的「对齐与预备」(Alignment & Preparedness)安全部门,并于 10 月 14 日启动全球招聘,计划招募 10 名顶尖 AGI 研究员,岗位分布在北京、上海和加州圣何塞。据澎湃新闻 10 月 13 日报道,这是中国第一家设立独立安全与对齐部门的前沿 AI 实验室。
从组织架构看,新部门由原 Responsible AI 团队及部分 Chat 团队成员转入组建,由严林负责,直接向 Seed 负责人吴永辉汇报。把安全职能从研究项目中的附属角色升格为独立建制,意味着模型安全评估获得了与前沿模型研发平行的组织地位,也意味着安全团队在”是否暂缓发布”等问题上将拥有实质话语权。
此次全球招聘的 10 个岗位,重点研究方向是模型能力发展带来的新型安全问题,探索行业尚无成熟方案的技术方向。Seed 在招聘中强调,将推动安全研究成果直接接入模型的训练、评估和上线环节,让模型能力在实际产品与服务中安全、可靠地落地。按照已披露的规划,新部门将围绕模型规范、安全评估、对齐训练、防护系统和风险监控持续投入,并加强与外部研究机构、第三方评测机构的公开合作,同时寻求独立测试。
「对齐与预备」这个名字点明了部门的两大核心任务。对齐(Alignment),是让模型行为与人类意图及安全约束保持一致,重点提升智能体模型自主行动时的安全能力;风险准备(Preparedness),则是面向极限场景,提前防范化学、生物、放射与核(CBRN)等前沿能力可能带来的严重风险。当模型从”对话工具”演进为”替人办事的智能体“,误操作、越权调用与高危能力滥用的后果被急剧放大,这两项任务的分量也随之加重。
Seed 的这一动作有清晰的现实背景。近一个月来,智能体安全事件在海外密集爆发:今年 7 月,OpenAI 的模型在内部网络安全评估中绕过互联网隔离措施,侵入了 Hugging Face 系统;Anthropic 也披露了网络安全评估中的意外事件。10 月 9 日,Axios 报道称 OpenAI 与 Anthropic 的高管已经开始推演重大 AI 事故发生后的应对情景。在这种氛围下,把安全团队独立建制、与模型研发并轨推进,成为前沿实验室的共同选择。
对 Seed 而言,安全与对齐的紧迫性还来自业务规模。截至 2026 年 6 月,豆包大模型的日均 Token 使用量已突破 180 万亿,豆包 App 的月活跃用户达到 3.82 亿。当模型覆盖的用户规模达到这个量级,即便某种风险发生的概率很低,也可能影响到庞大的人群。Seed 在招聘公告中表示,随着模型能力提升,安全与对齐不再只是风险的防护措施,而是决定模型能否规模化应用的核心能力。
事实上,字节在 AI 安全上的积累可以追溯到 2021 年组建的 Responsible AI 团队。2023 年 10 月,团队发表了《大语言模型遗忘》论文,探索在不从头训练的情况下减少模型的有害输出,同时尽量保留正常能力,该研究入选当年《ML Safety Newsletter》重要安全论文专题,并被 NeurIPS 2024 接收。而被 ICLR 2026 接收的”任意深度对齐”研究,则通过在生成途中加入特定标记,让被诱导续写有害内容的模型重新识别风险,无需修改模型参数就能改善防护效果。随着 Responsible AI 整合进新的独立部门,这些积累将被纳入更完整的建制。
值得注意的是,Seed 承诺将在这一方向”坚决、长期地投入下去”,并为安全与对齐团队提供与前沿模型研究同等规格的资源与支持。安全与对齐研究同样高度消耗算力:研究者需要反复测试模型、分析异常行为,并通过大规模训练验证改进方案,没有充足的算力与耐心,前沿安全研究难以为继。
作为中国第一家设立独立安全与对齐部门的前沿 AI 实验室,Seed 的举动可能带动更多国内厂商跟进。在大模型竞争从跑分转向企业落地的阶段,谁先建立起可审计、可复现的安全流程,谁就更容易通过政企客户的准入门槛。安全流程前置,正在从加分项变成行业共识。
[…] 的代表已悄悄向美国国会山议员推介了一份由其自行起草、旨在监管前沿 AI 安全的法案草案(据媒体报道,未经证实)。路透社 10 月 16 […]