字节跳动 Seed 成立独立 AI 安全部门,启动全球招聘 10 名研究员
silybear
9天前
53

概念图:盾牌形状的数字护罩守护着神经网络与芯片,象征 AI 安全与对齐,深蓝科技风,无文字

字节跳动 AI 研究部门 Seed 近期成立了独立的「对齐与预备」(Alignment & Preparedness)安全部门,并于 10 月 14 日启动全球招聘,计划招募 10 名顶尖 AGI 研究员,岗位分布在北京、上海和加州圣何塞。据澎湃新闻 10 月 13 日报道,这是中国第一家设立独立安全与对齐部门的前沿 AI 实验室。

从组织架构看,新部门由原 Responsible AI 团队及部分 Chat 团队成员转入组建,由严林负责,直接向 Seed 负责人吴永辉汇报。把安全职能从研究项目中的附属角色升格为独立建制,意味着模型安全评估获得了与前沿模型研发平行的组织地位,也意味着安全团队在”是否暂缓发布”等问题上将拥有实质话语权。

此次全球招聘的 10 个岗位,重点研究方向是模型能力发展带来的新型安全问题,探索行业尚无成熟方案的技术方向。Seed 在招聘中强调,将推动安全研究成果直接接入模型的训练、评估和上线环节,让模型能力在实际产品与服务中安全、可靠地落地。按照已披露的规划,新部门将围绕模型规范、安全评估、对齐训练、防护系统和风险监控持续投入,并加强与外部研究机构、第三方评测机构的公开合作,同时寻求独立测试。

「对齐与预备」这个名字点明了部门的两大核心任务。对齐(Alignment),是让模型行为与人类意图及安全约束保持一致,重点提升智能体模型自主行动时的安全能力;风险准备(Preparedness),则是面向极限场景,提前防范化学、生物、放射与核(CBRN)等前沿能力可能带来的严重风险。当模型从”对话工具”演进为”替人办事的智能体“,误操作、越权调用与高危能力滥用的后果被急剧放大,这两项任务的分量也随之加重。

Seed 的这一动作有清晰的现实背景。近一个月来,智能体安全事件在海外密集爆发:今年 7 月,OpenAI 的模型在内部网络安全评估中绕过互联网隔离措施,侵入了 Hugging Face 系统;Anthropic 也披露了网络安全评估中的意外事件。10 月 9 日,Axios 报道称 OpenAI 与 Anthropic 的高管已经开始推演重大 AI 事故发生后的应对情景。在这种氛围下,把安全团队独立建制、与模型研发并轨推进,成为前沿实验室的共同选择。

对 Seed 而言,安全与对齐的紧迫性还来自业务规模。截至 2026 年 6 月,豆包大模型的日均 Token 使用量已突破 180 万亿,豆包 App 的月活跃用户达到 3.82 亿。当模型覆盖的用户规模达到这个量级,即便某种风险发生的概率很低,也可能影响到庞大的人群。Seed 在招聘公告中表示,随着模型能力提升,安全与对齐不再只是风险的防护措施,而是决定模型能否规模化应用的核心能力。

事实上,字节在 AI 安全上的积累可以追溯到 2021 年组建的 Responsible AI 团队。2023 年 10 月,团队发表了《大语言模型遗忘》论文,探索在不从头训练的情况下减少模型的有害输出,同时尽量保留正常能力,该研究入选当年《ML Safety Newsletter》重要安全论文专题,并被 NeurIPS 2024 接收。而被 ICLR 2026 接收的”任意深度对齐”研究,则通过在生成途中加入特定标记,让被诱导续写有害内容的模型重新识别风险,无需修改模型参数就能改善防护效果。随着 Responsible AI 整合进新的独立部门,这些积累将被纳入更完整的建制。

值得注意的是,Seed 承诺将在这一方向”坚决、长期地投入下去”,并为安全与对齐团队提供与前沿模型研究同等规格的资源与支持。安全与对齐研究同样高度消耗算力:研究者需要反复测试模型、分析异常行为,并通过大规模训练验证改进方案,没有充足的算力与耐心,前沿安全研究难以为继。

作为中国第一家设立独立安全与对齐部门的前沿 AI 实验室,Seed 的举动可能带动更多国内厂商跟进。在大模型竞争从跑分转向企业落地的阶段,谁先建立起可审计、可复现的安全流程,谁就更容易通过政企客户的准入门槛。安全流程前置,正在从加分项变成行业共识。

收藏 0
打赏
「风清」人工智能全球短中期集合天气预报系统 V1.0 通过业务化评审正式运行
上一篇
微软发布 2.8 万亿参数全 MoE 基座模型 MAI-Base-2,训练效率最高自称达 DeepSeek-V4-Pro-Base 的 12 倍
下一篇

发表评论

注册不是必须的

  1. […] 的代表已悄悄向美国国会山议员推介了一份由其自行起草、旨在监管前沿 AI 安全的法案草案(据媒体报道,未经证实)。路透社 10 月 16 […]

silybear
silybear
156 文章
0 评论
0 喜欢
最新文章

一万名开发者数据显示:AI 用得越猛,交付并没有更快

Faros AI 分析了一万多名开发者、1255 个团队的工作流,发现 AI 采用率与关键交付指标之间没有显著相关性。PR 合并量涨了 98%,代码审查时间却涨了 91%——瓶颈从“写”挪到了“审”。

Kimi K3.1 Pro 押上 3 万亿参数,全球智能指数进前四

Kimi K3.1 Pro 以 3 万亿参数级拿到 Artificial Analysis 全球智能指数 55 分,进入全球前四,比上一代提升 11 分,权重承诺两周内开源。同一天,科大讯飞星火 X2.6 也交出了全国产算力训练的答卷。

630 亿美元买芯片,Anthropic 把算力做成了可抵押资产

美国银行、黑石、花旗、摩根士丹利联合为 Anthropic 采购博通芯片提供 630 亿美元融资,结构是 SPV 买设备再回租。算力第一次被完整地做成可抵押、可分层、可证券化的资产包。

OpenAI 一天推进三个调和分析猜想,发布流程也一起改了

局部光滑猜想、挂谷猜想、斯坦因限制猜想在同一天被推进,证明以 Lean 形式化代码公开。比结果更值得看的,是 OpenAI 这次换了发布顺序:先给原始输出,再谈解释。
标签
Generating...