
据美国媒体 Politico 援引三位知情人士的消息,Anthropic 的代表已悄悄向美国国会山议员推介了一份由其自行起草、旨在监管前沿 AI 安全的法案草案(据媒体报道,未经证实)。路透社 10 月 16 日转述的报道披露了草案的核心设计:政府叫停模型的门槛被抬得极高,叫停权则被锁进一条由商务部主导的狭窄通道。Anthropic 与美国商务部均未回应路透社的置评请求。
草案对政府干预设定的门槛极为严苛:只有当模型构成”可预见且迫在眉睫的风险”,且可能造成超过 10 亿美元的损失,或导致 50 人以上死亡或重伤时,政府才有权阻止模型的发布或使用。这一标准把触发条件限定在灾难性后果的层级,日常的模型风险争议很难够得上这条线。
即便达到了损失量级,还要看风险的来源。草案把可触发叫停的风险限定在三类情形:生物武器的制造或释放、模型逃逸开发者的控制,以及网络攻击。换言之,法案关注的是前沿模型最极端、最具系统性破坏力的风险场景,而非内容层面的争议。
在执行机制上,草案设计了一套”独立评估员”制度:独立评估员需在商务部注册,负责定期评估实验室及其前沿模型。实验室可以向评估员付费,但前提是报酬不得与评估结果挂钩。一旦评估员认定某家公司的前沿模型存在”迫在眉睫的列举风险”,必须在完成评估的 72 小时内向商务部报告。这套设计试图在”让被监管者出钱”和”保证评估独立性”之间取得平衡。
真正引发讨论的是叫停权的归属。草案规定,只有商务部可以请求法官下令暂停模型,同时明确禁止其他任何美国政府部门、机构或官员自行暂停模型的开发、部署或内部使用。最终能下达暂停令的,是哥伦比亚特区联邦地区法院的法官。这一设计把分散在各部门手中的干预权收拢到一条”商务部—法官”的窄链上,避免了多头执法。
由一家前沿 AI 实验室亲自起草监管自己的法案,这一操作本身就值得玩味。一方面,Anthropic 长期公开主张为前沿 AI 建立安全评估与监管框架,由最懂技术的一方参与规则设计,有助于让法案更贴合技术现实;另一方面,”运动员参与制定规则”也天然会引发疑问——门槛定得如此之高、叫停权收得如此之窄,究竟是务实的制度设计,还是为行业争取了最大的行动空间,不同立场会有不同解读。
从美国 AI 监管的大背景看,联邦层面至今缺乏针对前沿 AI 的综合立法,相关讨论长期停留在听证与提案阶段。Anthropic 此举相当于把一份现成的立法文本直接递到了议员手中,把抽象的政策辩论推进到了具体条款的层面。无论这份草案最终能否进入立法程序,它都为美国 AI 安全立法的讨论提供了一个具体的参照系。
与之形成对照的是,中国对生成式 AI 服务实行算法备案与安全评估等制度安排,监管框架早已落地运行。中美两国在 AI 治理上的路径差异,也让这份来自美国头部实验室的法案草案多了几分被审视的维度:当中国同行已经在成体系的监管下推进大模型落地时,美国还在讨论”门槛该设多高、权力该给谁”的基础问题。
[…] 对于拟增列的人工智能技术,商务部的考量集中在两个方向。第一是确保人工智能技术安全可控。发言人表示,人工智能引发的各类内生和衍生风险已引起全球各国的高度关注,此次拟列管的人工智能自主驱动恶意代码生成与变异技术等,可被用于攻击国家关键信息基础设施、国防军工、核心政务等敏感系统,或用于绕过国家安全防御体系;若被非国家行为体或恶意实体获取,可能对国家安全和人类共同安全造成危害。实施必要管理的目的,是筑牢安全底线、防范滥用恶用,确保人工智能始终处于人类控制之下,并推进人工智能国际治理。 […]
[…] Wiz在官方博客中写道,这批漏洞的隐蔽程度极高,长期藏身于PHP代码库之中,人工审计很难发现它们的存在。正是因为借助AI对代码进行大规模、深度的分析,这些潜伏了十几年的问题才浮出水面。Wiz同时指出,如果没有AI的帮助,人类攻击者想要发现并利用这些漏洞,技术门槛将异常之高。这一表述很快引发了安全行业的讨论:AI既可以用来发现漏洞、加固防线,也可能被用来更快地寻找攻击入口,攻防双方围绕AI的竞赛正在加速。 […]