Anthropic 据报推动 AI 安全法案，拟为叫停模型发布设定损害门槛

据 Tom's Hardware 援引 Politico 报道，Anthropic 正在游说推动一项 AI 安全法案：只有当模型存在造成 10 亿美元损失，或导致超过 50 人死亡或受伤的风险时，政府才能阻止其发布。草案还规定了独立评估、风险上报和法院裁定程序，并将命令实验室停止发布模型的行政权限集中于美国商务部。

第三方定期评估，实验室可付费

据报道，草案要求由在美国商务部登记的独立第三方，定期评估 AI 实验室及其模型。实验室可以向评估方支付费用，但付款不得影响评估方的独立性。

草案列出的风险来源包括三类：生物武器的制造或释放、由 AI 实施或协助的网络攻击，以及 AI 实验室对模型或智能体失去控制。报道所述的损失和伤亡门槛，针对的是模型可能造成的风险。

72 小时内上报，由法官决定是否叫停

按报道转述的草案内容，如果上述事件可能即将发生，评估方必须在 72 小时内向商务部报告。此后，商务部须将全部证据提交给哥伦比亚特区联邦地区法院的联邦法官，由法官决定是否停止模型发布。

草案同时限定了其他政府部门的权限：除商务部外，美国其他任何部门、机构或官员，都无权命令 AI 实验室停止发布模型。风险评估、向政府报告及法院裁定，是报道中这套程序的主要环节。

Anthropic 称已向议员倡导相关政策

据 Tom's Hardware 转述，Anthropic 发言人向 Politico 表示，这份法案体现了公司「先进 AI 框架」中的提议，公司自 6 月以来一直向联邦和州议员倡导这些政策。该发言人称，公司认为这些政策合理，国会应当采取行动。

Tom's Hardware 还提到，美国国会正在酝酿要求最强大的 AI 模型配备「紧急停止开关」的提案；参议员 Bernie Sanders 则提出，对开发 AI 超级智能者处以 20 年监禁。报道将 Anthropic 推动的方案列为另一项供国会考虑的 AI 安全法案。

来源

• https://www.tomshardware.com/tech-industry/artificial-intelligence/anthropics-proposed-ai-safety-bill-only-kicks-in-if-50-deaths-or-usd1-billion-in-damages-are-on-the-line-proposal-would-effectively-make-the-commerce-department-the-only-agency-capable-of-stopping-an-ai-model