Anthropic的AI安全法案草案
TECH

Anthropic的AI安全法案草案

29+
Signals

战略概览

  • 01.
    据Politico首次报道,Anthropic的代表已悄然向国会山议员推介一份关于监管前沿AI安全与安保的保密法案草案。
  • 02.
    该法案规定,只有当某个模型存在可预见的、迫在眉睫的风险,可能造成超过10亿美元的损失,或导致超过50人死亡或严重受伤时,政府才能阻止其发布或使用——且该风险必须源于生物武器制造、模型失控或网络攻击。
  • 03.
    只有美国哥伦比亚特区地方法院的联邦法官有权下令暂停模型;商务部必须向法院提出申请,其他联邦机构不得独立行动。
  • 04.
    该法案将优先于一些州在风险公开披露、第三方评估和重大事件报告方面的AI法律——包括类似于加利福尼亚州SB 53的条款,而Anthropic自身曾在2025年9月公开支持该法案。

深度分析

‘终止开关’的实际运作机制

根据Anthropic的草案,政府不能单方面阻止前沿模型——商务部必须向美国哥伦比亚特区地方法院的联邦法官提出申请,且只有当模型存在“可预见的、迫在眉睫的风险”,可能造成超过10亿美元的损失或导致超过50人死亡或严重受伤时,才可下令暂停,且该风险必须源于生物武器制造、模型失控或网络攻击[1][2]。其他联邦机构不得独立行动。独立评估者——只要付款不与结果挂钩,实验室可向其支付费用——需向商务部注册,并在发现“迫在眉睫的列举风险”后仅72小时内报告[1]。

优先权条款与SB 53的立场逆转

该法案将优先于加利福尼亚等州在披露、第三方评估和事件报告方面的法律[4]——包括与SB 53相似的条款,而SB 53正是Anthropic在2025年9月公开支持的法律,当时其主张“强大的AI进步不会等待华盛顿的共识”[3]。政策评论员Nathan Calvin指出,这些优先权条款远超披露规则,可能禁止各州执行旨在保护公民免受迫在眉睫灾难性伤害的暂停AI开发或部署的法律[4]。这一逆转在事后看来更为尖锐:Anthropic在2025年6月发布的《先进AI框架》中曾表示,只有当国会通过的制度至少与其自身提案一样严格时,才应实施联邦优先权[5]——而包括Alex Bores在内的批评者指出,泄露的法案比该框架更弱,甚至在某些方面弱于它将取代的州法律[4]。

连同情的批评者也无法弥合的可信度鸿沟

并非所有批评都源于纯粹的愤怒。AI政策分析师Charlie Bullock认为其核心理念“原则上相当合理”,但指出该法案未对所依赖的独立审计机构设立政府许可要求,导致评估者为争夺实验室业务而陷入“逐底竞争”的空间[4]。Zvi Mowshowitz则更为苛刻,认为Anthropic“正在保护其商业利益和规避政治风险,而牺牲了安全考量”[4]。这两种解读之间的差距——一个可运作但有缺陷的框架 vs. 一个自私自利的框架——本身即是故事:双方都同意审计系统无许可、门槛狭窄,只是对这是疏忽还是有意设计存在分歧。

互联网的裁决:嘲讽压倒细致分析

一旦这些门槛在政策圈外变得清晰,公众反应迅速转为敌对。X平台上最广泛传播的解读将该法案浓缩为一句可笑的陈述——即Anthropic实际上为自己起草了空间,允许造成数十人死亡和近10亿美元损失,之后才有人能申请暂停——这一解读的传播速度远超法案更技术性的条款。在Reddit上,主导主题是监管俘获:评论者称这些门槛武断,并将行业对监管的支持视为提高小型竞争对手进入壁垒的方式,尽管少数人反驳称,一定的摩擦是真正安全规则不可避免的一部分。X上一个较小的支持Anthropic的讨论线认为,该公司相比竞争对手仍应获得肯定,但这一观点在Politico爆料引发的普遍批评浪潮中明显属于少数。

未走之路:FRONTIER法案及未来走向

国会已有另一个两党替代方案摆在桌面上:众议员Jay Obernolte(R-CA)和Lori Trahan(D-MA)于2026年7月推出了FRONTIER法案(H.R. 9925),比Anthropic的提案公开早数月[6]。批评者称,该法案比Anthropic的草案拥有更强的规则制定和紧急关闭权限,这引发了未来数月的真正问题:立法者是将Anthropic的提案视为谈判的底线,还是视作该行业宁愿自定规则也不愿接受他人规则的证据。无论如何,Bullock指出的无许可审计员漏洞[4]以及围绕SB 53的优先权之争[4],很可能成为该法案或类似法案进入正式审议时争论最激烈的两项条款。

历史背景

发布其《先进AI框架》,声明在缺乏强有力的联邦法律时,各州应保留对前沿AI立法的全部权力,且只有当国会通过的制度至少与其自身提案一样严格时,才应实施联邦优先权。
公开支持加利福尼亚州的SB 53,主张前沿AI安全最好由联邦层面解决,但“强大的AI进步不会等待华盛顿的共识”,并赞扬SB 53基于披露的方法。
在众议院提出两党合作的FRONTIER法案(H.R. 9925),建立基于风险的国家AI治理框架,包含第三方审计和透明度报告。
Politico报道称,Anthropic在当前立法会议期间私下向国会议员分发其自己的法案草案,与其此前关于州权力的公开承诺相矛盾,并引发与FRONTIER法案的不利比较。

关键关系图

关键玩家
主题

Anthropic的AI安全法案草案

AN

Anthropic

起草并向议员私下推介该法案;将其定位为其2025年6月《先进AI框架》和SB 53支持立场的延伸。

PO

Politico

率先报道向国会山议员保密推介的消息。

U.

U.S. Department of Commerce

接收评估者注册和风险报告,并是唯一有权向联邦法官申请暂停模型的机构。

U.

U.S. District Court for the District of Columbia

根据该法案,唯一有权下令暂停前沿AI模型的司法机构。

RE

Reps. Jay Obernolte (R-CA) and Lori Trahan (D-MA)

竞争对手、两党合作的FRONTIER法案(H.R. 9925)的发起人,该法案于2026年7月23日提出,批评者称其规则制定和紧急关闭权限强于Anthropic的草案。

ZV

Zvi Mowshowitz

主要批评者,发表了《泄露的Anthropic AI监管法案草案不可接受且令人不安》一文。

事实来源

6 条引用
  1. [1] Anthropic quietly pitches own AI safety bill to lawmakers
  2. [2] Anthropic Pitches Congress a $1B AI Safety Bill
  3. [3] Anthropic is endorsing SB 53
  4. [4] Leaked Anthropic Draft AI Regulatory Bill Is Unacceptable and Troubling
  5. [5] Anthropic Pitches AI Safety Bill to Lawmakers
  6. [6] H.R.9925 - FRONTIER Act

来源文章

Top 5

THE SIGNAL.

Analysts

“称该法案“不可接受且令人不安”,认为Anthropic将自身商业和政治利益置于安全之上,且该提案甚至不如妥协性的FRONTIER法案严格。”

Zvi Mowshowitz
独立AI政策评论员,LessWrong/Substack

“认为优先权条款远超披露规则,将禁止各州执行旨在保护公民免受迫在眉睫灾难性伤害而暂停模型开发或部署的法律。”

Nathan Calvin
AI政策/法律评论员,被Zvi Mowshowitz的分析引用

“肯定Anthropic在原则上提出了一个“相当合理”的法案,但指出其缺乏对独立审计员的政府许可,可能导致评估者为争夺实验室业务而陷入逐底竞争。”

Charlie Bullock
AI政策分析师

“称该草案比Anthropic自身2025年6月的框架更弱,且在某些方面弱于它将取代的现有州法律。”

Alex Bores
AI政策评论员,被Zvi Mowshowitz的分析引用
The Crowd

“So under Anthropic's bill, Anthropic can kill 49 people and steal up to a billion dollars before anyone can legally stop them”

@@annia6124

“Anthropic just quietly pitched Congress a real AI safety bill that only kicks in for actual catastrophic risks like bioweapons or loss of control. I'll take Anthropic and SpaceX over Scam Altman and OpenAI any day.”

@@KingAnt101

“Anthropic has quietly presented its own draft AI safety bill to US lawmakers with a plan for regulating artificial intelligence safety and security, according to a Politico report”

@@business90

“Anthropic quietly pitches its own AI safety bill to lawmakers”

@u/ResultBackground245081
Broadcast
Leaked Anthropic Draft AI Regulatory Bill Is Unacceptable and Troubling

Leaked Anthropic Draft AI Regulatory Bill Is Unacceptable and Troubling

Anthropic wants AI halted only for risks over $1 billion

Anthropic wants AI halted only for risks over $1 billion

Anthropic Pitches Its Own AI Safety Bill To US Lawmakers | NewsX World

Anthropic Pitches Its Own AI Safety Bill To US Lawmakers | NewsX World

Anthropic的AI安全法案草案 — AI 新闻 | Agentic Brew