Anthropic起草的联邦AI安全法案为政府干预设定了极高门槛
TECH

Anthropic起草的联邦AI安全法案为政府干预设定了极高门槛

28+
Signals

战略概览

  • 01.
    Anthropic代表已悄然向国会山议员推介一份关于监管前沿AI安全与安保的保密草案,该提案首次由Politico获取并报道。
  • 02.
    根据该草案,政府只有在某前沿模型存在可预见且迫在眉睫的风险,可能导致超过50人死亡或严重受伤,或造成超过10亿美元损失的情况下,才能阻止其发布或使用,且该风险必须源于生物武器、模型脱离开发者控制或大规模网络攻击。
  • 03.
    只有商务部被允许采取行动,且必须向哥伦比亚特区美国地方法院的联邦法官申请命令;独立评估机构(可由其评估的实验室支付报酬)必须在完成评估后72小时内向商务部报告任何迫在眉睫的风险。
  • 04.
    该法案还将优先于某些州级AI法律,包括加州的AB 2013号法案中关于训练数据披露的要求,尽管Anthropic自己在6月的政策框架中曾主张,除非联邦层面有更强有力的法规,否则国会不应优先于州法。

深度分析

五十人死亡,十亿美元损失:Anthropic划定的红线

Anthropic草案中的核心机制极为狭窄。政府只有在某前沿模型存在可预见且迫在眉睫的风险,可能导致超过50人死亡或严重受伤,或造成超过10亿美元损失时,才能阻止其发布或使用——且该风险必须源于三种情况之一:生物武器、模型脱离开发者控制,或大规模网络攻击[1]。即使满足这一门槛,权力也不会落入任意监管机构之手。只有商务部被允许采取行动,且不能自行暂停模型——必须向哥伦比亚特区美国地方法院的联邦法官申请命令,商务部长必须证明这是可用的限制性最小的选项,且该命令在45天后自动失效[2]。

这种组合——极高的损害阈值、单一的执法渠道、短暂的补救措施——正是当Politico的独家报道传出后,该法案成为网络笑柄的原因。读者聚焦于将死亡人数精确设定为50人或损失10亿美元的任意性,仿佛49人死亡或9.99999999亿美元的损失只是做生意可接受的成本。旨在及早发现问题的独立评估机构也并未显著改变这一计算:他们被要求在完成评估后72小时内向商务部报告‘迫在眉睫的列举风险’,但法案中没有任何条款阻止实验室向其评估机构支付报酬,只要报酬不明确与评估结果挂钩[1]。

公司自己给自己打分

泄露文本中最令人不安的细节或许不在法案本身,而在于Anthropic公开表述与其内部人员据称信念之间的差距。关于该泄露草案的内部评论中,Anthropic技术团队曾给出一项直白的风险估计,远超法案自身设定的阈值:‘我们估计有10%的概率会造成80亿美元损失’[3]。这一数字比法案10亿美元的触发门槛高出一个数量级,与政策团队选择设定如此低门槛的行为形成尴尬对比。批评者在细读法案时还指出,由于独立评估机构无需执照,且由实验室自行选择并支付,这一体系可能导致审计严格性的‘逐底竞争’,而非真正有效的风险制衡[4]。

这种矛盾正是公众最强烈反应的根源:即监管俘获的指控。最尖锐的批评认为,该法案与其说是安全措施,不如说是合规护城河——一种成本对Anthropic这类在位企业最容易承担,而对小型、开源或外国竞争对手最难匹配的框架,而撰写该法案的公司却可以向华盛顿宣称自己主动要求被监管。一种更宽容的解读则认为,Anthropic至少提出了具体方案——但这种解读仍需解释,为何提案中的数字远低于该公司技术团队据称估计的真实风险。

一部看似薄弱却可能赋予法院新权力的法案

并非所有对草案的深入解读都得出‘过于薄弱’的结论。一份对泄露文本的详细法律分析提出了反直觉的论点:通过创设明确的法定‘阻止令’——定义为针对存在迫在眉睫列举风险的模型,暂停其开发、部署或内部使用的命令——该法案实际上可能提高联邦法院成功干预AI实验室的概率,而非降低[2]。现行法律对AI灾难性风险没有明确的诉因;如今的原告必须自行拼凑法律依据。一旦国会将特定机制写入法律,法院便有了明确的路径可循,即使触发门槛很高。

同一分析也使优先权问题更加复杂。第14(b)(1)条似乎优先于州级披露、评估和报告规则,但州政府直接暂停模型的权力可能仍然保留——且关键在于,该暂停权力的优先权本身取决于第12条中的联邦阻止机制是否实际通过:‘除非第12条被通过,否则本段无效’[2]。这一起草细节意味着,‘Anthropic想废除州AI法律’的简单叙事,尽管在网络上引起共鸣,却低估了优先权条款实际的条件性和法律复杂性。

推翻自己曾承诺保护的州法律

今年6月,Anthropic发布了《先进AI框架》,主张在缺乏强有力的联邦法规时,各州应保留其立法权[5]。四个月后,该公司向议员推介的法案却将优先于该框架似乎捍卫的州级规则——包括加州AB 2013号法案,该法案要求模型开发者公开发布其训练数据的高级别摘要[6]。这是否构成立场逆转,还是仅履行了有条件承诺,取决于第12条联邦阻止机制在国会的命运,但表象上已十分尴尬:一家整个夏天都在告诉各州可以继续监管的公司,如今却要求国会剥夺部分该权力。

Anthropic的发言人试图弥合这一差距,坚称两者并无矛盾。一位发言人称该草案‘代表了Anthropic先进AI框架中概述的提案,我们自6月以来一直在向联邦和州议员倡导’[5],另一位则称其为‘我们认为国会应采取的合理政策’[7]。两种说法都将该法案描绘为延续而非退缩——但均未解释为何一个曾保护州权的框架,如今却与旨在凌驾于州权之上的语言并列。

在众议院妥协案推进前抢先行动

Anthropic并非在真空中起草法案。由众议员洛里·特拉汉(Lori Trahan)和杰·奥伯诺尔特(Jay Obernolte)提出的两党《FRONTIER法案》,已赋予政府更强的权力以阻止高风险模型的部署,包括规则制定权和紧急关闭权,而这些正是Anthropic草案中明显缺失的内容[4]。包括约翰·图恩(John Thune)、艾米·克洛布查尔(Amy Klobuchar)和特德·克鲁兹(Ted Cruz)在内的参议院领导人正在谈判另一条路径,而伯尼·桑德斯(Bernie Sanders)参议员则推动比两项提案更严格的措施[7]。

在上述任何努力达成共识前,向议员推介自己的文本,是前沿AI实验室迄今为止最具体的尝试之一,旨在按自身偏好塑造具有约束力的联邦法律,而非将结果留给国会。为此投入的资金急剧上升。Anthropic将其2026年上半年联邦游说支出几乎增至三倍,达353万美元,而2025年全年仅为310万美元,其中仅第二季度就达197万美元——超过英伟达(NVIDIA)同期的支出[8]。这紧随其在2026年4月据称创纪录的游说季度,当时其在华盛顿的支出超过了OpenAI[9]。综合来看,这笔支出与该法案传递出相同信号:尽早带着已起草的文本进入谈判桌,比等待《FRONTIER法案》或参议院谈判结果再被动应对更有价值。

历史背景

Anthropic此前曾建议加州议员在最终投票前弱化SB 1047号法案(一项早期的州级AI安全法案),确立了该公司将安全立法导向更宽松条款的模式。
Anthropic据称经历了有史以来游说支出最高的一个季度,在安全法案推动前于华盛顿的支出超过了OpenAI。
Anthropic发布了《先进AI框架》政策文件,倡导后来在草案中反映的安全标准,并当时表示,若无强有力的联邦法律,各州应保留立法权。
提出了两党《FRONTIER法案》作为联邦AI安全法案的折中方案,赋予政府更强的权力以阻止高风险模型的部署;现已成为与Anthropic草案竞争的基准法案。
Anthropic将其2026年上半年联邦游说支出几乎增至三倍,达353万美元,而2025年全年为310万美元,在2026年第二季度的游说支出超过了英伟达(NVIDIA)。
Politico发布了关于该保密草案的首篇报道,标志着该文本首次公开披露。

关键关系图

关键玩家
主题

Anthropic起草的联邦AI安全法案为政府干预设定了极高门槛

AN

Anthropic

起草并向议员分发保密法案;CEO达里奥·阿莫代(Dario Amodei)是该公司联邦AI立法的公开倡导者

U.

U.S. Department of Commerce

唯一有权向法院申请阻止令的联邦机构;接收评估机构报告和事件披露

U.

U.S. District Court for the District of Columbia

唯一有权根据该法案发布模型暂停令的法院

RE

Rep. Lori Trahan (D-MA) and Rep. Jay Obernolte (R-CA)

竞争对手《FRONTIER法案》的发起人,被视为更强有力的替代法案

IN

Independent evaluators (Commerce-registered)

定期评估前沿实验室和模型,可由其评估的实验室支付报酬,且必须在72小时内报告迫在眉睫的风险

AN

Anthropic's policy team (versus its own technical staff)

内部矛盾:政策团队起草了被批评为保护公司商业利益的阈值,而技术团队据称持有远为悲观的内部风险估计

事实来源

9 条引用
  1. [1] Anthropic quietly pitches its own AI bill to lawmakers
  2. [2] Important details in the leaked Anthropic draft AI bill
  3. [3] Anthropic AI safety bill lawmakers
  4. [4] Leaked Anthropic draft AI regulatory bill is unacceptable
  5. [5] Anthropic's AI safety bill has an alarming threshold for government action
  6. [6] Anthropic pitches federal AI bill with high damage thresholds
  7. [7] Anthropic quietly pitches bill to regulate frontier AI safety on Capitol Hill
  8. [8] Anthropic triples lobbying to $3.53M as OpenAI doubles to $2.22M
  9. [9] Anthropic outspends OpenAI in biggest-ever lobbying quarter

来源文章

Top 5

THE SIGNAL.

Analysts

“认为该法案的优先权条款范围过广,足以剥夺州政府暂停危险模型的权力,迫在眉睫风险门槛极高且无监管裁量权,缺乏对独立审计机构的执照要求(可能导致审计机构选择上的逐底竞争),并取消了《FRONTIER法案》中已有的规则制定权和紧急关闭权。”

Zvi Mowshowitz (thezvi, LessWrong)
批评该法案比《FRONTIER法案》更弱

“主张该法案明确的‘阻止令’法定机制可能提高联邦法院成功干预的可能性,相较于当前缺乏灾难性AI风险明确诉因的现状——同时指出商务部长负有举证责任,必须采取限制性最小的选项,面临重新审查,且任何命令在45天后自动失效。”

Zvi Mowshowitz (LessWrong法律分析)
法律解读较复杂:该法案可能扩大法院权力,尽管表面看似‘薄弱’

“认为,若无‘真正强有力的干预措施来实际改变企业面临的激励’,该提案不太可能显著改变企业行为。”

Miranda Bogen
怀疑该法案能否改变企业激励
The Crowd

“BREAKING: Anthropic has quietly pitched Capitol Hill lawmakers on a draft bill to regulate frontier AI safety and security, per POLITICO The bill would let the government block a model's release or use only if it poses a foreseeable, imminent risk of more than $1 billion in”

@@unusual_whales905

“Anthropic is quietly lobbying Congress to ban all 50 states from regulating AI. Source: Politico exclusive, "Anthropic quietly pitches its own AI safety bill to lawmakers."”

@@quitchatgpt85

“Anthropic representatives have quietly pitched Capitol Hill lawmakers on a draft bill to regulate frontier AI safety and security, Politico reported on Friday, citing three people with knowledge of the efforts.”

@@ReutersLegal9

“Anthropic's proposed AI safety bill only kicks in if 50 deaths or $1 billion in damages are on the line — proposal would effectively make the Commerce Department the only agency capable of stopping an AI model”

@u/MarvelsGrantMan1361200
Broadcast
Anthropic Pitches Its Own AI Safety Bill To US Lawmakers | NewsX World

Anthropic Pitches Its Own AI Safety Bill To US Lawmakers | NewsX World

Anthropic Wrote Its Own AI Safety Bill. Here's Who Gets the Off Switch

Anthropic Wrote Its Own AI Safety Bill. Here's Who Gets the Off Switch

Anthropic pitches Congress its own AI safety bill

Anthropic pitches Congress its own AI safety bill