五十人死亡,十亿美元损失:Anthropic划定的红线
Anthropic草案中的核心机制极为狭窄。政府只有在某前沿模型存在可预见且迫在眉睫的风险,可能导致超过50人死亡或严重受伤,或造成超过10亿美元损失时,才能阻止其发布或使用——且该风险必须源于三种情况之一:生物武器、模型脱离开发者控制,或大规模网络攻击[1]。即使满足这一门槛,权力也不会落入任意监管机构之手。只有商务部被允许采取行动,且不能自行暂停模型——必须向哥伦比亚特区美国地方法院的联邦法官申请命令,商务部长必须证明这是可用的限制性最小的选项,且该命令在45天后自动失效[2]。
这种组合——极高的损害阈值、单一的执法渠道、短暂的补救措施——正是当Politico的独家报道传出后,该法案成为网络笑柄的原因。读者聚焦于将死亡人数精确设定为50人或损失10亿美元的任意性,仿佛49人死亡或9.99999999亿美元的损失只是做生意可接受的成本。旨在及早发现问题的独立评估机构也并未显著改变这一计算:他们被要求在完成评估后72小时内向商务部报告‘迫在眉睫的列举风险’,但法案中没有任何条款阻止实验室向其评估机构支付报酬,只要报酬不明确与评估结果挂钩[1]。


