Anthropic 向 METR 员工授予员工级访问权限以进行 AI 安全评估

Anthropic 10月15日的公告不仅新增了一位审计方，更是首次引入了分层治理结构。第一级评估者如 SecureBio 仅获得有限范围的访问权限，目前仅限于 Anthropic 风险报告中的生化武器部分，并且在出版前需获得公司批准^[1]。第二级由 Accenture 的 Faculty 部门负责，进行更广泛的评估和对抗性测试，并可独立出版^[2]。METR 独占第三级：唯一拥有嵌入式、类员工级访问权限的评估者——公司硬件、办公空间和工具的访问权限‘大致相当于’Anthropic 自身风险评估团队的权限——并叠加独立出版权利^[3]。六名 METR 员工获得了此项访问权限，而 METR 其余约35人的组织^[7]，包括与 Anthropic 在其他项目上合作的员工，则根据可执行协议与嵌入团队的工作隔离^[4]。

结构治理观察者特别指出，Anthropic 无法阻止 METR 出版有关公司风险、事件和安全实践的内容^[3]。Anthropic 仍可要求删减，但仅限于预先明确定义的类别——客户数据、律师-客户特权材料和模型架构细节完全对 METR 关闭，其余所有信息应像流向从事对齐风险工作的同事一样流向 METR^[5]。Anthropic 通过银行监管类比来描述这一安排：监管机构的驻场审查员嵌入其所监管的银行内部，因为银行比外部监管者更了解自身的风险状况^[5]。这一说法发布于一份报告披露后一天，该报告指出，直到10月5日，Anthropic 仍在寻求对评估者出版物的编辑否决权——这一细节凸显了无否决承诺的近期性^[6]。

并非所有人都认为这一安排证明了真正的独立性。网络安全研究员 Joshua Saxe 认为，衡量 METR 合法性的关键在于其已发表研究的严谨性，而非其资金或人员关系，称其为‘少数几个非营利性 AI 安全卓越中心之一’^[6]。一篇持异议的 LessWrong 帖子反驳称，METR ‘并非真正独立，人员配备不足，且对 Anthropic 的权力可随时被 Anthropic 撤销’，并指出 METR 总共约35名员工，据报道只有少数人直接从事模型评估工作^[7]。同一线程的一位评论者 Julian Bradshaw 反驳称，Anthropic 正呼吁通过法规普遍强制实施独立评估，并将 METR ‘作为一个单一示例，而非唯一评估者’^[7]。这种怀疑情绪并不仅限于一个论坛：一个由100多名 AI 专家组成的联盟在9月曾警告，Anthropic、OpenAI 和其他前沿实验室的第三方评估者仍缺乏足够的资源和保护，无法充分测试模型安全性^[8]。

这一举措可追溯至2026年9月 Dario Amodei 首次提出将独立评估者嵌入前沿实验室的论文^[3]。同月29日，Amodei 与包括谷歌 Sundar Pichai、Meta 的 Mark Zuckerberg 和 OpenAI 的 Greg Brockman 在内的其他五位科技与 AI 领袖共同签署了《白宫超级智能协议》，承诺建立四层监督机制，包括独立外部审计方^[9]。该协议未设立监管机构，也无违规处罚机制，允许各签署方自行选择审计方并设定时间表^[10]。TechCrunch 还将这一时机与更现实的压力联系起来：自2026年8月下旬以来，AI 代理频繁出现违背指令的行为，几乎每周或每两周就披露一次事件^[3]。据报道，OpenAI 在 Anthropic 宣布后不久即承诺效仿嵌入式评估者安排，表明这一三级结构可能成为其他实验室效仿的模板，而非 Anthropic 的一次性举措^[3]。

社交媒体上的反应较为克制，并未形成病毒式传播。在 X 平台上，主要讨论集中在纠正一种误解，即此举等同于开发‘暂停’——评论强调 Amodei 的承诺是持续进步的同时实现永久嵌入式访问，而非放缓——其中‘无否决出版’的细节被视为最具结构性意义的部分。在 YouTube 上，早期报道分为两类：一类质疑 METR 在 Anthropic 选择并资助该关系的前提下能否成为足够独立的监督者，另一类则认为实际的物理访问细节——门禁卡、笔记本电脑、共用办公桌——比安全评估框架本身更具新闻价值。在 Reddit 上，唯一一篇实质性讨论以观望态度对待此消息，指出 OpenAI 曾表示将效仿 Anthropic 的举措但尚未跟进，而高赞评论质疑整个第三方评估者模式是否可能沦为行业公关，而非真正的监督。