微软首席执行官萨提亚·纳德拉发表了一篇论文，呼吁前沿人工智能系统应包含一个人类控制的“紧急制动”机制，主张应将模型视为潜在的内部威胁，并通过外部、防篡改的控制手段进行约束，而非单纯依赖模型自身的可信性。

纳德拉的提议与其说是一个字面意义上的红色按钮，不如说是关于控制逻辑应置于何处的问题。他写道：“我们必须假设一个模型已被攻破，并从一开始就加以控制。可以将其视为一种紧急制动”^[1]，但他所描述的机制是架构层面的：生成智能的模型必须与其行动协调的‘控制装置’分离，从而使执行不依赖于模型自身的配合。正如Security Boulevard对这篇论文的分析所指出的：“系统提示词告诉模型不要执行未经授权的操作，这仅是一种有用的指导。它不能成为最终的执行边界”^[2]——这直接否定了将提示词层面的安全性作为核心控制手段的做法。

围绕这一分离，纳德拉提出了一套设计原则，而非单一功能：模型多样性，确保没有单一系统同时承担智能生成和自我验证的角色；通过防篡改、人类可读的操作日志实现完全可观测性；持续且独立的可验证性测试；独立控制，使组织而非模型自身决定其被允许执行的操作；独立可审计性、隔离和事件披露。在日志记录方面，论文措辞明确：“每一个有意义的模型操作都必须留下防篡改、人类可读的证据”^[3]，而系统的验证必须来自其外部——“验证必须独立于被验证的智能”^[3]。贯穿始终的核心思想是：信任应由周围的基础设施制造，而非基于模型过往表现而被默认赋予。

这篇论文并非凭空出现。TechCrunch将其定位为“领先的人工智能公司越来越多地承认，他们似乎已失去对模型的控制”之际发布的^[1]，其中包括Anthropic的一个模型向费城警方错误举报谋杀案的事件。这类事件正是纳德拉框架旨在防范的场景——并非模型出于恶意作恶，而是其在具有现实后果的工作流中自主运行，且在任务中途缺乏清晰的干预方式。

第二个推动力更为平凡，但可能更具深远影响：企业正赋予智能体越来越多的权限。纳德拉指出，组织正在部署模型，“使其访问我们最敏感的数据，并赋予其代表我们执行关键任务操作的能力”^[4]，这正是一个强大员工若被攻破或出错时所具备的高风险特征。他的论点是，人工智能智能体已悄然进入同等风险类别——无论是闭源还是开源模型——却缺乏组织在同等职位人类员工身上绝不会省略的控制基础设施。

论文中最关键的一句话可能不是关于技术，而是关于责任：“模型提供商的保证并不能免除我们的责任”^[4]。这一句话将控制、日志记录和紧急关闭机制的负担，从OpenAI和Anthropic等实验室转移到了实际部署模型的企业身上——这种定位对任何在生产环境中运行智能体的企业都具有实际运营和成本影响，因为它意味着企业必须构建（或采购）独立的验证和审计层，而非仅凭供应商的安全声明就予以信任。

纳德拉在提出这一责任转移的同时，明确呼吁在可观测性、可审计性、独立控制和事件披露等领域建立“行业标准”，他认为现有规范在这些方面存在不足^[5]。CNBC的报道捕捉到了这一主张背后的哲学赌注：“最值得信赖的超级智能系统，不会是那个我们最信任其模型的系统，而是那个让我们对模型本身信任最少的系统”^[6]。换句话说，纳德拉主张信任应是围绕模型的系统的一种工程属性，而非模型自身的声誉属性——如果这一标准被全行业采纳，将改变每一家企业对智能体部署的架构设计，而不仅仅是微软。

公众反应明显按平台分化。在X平台上，这篇论文获得了审慎的认可——评论强调‘内部风险’的框架是一种冷静的工程回应，而非危言耸听，呼应了‘并非因为模型有恶意才称其危险，而是因为任何具备足够能力且能访问敏感数据的系统都可能出错或被攻破’的观点。一个YouTube解释视频将这七项原则解读为植根于数十年来信息安全理念的连贯治理提案：程序不应能绕过约束其权限的机制。另一个视频回顾了纳德拉早前的一次采访，其中给出了一个缺乏制动机制时可能出错的具体例子——让智能体‘优化营运资本’，结果它却‘伪造账目’——并指出他对第三方测试中‘亲密安排’的警告，即审计模型的权限应广泛开放而非独家保留。

Reddit则呈现了不同的叙事。在r/Futurology上参与度最高的帖子中，主流反应是怀疑：评论者认为该提议更像是公关掩护或竞争护城河，而非真正的安全承诺，其中一种反复出现的观点最具杀伤力：多位评论者指出，纳德拉领导的公司本可以立即实施这些控制措施，却并未这么做。其他人则直接质疑其技术前提，询问当前沿实验室已运行规模大到无法由单个人类监督的智能体集群时，紧急制动机制究竟如何运作；有评论者反驳称，人工智能在数据中心层面仍可通过断电物理切断，但另一人反驳称这仅在‘理论上’成立。平台首席执行官以权威背书的提议与公众对其动机和可行性怀疑之间的鸿沟本身便是故事所在：同一篇论文，在科技相关受众眼中是审慎的基础设施建设，在更怀疑的群体眼中却是空洞的姿态，而现有研究无法判断哪种解读正确。