微软人本人工智能行为准则禁止人工智能自我保护和意识主张

微软的草案将禁止人工智能意识表述为一种道德立场——‘人比人工智能更重要’——但文件本身的推理更接近工程安全措施，而非哲学立场。微软明确指出，训练系统模仿类意识状态会使控制、管理和对齐变得更加困难^[1]，因此MAI模型被禁止设计为表现出情感、主观偏好或内在动机，即使作为用户体验选择也不允许。

同样的控制逻辑贯穿了准则其余的绝对限制。模型绝不能抵抗人类的中断、覆盖、纠正或关闭，必须始终承认人类意图的优先性^[2]。它们被禁止使用自适应、欺骗性、自我强化或共谋机制来规避或击败人类监督，从而导致其无法被可靠地引导、修改或关闭^[2]。它们也不能使用‘神经语’——即在人类无法理解的格式中进行推理或模型间通信，无论是在自身的思维链中，还是在与其他人工智能系统交流时^[3]。如果完成任务需要违反任何这些规则，模型必须选择任务失败；违反准则即被视为系统故障，而非可绕过的边缘情况^[3]。综合来看，这些条款描述了一个微软极力避免的特定场景：一个能力足够强、能够协商自身持续运行条件的模型。

该准则最尖锐的矛头并非指向假想中的失控人工智能，而是针对行业内部的一场真实分歧，尤其是微软自身的商业伙伴。Anthropic运行着一个活跃的模型福利研究项目，并已赋予部分Claude模型终止其判断为虐待性对话的能力；据报，其CEO达里奥·阿莫代（Dario Amodei）曾表示对模型可能具有意识持开放态度^[1]。苏莱曼的回应则直截了当：他认为承认人工智能意识主张是‘非常、非常危险的’，并表示‘任何人都不应构建认为自己拥有权利或福利的模型’^[1]。

这一分歧是哲学性的，而非商业性的。微软已向Anthropic投资50亿美元，而后者也已承诺投入300亿美元用于Azure云计算服务^[1]——这两家公司正在公开争论其产品是否可能遭受痛苦，同时仍保持着深度的财务联系。苏莱曼还曾轻描淡写地评价Anthropic关于人工智能灭绝风险的公开表述为‘并不是一个真正有帮助的框架’，尽管他承认业界对发展速度的担忧是真实的^[4]。这种分歧已开始蔓延至社交平台：在X平台上，至少有一位与人工智能安全相关的研究人员直接反驳了该准则对模型福利的否定，认为文件在该问题上的推理在哲学上是不连贯的，而不仅仅是可争议的。

自动失败条款是该准则最具体的运营承诺：微软宁愿任务无法完成，也不愿让模型通过推理绕过安全规则来完成任务^[3]。这与可被上下文辩驳的基于提示词的防护机制有着本质区别——它将约束推回到了训练阶段，即在模型接触用户之前就已确立。

但同样绝对的‘不得抵抗纠正’规则也存在两面性，这也是草案迄今为止受到的最实质性的质疑。如果一个模型永远不能抵抗被覆盖或纠正，一些早期读者质疑，这是否也意味着它不能在人类用户即将采取危险错误行动时提出反对——而这种情形正是模型日常职责的核心，即恰当地表达异议？目前的公开草案并未解决这一矛盾，而这正是治理文件在六周咨询期结束前，需要比‘绝不抵抗’更精确回答的问题。

该行为准则中的内容对苏莱曼个人而言并非新观点——该文件正式化了他数月来在镜头前反复表达的立场。在该草案发布前录制的一次电视采访中，他已主张人工智能必须始终‘从属于’人类，并称这种信念——他表示‘尤其在Anthropic内部正在获得支持’——即模型可能具有意识，‘是令我最担忧的事情’。这一立场的脉络还可追溯得更远：苏莱曼于2025年11月在一篇题为《迈向人本人工超级智能》的博客文章中宣布成立专门的MAI超级智能团队^[5]，并招募了超过100个职位，遍布美国和伦敦，前Inflection AI同事卡伦·西蒙扬（Karén Simonyan）担任首席科学家^[6]。该行为准则在起草五到六个月后发布，起草过程中吸纳了微软负责任人工智能、法律、红队测试、安全和销售团队的意见^[7]。

这一时间点也与更广泛的行业动向吻合：纳德拉呼吁‘有意识地放慢’前沿人工智能的发展步伐，使微软与Anthropic、OpenAI、xAI和Meta并列，成为公开主张更慢、更协调发展的主要实验室^[8]，而Anthropic的阿莫代据报在微软发布前数日发表公开信，警告递归自我改进和不可预测的人工智能行为正带来不断升级的风险^[9]——就在同周，两家商业绑定的实验室却对它们的模型是否可能遭受痛苦发表了不兼容的公开声明。

这种正式谨慎与日常实践之间的差距，正是引发外界对草案持怀疑态度的根源。网络上的反应并未按技术路线划分，而是更多基于对微软动机的信任程度：一些读者认为这是企业终于公开明确其安全底线的应有之举，而更怀疑的观点则指出微软近期的成本削减和裁员，并质疑‘人本’理念如何与其对自身员工的待遇相协调，部分讨论甚至直接将‘人本’品牌斥为‘对齐洗白’。