奥特曼：社会必须接受一些人工智能带来的伤害

奥特曼的权衡逻辑建立在一个两层分类体系之上，而非对所有伤害一概漠视。‘有限’风险——即广泛部署技术所带来的欺诈、黑客攻击和滥用——在他看来是值得承受的，因为用户获得的总体利益远超造成的损害：‘我不会做这样的交易，比如保证没有任何诈骗、没有任何其他坏事发生，因为我相信人们使用这项技术所创造的好事，会比坏事多出几个数量级’ ^[2]。‘灾难性’风险——主要是人类失去控制权——则属于另一个完全不可协商的类别，他表示OpenAI在任何情况下都不会接受此类风险 ^[1]。

容易被忽视的是，奥特曼指出了第二种同样不可接受的灾难性风险：将极其强大的人工智能集中在单一行为者手中。他并不认为这是出于安全考虑可容忍的较小恶果，而是本身就是一种反乌托邦的结果——他拒绝了业内常见的安全论点，即最强大的系统应由单一严格控制的实验室持有：‘我不同意，但我理解那些人的观点，他们认为“这项技术将变得如此强大且危险，因此应该由旧金山的一家实验室掌握，并确保不会发生任何坏事”’ ^[4]。结合他关于‘人工智能失控’和‘权力集中’是导致其未来走向错误的两大风险的说法 ^[3]，这一框架读起来更少体现纯粹的加速主义，而更像是一个特定的意识形态押注：即访问权与权力的扩散本身就是一种安全策略，而不是与安全相权衡的牺牲品。

同一位高管在同周内展现了两种截然不同的语气。面对Politico《解码》节目时，奥特曼显得轻松自信，将伤害描述为自由与自主权的可接受代价 ^[1]。而在同一周发布的另一场《财富》杂志访谈中，他的语气则严肃得多：‘到本十年末，人工智能导致我们全体灭亡的风险达到10%，这是不可接受的……我们尚未解决对齐问题’ ^[5]。

这种差异未必构成矛盾——奥特曼很可能会说，这两个陈述都符合他的‘有限风险vs灾难性风险’框架，因为10%的灭绝风险显然属于他所说的绝对禁区。但语气上的剧烈反差会影响信息的接收方式：一个受众听到的是一个自信地设计社会应欢迎之权衡的架构师，另一个受众听到的则是承认其公司尚未解决防止最坏结果的核心技术难题的CEO。读者若只接触其中一场访谈，就会对奥特曼实际划线的位置产生扭曲印象。

奥特曼的言论加剧了与Anthropic之间早已存在的公开分歧。一个月前，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）曾呼吁全球放慢人工智能发展步伐 ^[6]，而奥特曼的观点直接与此相反。当被问及OpenAI与更注重安全的同行之间有多大距离时，奥特曼毫不含糊地回应：‘我认为两者之间存在很大差距’ ^[7]。媒体报道将这些言论视为OpenAI在监管哲学上彻底背离Anthropic的表现 ^[8]。

时机极具针对性：奥特曼的《解码》访谈发布于同周，OpenAI总裁格雷格·布罗克曼正与其他人工智能高管一道，在特朗普政府的白宫活动上签署一项自愿的人工智能安全标准协议 ^[1]。这种组合使奥特曼得以在修辞上两面兼顾——向监管机构和媒体展示一种正式、合作的安全承诺，同时公开主张行业未来的正确姿态应是轻度监管，而非Anthropic式的谨慎。

精英阶层所谓为‘自主权’和‘自由’而‘接受坏事’的说法，与公众反应形成了强烈冲突。批评者要求监管机构超越数据中心争端之类的安全议题，真正对人工智能实验室进行监管 ^[9]；其他人则完全拒绝这一立场，称其是‘任何人都不应接受或默许的’，或主张这应激发针对人工智能公司的有组织政治反对 ^[9]。一位批评者直言不讳：如果不具体说明‘接受坏事’的确切含义，听起来简直荒谬 ^[9]。批评中的一个反复出现的主题并非认为权衡本身 inherently 错误，而是奥特曼所说的‘坏事’从未被明确定义——因此无法追究任何人到底默许了哪些伤害，以及多大程度的伤害 ^[9]。

正是这种模糊性激起了更广泛的公众反应：舆论反应的主导主题是将奥特曼的成本-收益话语重新框定为分配问题——谁承担了负面后果（诈骗、黑客攻击、滥用），而谁攫取了正面收益（OpenAI及其投资者）。这种不对称性，比起‘有限风险’与‘灾难性风险’的抽象哲学，更能解释为何一个复杂的风险容忍度论述会迅速演变为引爆点——表明奥特曼的框架即使在其自身逻辑内自洽，仍未能回答批评者真正提出的问题：对谁而言可接受？由谁决定？