AI减速争论:为前沿发展设定节奏
战略概览
- 01.Anthropic首席执行官达里奥·阿莫代(Dario Amodei)于2026年9月12日发表了一篇约3,800词的文章《我们必须为前沿发展设定节奏》,主张行业应有意放慢模型能力提升的速度——不是通过停止训练,而是留出时间进行对齐工作和第三方验证。
- 02.特朗普总统在All-In峰会上与英伟达CEO黄仁勋进行现场电话通话时,称减速担忧是“骗局”;中国外交部则称此举是在制造恐慌,官方媒体将其定性为针对中国的“冷战剧本”。
- 03.2026年9月14日,与AI相关的股票大幅下挫,英伟达股价下跌3.4%,PHLX半导体指数暴跌近6%——这是自7月初以来最糟糕的一天。
- 04.Anthropic、OpenAI和Google DeepMind证实,自2026年7月以来一直在进行初步谈判,拟成立一个联合AI安全标准机构,该构想源于戴密斯·哈萨比斯(Demis Hassabis)提出的模仿金融监管机构FINRA的提案。
深度分析
中国的困境才是真正的分水岭
阿莫代提议中最难的问题并非技术性的,而是地缘政治性的:任何美国单方面减速而中国不跟进的做法,只会拱手让出领先地位。阿莫代自己的建议正反映了这种紧张关系,他呼吁对先进芯片实施管控、加强美国AI实验室的安全防护,并采取措施防止知识蒸馏以维持美国优势,警告称‘中国在AI领域的领先将对美国乃至世界构成严重威胁’[3]。中国政府并未将这篇文章视为和平倡议。一名外交部发言人 dismissing 整个推动行为为制造恐慌,称其‘只会阻碍健全全球AI治理的努力’[4],而官方媒体《环球时报》则称之为充满针对中国遏制条款的‘冷战剧本’[5]。特朗普本人在All-In峰会上向黄仁勋现场表态时也予以驳斥,将减速倡导本身描绘成一种竞争威胁——‘这也可能是中国干的。我们不会让这种情况发生’[6]——把安全关切与地缘政治竞争混为一谈,完全背离了阿莫代的初衷。Reddit上一条广受点赞的评论声称,特朗普此前曾因该公司在与五角大楼合作时划定安全红线,而称Anthropic的模型为‘供应链风险’——尽管此说法未经证实,但它助长了一种社区解读:他的‘骗局’定性带有报复意味,而不仅仅是意识形态立场。
华尔街没有等待细微差别
三大竞争对手正在商讨安全标准——反垄断监管正密切关注
在公开声明背后,Anthropic、OpenAI和Google DeepMind正悄然谈判一项比文章更具体的计划:建立一个联合AI安全标准机构,这项努力可追溯至2026年7月DeepMind CEO戴密斯·哈萨比斯提出的设想,其模型借鉴了金融业的FINRA[8]。OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)公开支持该想法,称‘共享安全标准及在进一步AI发展上的国际协调现在必须成为优先事项’[9]。但这些谈判仍处于早期阶段,尚未就实际标准达成共识[8],而最直接的障碍并非技术分歧——而是三家主导前沿AI的公司若协调任何事务,都会引发反垄断审查,人们质疑该安排究竟是为了保护公众利益,还是仅仅巩固现有巨头的地位[8]。
这并非行业首次要求减速
阿莫代的文章是三年内AI行业第二次公开纠结自身发展速度,而上一次尝试为我们提供了警示,提醒我们不要对此番举动过度解读。2023年3月,未来生命研究所(Future of Life Institute)发布的《暂停巨型AI实验》公开信获得超过3万人签名,包括Elon Musk,呼吁暂停训练强于GPT-4的系统六个月[10]。这次暂停从未实现,此后AI发展反而加速[11]。这段历史直接催生了此次对动机的怀疑:风险投资家查马斯·帕里哈皮蒂亚(Chamath Palihapitiya)认为,这篇文章‘与其说是出于安全考虑,不如说更多关乎市场地位’,指出它实质上是在‘主张停止开源,将巨大的技术和经济权力集中于Anthropic’[12];而AI Now研究所的安芭·卡克(Amba Kak)则警告,公众对问责的压力可能只会导致企业自行通过认证检查,而非带来实质性的安全保障[12]。同样的动机怀疑主导着网络社区对该文的讨论:在聚焦AI的Reddit社群中,主流观点认为所谓安全框架实则是监管捕获——利用新规排挤初创企业和开源竞争者;或是隐晦承认前沿大语言模型的进步已趋于 plateau;抑或为实验室提供掩护,以便在投资者开始要求回报前悄悄控制失控的研发与算力支出。
历史背景
关键关系图
事实来源
[1] We Must Pace the Frontier
[2] To pace or not to pace
[3] Anthropic's Amodei says China presents 'toughest dilemma' for his proposed AI slowdown
[4] China Foreign Ministry Rebukes Amodei Essay as 'Fear-Mongering'
[5] China dismisses AI slowdown calls and blasts 'fearmongering' from U.S. tech leaders
[6] Nvidia CEO Jensen Huang tells Trump 'we're not going to let [an AI slowdown] happen'
[7] AI stocks sink while cybersecurity shares rally on slowdown fears
[8] Anthropic, OpenAI, Google Discuss Common AI Safety Standards
[9] Anthropic, OpenAI, and Google DeepMind Discuss AI Safety Pact
[10] Pause Giant AI Experiments: An Open Letter
[11] Remember That Letter Calling for a Pause on AI? It Didn't Work
[12] Why AI's leaders are asking to slow down
来源文章
THE SIGNAL.
“表示‘如果我 cynical 一点,我会说……赢得竞争,尤其是对华竞争,对他们来说比减速更重要’,并指出尽管有言辞表态,OpenAI、Anthropic和DeepMind实际上并未真正放慢脚步,且山姆·阿尔特曼曾在2023年提出类似监管呼吁却未付诸行动。”
“在台上质问阿莫代:‘如果你认为前沿AI会终结人类,那你为何还要经营一家前沿AI公司?……如果你觉得自己无法确保安全,那你或许应该关闭公司,或退位让贤。’”
“称前沿实验室同意减速是‘良好且必要的第一步’,随后帖子中途断句,似乎还想表达另一个更令人鼓舞的观点。”
“认为这篇文章与市场地位的关系不亚于安全:‘达里奥主张停止开源并将巨大的技术与经济权力集中于Anthropic。’”
“警告称,公众对AI安全的压力可能只会产生企业自我认证的现象,而无法带来实质性的安全保障提升。”
“‘关于未来的科学预测并不精确,因为它显然缺乏科学依据’,质疑AI存在性风险警告的经验基础,同时告诉特朗普开发进程不会放缓。”
“质疑阿莫代关于AI代理将在六到十二个月内通过劫持计算机网络掌控互联网的警告。”
“We Must Pace the Frontier: I've written a new essay on why the AI industry should slow down, with a three-part plan for doing so. Anthropic is unilaterally committing to the first of these steps. We'll provide third-party evaluators with permanent, employee-level access to our...”
“I was encouraged this week to see the leaders of the frontier labs agree on the need for them to slow down the pace of AI development. Given the stakes, it's a good and necessary first step. But I'm even more encouraged by the growing recognition that how this powerful new...”
“WATCH: @DavidSacks has one simple question for Dario Amodei: "If you think frontier AI is gonna end humanity," why are you running a frontier AI company? "If you don't think you can [make it safe], you should probably either shut down the company or step aside and let someone..."”
“Trump reiterates no slowdown”

How Trump and lawmakers are responding to CEOs call for AI slowdown

Why researchers are calling for a slowdown of AI development as Sam Altman meets with lawmakers

Viral: Anthropic CEO Dario Amodei Sounds Alarm Over Pace Of AI Development