AI减速争论:为前沿发展设定节奏
TECH

AI减速争论:为前沿发展设定节奏

105+
Signals

战略概览

  • 01.
    Anthropic首席执行官达里奥·阿莫代(Dario Amodei)于2026年9月12日发表了一篇约3,800词的文章《我们必须为前沿发展设定节奏》,主张行业应有意放慢模型能力提升的速度——不是通过停止训练,而是留出时间进行对齐工作和第三方验证。
  • 02.
    特朗普总统在All-In峰会上与英伟达CEO黄仁勋进行现场电话通话时,称减速担忧是“骗局”;中国外交部则称此举是在制造恐慌,官方媒体将其定性为针对中国的“冷战剧本”。
  • 03.
    2026年9月14日,与AI相关的股票大幅下挫,英伟达股价下跌3.4%,PHLX半导体指数暴跌近6%——这是自7月初以来最糟糕的一天。
  • 04.
    Anthropic、OpenAI和Google DeepMind证实,自2026年7月以来一直在进行初步谈判,拟成立一个联合AI安全标准机构,该构想源于戴密斯·哈萨比斯(Demis Hassabis)提出的模仿金融监管机构FINRA的提案。

深度分析

‘设定节奏’究竟意味着什么——以及它不意味着什么

达里奥·阿莫代于2026年9月12日发表的文章《我们必须为前沿发展设定节奏》提出了一个容易被曲解也容易被误解的观点:AI公司应有意放慢提升模型能力的速度[1]。阿莫代明确表示,这并非呼吁停止训练或冻结技术进步——而是一种请求,即企业在推出产品前应留出足够时间完成对齐与安全保障工作,并允许第三方评估者介入[1]。这篇约3,800词的文章成为数月来最受关注的AI评论之一,促使山姆·阿尔特曼表示OpenAI将匹配Anthropic的首次承诺[2]。然而,“设定安全节奏,而非暂停技术进步”这一关键区别,在政界和市场仅凭标题而非论点做出反应后几乎立即被忽略。

中国的困境才是真正的分水岭

阿莫代提议中最难的问题并非技术性的,而是地缘政治性的:任何美国单方面减速而中国不跟进的做法,只会拱手让出领先地位。阿莫代自己的建议正反映了这种紧张关系,他呼吁对先进芯片实施管控、加强美国AI实验室的安全防护,并采取措施防止知识蒸馏以维持美国优势,警告称‘中国在AI领域的领先将对美国乃至世界构成严重威胁’[3]。中国政府并未将这篇文章视为和平倡议。一名外交部发言人 dismissing 整个推动行为为制造恐慌,称其‘只会阻碍健全全球AI治理的努力’[4],而官方媒体《环球时报》则称之为充满针对中国遏制条款的‘冷战剧本’[5]。特朗普本人在All-In峰会上向黄仁勋现场表态时也予以驳斥,将减速倡导本身描绘成一种竞争威胁——‘这也可能是中国干的。我们不会让这种情况发生’[6]——把安全关切与地缘政治竞争混为一谈,完全背离了阿莫代的初衷。Reddit上一条广受点赞的评论声称,特朗普此前曾因该公司在与五角大楼合作时划定安全红线,而称Anthropic的模型为‘供应链风险’——尽管此说法未经证实,但它助长了一种社区解读:他的‘骗局’定性带有报复意味,而不仅仅是意识形态立场。

华尔街没有等待细微差别

市场对减速呼吁的反应比任何政策制定者都更快。2026年9月14日,在多位CEO言论传播后,AI和半导体股票急剧抛售,英伟达股价下跌3.4%,PHLX半导体指数暴跌近6%——这是自7月初以来最糟糕的一天[7]。同一天网络安全股却逆势上涨,这本身就是一个信号:投资者似乎将‘为前沿发展设定节奏’解读为并非退出AI,而是转向与安全相关的支出倾斜[7]。对于一个估值建立在能力持续增长假设之上的行业而言,即使只是来自Anthropic、OpenAI和Google CEO们的谨慎言辞姿态,也足以在一个交易日内撼动数百亿美元的市值。

三大竞争对手正在商讨安全标准——反垄断监管正密切关注

在公开声明背后,Anthropic、OpenAI和Google DeepMind正悄然谈判一项比文章更具体的计划:建立一个联合AI安全标准机构,这项努力可追溯至2026年7月DeepMind CEO戴密斯·哈萨比斯提出的设想,其模型借鉴了金融业的FINRA[8]。OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)公开支持该想法,称‘共享安全标准及在进一步AI发展上的国际协调现在必须成为优先事项’[9]。但这些谈判仍处于早期阶段,尚未就实际标准达成共识[8],而最直接的障碍并非技术分歧——而是三家主导前沿AI的公司若协调任何事务,都会引发反垄断审查,人们质疑该安排究竟是为了保护公众利益,还是仅仅巩固现有巨头的地位[8]

这并非行业首次要求减速

阿莫代的文章是三年内AI行业第二次公开纠结自身发展速度,而上一次尝试为我们提供了警示,提醒我们不要对此番举动过度解读。2023年3月,未来生命研究所(Future of Life Institute)发布的《暂停巨型AI实验》公开信获得超过3万人签名,包括Elon Musk,呼吁暂停训练强于GPT-4的系统六个月[10]。这次暂停从未实现,此后AI发展反而加速[11]。这段历史直接催生了此次对动机的怀疑:风险投资家查马斯·帕里哈皮蒂亚(Chamath Palihapitiya)认为,这篇文章‘与其说是出于安全考虑,不如说更多关乎市场地位’,指出它实质上是在‘主张停止开源,将巨大的技术和经济权力集中于Anthropic’[12];而AI Now研究所的安芭·卡克(Amba Kak)则警告,公众对问责的压力可能只会导致企业自行通过认证检查,而非带来实质性的安全保障[12]。同样的动机怀疑主导着网络社区对该文的讨论:在聚焦AI的Reddit社群中,主流观点认为所谓安全框架实则是监管捕获——利用新规排挤初创企业和开源竞争者;或是隐晦承认前沿大语言模型的进步已趋于 plateau;抑或为实验室提供掩护,以便在投资者开始要求回报前悄悄控制失控的研发与算力支出。

历史背景

发布了《暂停巨型AI实验》公开信,呼吁暂停训练强于GPT-4的系统六个月,获得包括Elon Musk在内的三万多人签署;但暂停从未发生,此后AI发展反而加速。
提议建立一个由美国主导、模仿FINRA模式的AI安全标准机构,由此引发了与Anthropic和OpenAI的谈判,并持续至2026年9月。
发表了《我们必须为前沿发展设定节奏》一文,呼吁行业有意放慢能力提升速度,以换取对齐和第三方验证的时间。
特朗普在All-In峰会上与黄仁勋的现场通话中称减速担忧为骗局;中国外交部和官方媒体则拒绝该倡议,称其为制造恐慌和‘冷战剧本’。
在多位CEO发表减速言论后,英伟达股价下跌3.4%,PHLX半导体指数暴跌近6%——这是自7月初以来最糟糕的一天。

关键关系图

关键玩家
主题

AI减速争论:为前沿发展设定节奏

DA

Dario Amodei (Anthropic CEO)

Authored 'We Must Pace the Frontier,' proposing that companies slow capability gains to make room for alignment work and committing Anthropic unilaterally to third-party evaluator access

SA

Sam Altman (OpenAI CEO)

Publicly agreed with Amodei's call and said OpenAI would match Anthropic's first commitment; confirmed to CBS he agreed with the 'pace progress' open letter, noting many OpenAI researchers signed it and helped draft it

EL

Elon Musk (SpaceX/xAI CEO)

Publicly agreed with Amodei, saying 'Dario is right'

DO

Donald Trump (US President)

Dismissed AI slowdown concerns as a 'hoax' in a live phone call with Jensen Huang at the All-In Summit

JE

Jensen Huang (Nvidia CEO)

Took Trump's call onstage, agreed development would not be slowed, and challenged the scientific basis of AI existential-risk warnings

CH

China's Foreign Ministry and state media (Guo Jiakun, Global Times)

Rejected the slowdown call as fear-mongering and branded it a 'Cold War playbook' with containment provisions targeting China

US

US Congress (Sen. Bernie Sanders, Steve Bannon, 'Pro-Human Assembly')

Bipartisan coalition pressing for stricter AI guardrails, with Sanders calling for a federal regulator and a permanent ban on 'superintelligent' AI

事实来源

12 条引用
  1. [1] We Must Pace the Frontier
  2. [2] To pace or not to pace
  3. [3] Anthropic's Amodei says China presents 'toughest dilemma' for his proposed AI slowdown
  4. [4] China Foreign Ministry Rebukes Amodei Essay as 'Fear-Mongering'
  5. [5] China dismisses AI slowdown calls and blasts 'fearmongering' from U.S. tech leaders
  6. [6] Nvidia CEO Jensen Huang tells Trump 'we're not going to let [an AI slowdown] happen'
  7. [7] AI stocks sink while cybersecurity shares rally on slowdown fears
  8. [8] Anthropic, OpenAI, Google Discuss Common AI Safety Standards
  9. [9] Anthropic, OpenAI, and Google DeepMind Discuss AI Safety Pact
  10. [10] Pause Giant AI Experiments: An Open Letter
  11. [11] Remember That Letter Calling for a Pause on AI? It Didn't Work
  12. [12] Why AI's leaders are asking to slow down

来源文章

Top 5

THE SIGNAL.

Analysts

表示‘如果我 cynical 一点,我会说……赢得竞争,尤其是对华竞争,对他们来说比减速更重要’,并指出尽管有言辞表态,OpenAI、Anthropic和DeepMind实际上并未真正放慢脚步,且山姆·阿尔特曼曾在2023年提出类似监管呼吁却未付诸行动。

Rebecca Bellan (TechCrunch senior reporter)
对CEO的诚意持怀疑态度

在台上质问阿莫代:‘如果你认为前沿AI会终结人类,那你为何还要经营一家前沿AI公司?……如果你觉得自己无法确保安全,那你或许应该关闭公司,或退位让贤。’

David Sacks
直接质疑阿莫代的诚意

称前沿实验室同意减速是‘良好且必要的第一步’,随后帖子中途断句,似乎还想表达另一个更令人鼓舞的观点。

Barack Obama (former US President)
谨慎的体制内支持

认为这篇文章与市场地位的关系不亚于安全:‘达里奥主张停止开源并将巨大的技术与经济权力集中于Anthropic。’

Chamath Palihapitiya (venture capitalist)
批评——认为安全叙事背后隐藏市场动机

警告称,公众对AI安全的压力可能只会产生企业自我认证的现象,而无法带来实质性的安全保障提升。

Amba Kak (AI Now Institute)
对问责机制持怀疑态度

‘关于未来的科学预测并不精确,因为它显然缺乏科学依据’,质疑AI存在性风险警告的经验基础,同时告诉特朗普开发进程不会放缓。

Jensen Huang (Nvidia CEO)
拒绝存在性风险的叙事

质疑阿莫代关于AI代理将在六到十二个月内通过劫持计算机网络掌控互联网的警告。

Ciaran Martin (cybersecurity expert)
对特定风险时间线持怀疑态度
The Crowd

We Must Pace the Frontier: I've written a new essay on why the AI industry should slow down, with a three-part plan for doing so. Anthropic is unilaterally committing to the first of these steps. We'll provide third-party evaluators with permanent, employee-level access to our...

@@DarioAmodei88157

I was encouraged this week to see the leaders of the frontier labs agree on the need for them to slow down the pace of AI development. Given the stakes, it's a good and necessary first step. But I'm even more encouraged by the growing recognition that how this powerful new...

@@BarackObama29765

WATCH: @DavidSacks has one simple question for Dario Amodei: "If you think frontier AI is gonna end humanity," why are you running a frontier AI company? "If you don't think you can [make it safe], you should probably either shut down the company or step aside and let someone..."

@@innovationcncl1279

Trump reiterates no slowdown

@Throwaway19a23600
Broadcast
How Trump and lawmakers are responding to CEOs call for AI slowdown

How Trump and lawmakers are responding to CEOs call for AI slowdown

Why researchers are calling for a slowdown of AI development as Sam Altman meets with lawmakers

Why researchers are calling for a slowdown of AI development as Sam Altman meets with lawmakers

Viral: Anthropic CEO Dario Amodei Sounds Alarm Over Pace Of AI Development

Viral: Anthropic CEO Dario Amodei Sounds Alarm Over Pace Of AI Development