AI研究人员警告称，自动化AI研发可能引发智能爆炸

这篇论文与早期AI风险论述的不同之处在于，其核心主张得到了实验室自身已公布数据的支持，而非对遥远未来的预测。Anthropic披露，其内部AI研发工作中由AI在轻度或高层级人类监督下完成的比例从2026年3月的仅1%上升至同年8月的26%^[1]。在更长的时间跨度内，由AI撰写的、经Anthropic批准并合并的代码比例从2025年1月的个位数低水平上升至2026年5月的80%以上^[1]。与此同时，OpenAI的研究组织报告称，截至2026年8月中旬，每一个人类工作日对应3.1个代理工作日，系统常规性地完成了原本需要员工数天才能完成的研发任务^[2]。论文的论点也依赖于规模：当前前沿研发仍涉及数千名人类研究人员，但AI系统可被复制并并行部署至数百万，从而消除历史上制约进展的人力瓶颈^[1]。无论‘爆炸’是否真正发生，这些数据表明，底层的自动化趋势是真实、可测量且正在加速的，而非假设性的。

该论文在脚注中埋藏了一个不同寻常的声明：尽管来自OpenAI、微软和Anthropic的高级科学家参与了撰写，但文中内容并不意味着这些公司实际认可、支持或接受其建议^[3]。这种作者身份与机构背书之间的差距已成为报道的核心争议点。英伟达（NVIDIA）首席执行官黄仁勋（Jensen Huang）公开称这些实验室的警告‘奇怪’，因为这些公司同时正在推动大规模算力建设，而这正是任何智能爆炸所需的基础设施^[2]。网络上的反应也普遍持怀疑态度：围绕该论文及Anthropic领导层相关言论的讨论，倾向于将这一警告视为披着谨慎外衣的营销行为，批评者认为这些实验室实际上是在宣传他们竞相构建并销售的技术的危险性。这种怀疑并非毫无根据——一篇呼吁外部监管行业的论文，主要由该行业领导者撰写，但其雇主却不愿正式支持其诉求，这确实处于一种尴尬境地，读者有理由在评估警告内容的同时，权衡其背后的激励结构。

与警报相对的是一个真实的技术反驳，而论文并未完全解决这一问题。研究机构Forethought的一项相关分析模拟了仅基于固定硬件效率提升的‘软件智能爆炸’情景，估计当前AI训练效率的翻倍周期约为8个月——这一速度是否足以引发爆炸，关键取决于‘软件研发回报率’这一变量，它决定了反馈循环是加速还是熄火^[4]。另一项更广泛的学术综述审查了1,250篇关于AI系统参与自身改进的arXiv论文，提供了递归式自我改进研究实际进展的背景信息，与9月论文的框架有所不同^[5]。社区的技术讨论进一步指出，当前的自我改进循环需要比现在强数倍才能维持自身运行，更不用说失控——此外，一些对近期‘递归自我改进’主张的技术剖析认为，它们根本不符合该术语的经典定义，当前的进展应被描述为在静态模型上的协调与搜索效率提升，而非真正的自我改进智能。这些观点并未排除论文所描述的情景，但意味着‘爆炸’这一表述在论文作者群体之外仍存在广泛争议。

许多报道聚焦于戏剧化的表述，而非具体的诉求，但论文的核心建议相当明确：政策制定者应监测实验室内部的AI自动化水平，并强制开发者披露其研发流程中已有多少由AI驱动^[1]。其理由是，一旦自动化跨越某些阈值，干预窗口可能迅速关闭，因此可见性必须在加速发生之前建立，而非之后^[1]。论文还将担忧分为三类风险——AI能力增长速度快于社会适应能力、人类对日益自主的系统失去监督、现有对集中权力的制衡机制在面对能远超对手思考能力的行动者时失效——部分报道将最后一种情景的极端版本描述为可能导致人类被边缘化^[6]。论文明确指出的具体极端风险包括AI赋能的疫情、对关键基础设施的攻击以及需要应急响应准备的大规模劳动力动荡^[1]。从这个角度看，该论文更像是一次建立早期预警系统——透明度与监测机制——的呼吁，而非末日预言，其目标是在尚不确定底层趋势实际发展速度之前，提前构建应对框架。