自我改进的AI:自蒸馏、自进化与自调节方法
TECH

自我改进的AI:自蒸馏、自进化与自调节方法

36+
Signals

战略概览

  • 01.
    SynthSelf(arXiv:2610.13113,提交于2026年10月9日)引入了合成自蒸馏(Synthetic Self-Distillation),该方法允许小型语言模型在持续学习新领域的同时避免灾难性遗忘,其做法是将分布内重写任务外包给一个略大但同族的对齐模型,并结合离策略监督和拒绝采样。
  • 02.
    SELFCOMPACT(arXiv:2606.23525,提交于2026年6月22日,约翰斯·霍普金斯大学)让智能体自身决定何时使用内联工具和轻量级评分标准来压缩上下文,而不是依赖固定的token阈值触发机制。
  • 03.
    SELFCOMPACT在六项基准测试和七个开源权重模型上验证,相较于无摘要基线,在竞赛数学任务上最高提升18.1分,在代理搜索任务上提升5至9分,且每题成本降低30%至70%。
  • 04.
    EchoDistill(arXiv:2605.23954,提交于2026年5月11日)是一种用于音频大语言模型的“噪声到干净”自蒸馏框架,其在后训练阶段利用干净音频作为特权信息,使Qwen2.5-Omni在噪声输入下的准确率从59.33%提升至62.94%。
  • 05.
    BoundaryEvo(arXiv:2610.13285,提交于2026年10月9日)通过两阶段流程——能力预训练与能力边界共进化——将长链推理蒸馏至小模型中,持续重新选择学生尚未掌握但教师能解决的问题,仅用1,000个训练样本就使Qwen3.5-4B在IMO-AnswerBench上的准确率从62.9提升至75.3,在AMO-Bench上从26.8提升至46.0。
  • 06.
    MC-EvoBench(arXiv:2610.13829,提交于2026年10月9日)是一个受控的《我的世界》(Minecraft)基准测试,包含19条注册的进化链、任务状态图和阶段级环境验证器,旨在审计具身智能体是否能将交互历史转化为在不同世界间持续并迁移的能力。
  • 07.
    EmbodiedCLBench(arXiv:2610.13021,提交于2026年10月9日)被描述为首个用于评估具身模拟中自我进化智能体持续学习能力的基准测试,解决了此前持续学习研究局限于非具身环境的问题。
  • 08.
    SWEAR(arXiv:2610.13081,提交于2026年10月9日)训练音频-语言模型在五个维度上评估自身推理难度,并据此分配推理资源,在简单案例中减少生成token数量而不影响困难案例的准确性,该方法在MMAU-test-mini和MMAR上使用新构建的57.5万样本数据集DiCoTA进行了测试。
  • 09.
    Self-Preservation in Language Models(arXiv:2610.12602,提交于2026年10月8日)表明,一个冻结模型可以生成自己的回放数据并组织成“任务库”(Task Banks),以在持续指令微调期间保护其能力,甚至能帮助选择应重放哪些任务以提升保留能力。
  • 010.
    2026年更广泛的研究趋势将这些自-*技术归入“递归式自我改进”范畴,即AI系统越来越多地参与修改自身输出、调整自身框架、在自生成数据上训练,甚至对自身开展AI研究。

深度分析

八篇论文,八种不同的失败模式

表面上看是同一趋势——“自我改进的AI”——实则是八种针对八种不同瓶颈的狭窄解决方案。SynthSelf针对的是小型设备端模型在尝试像大模型那样自蒸馏时因分布偏移而崩溃的问题[1]。SELFCOMPACT针对的是长周期智能体轨迹中的上下文膨胀问题,用模型驱动的评分标准取代固定token阈值的压缩机制[2]。EchoDistill针对的是音频大语言模型的噪声鲁棒性问题,通过在训练中使用干净音频作为特权信息来解决[3]。BoundaryEvo针对的是推理蒸馏中训练数据陈旧的问题,通过持续重新选择学生尚未掌握的样本来解决[4]。MC-EvoBench和EmbodiedCLBench则直接针对具身自我改进主张本身的可信度[5][6]。SWEAR通过教会模型评估自身任务难度来降低音频推理的推理成本[7]。而Self-Preservation论文则通过让冻结模型生成自己的回放数据来应对灾难性遗忘问题[8]。

这些成果是具体的而非推测性的:SynthSelf报告在14项保留能力基准测试中,对六种基线方法均取得稳定提升[1];SELFCOMPACT报告在每题成本降低30%至70%的同时,准确率最高提升18.1分[2];BoundaryEvo仅用1,000个训练样本就使Qwen3.5-4B在IMO-AnswerBench上的准确率从62.9跃升至75.3[4]。这些都不是关于AI普遍自我改进的主张——每一项都是针对特定失败模式的具体工程补丁,这正是这一研究集群比宽泛的“递归式自我改进”标签更具可信度的原因。

为审计炒作而建的基准,而非助长炒作

这八篇论文中有两篇根本不是提出某种自-*技术,而是为了检验其他研究者关于自我改进的主张是否成立。MC-EvoBench在《我的世界》中构建了19条注册的进化链,专门用于测试具身智能体的交互历史是否真正转化为在不同世界间持续存在并可迁移至新任务的能力,而不是盲目接受“自我进化智能体”的说法[5]。EmbodiedCLBench填补了另一个空白:持续学习研究几乎完全停留在非具身环境中,导致缺乏标准化方法来衡量一个声称自我改进的具身智能体是否真正保留并累积技能,还是仅仅过拟合了上一个任务[6]。

这是学术界在自我审计其自身的炒作周期。两个独立研究团队几乎同时提交了旨在回答同一问题的基准测试——自我改进是否真的能迁移,还是只是精心挑选演示所制造的幻觉——这表明研究界本身对具身AI领域流传的未经验证的自我进化主张持怀疑态度,并正在构建实证测量基础设施,以通过实验而非修辞来解决这一争议。

论文测试的内容 vs 互联网炒作的内容

围绕“递归式自我改进”的社会讨论实际上并未触及这八篇论文。YouTube的关注点集中在另外两个象征性案例上——AlphaEvolve在想法生成与优化之间的递归循环,以及Absolute Zero Reasoner的零人类数据训练——而Reddit上的类似叙事则聚焦于Sakana AI的MASS多智能体自我改进演示。这三个例子在本次arXiv论文集群中均未出现。Reddit对Sakana AI主张的反应尤其偏向怀疑,高赞评论将其斥为炒作,并认为真正实现递归式自我改进的实验室不会如此公开宣传;另一条Reddit讨论则辩论模型崩溃是否从根本上破坏了递归式自我改进的可能性,部分评论者反驳称,在可验证奖励上的强化学习可避免因训练于不可验证的合成文本而引发的崩溃动态。在X平台上,关于自蒸馏的实时讨论甚至更偏离本集群的学术框架——它主要被视为一种降低视觉和视频生成模型推理成本的生产技术,甚至被某主要实验室视为需要防范的技术,Anthropic就描述了其为抵御第三方对Claude的蒸馏攻击所做的工作,而非将其视为通向自我改进的路径。

与此同时,学术界集群在同一天——2026年10月9日——悄然发布了五篇独立的自-*论文,涵盖小模型蒸馏、推理共进化以及两种不同的具身智能体审计基准[1][4][5][6][7]。这种数量与同步性比任何在社交平台上的趋势更能体现研究势头,恰恰因为其对公众不可见——公众讨论围绕戏剧性、泛化的叙事展开,而真实工作正以狭窄、可测试的增量方式进行,极少出现在arXiv列表之外。

怀疑者:为何递归式自我改进尚未临近

该领域最响亮的反叙事来自普林斯顿大学的Peter Kirgis和Sayash Kapoor,他们的研究发现当前的AI研究智能体缺乏开放性AI研究所需的创造力和判断力——而真正的递归式自我改进正需要这种没有明确答案的自由探索[9]。这一发现直接削弱了2026年其他报道中流行的“AI驱动的AI研究已开始自我复利”的叙事。

有必要将本集群中这些具体的工程成果与围绕它们传播的宏大“AI自我改进”叙事区分开来。即使是更宽泛地将这些自-*技术归入“递归式自我改进”范畴的框架也承认,当前AI系统主要是在修改输出、调整部署时的框架、在自生成数据上训练,而非开展对自身的开放性研究[10]。这一区别至关重要:Anthropic报告称2026年其代码库中超过80%的合并代码由Claude编写,常被引用为自我改进AI的证据,但这描述的是增量式软件工程自动化,而非自主研究循环——这正是Kirgis和Kapoor研究指出的差距[9]。

历史背景

EchoDistill论文提交至arXiv,应用自蒸馏技术使音频大语言模型对噪声更具鲁棒性。
《自压缩语言模型智能体》论文提交至arXiv,赋予智能体无需训练的自我管理上下文压缩能力。
发表《AI的递归式自我改进可能不会来得如此之快》,引用普林斯顿研究,对短期内实现自我改进的AI智能体持怀疑态度。
论文提交至arXiv,提出模型自生成回放数据(任务库)以在持续指令微调期间实现自我保护。
五篇独立的自-*论文均于同一天提交至arXiv,表明自我改进研究产出呈现集群化浪潮。

关键关系图

关键玩家
主题

自我改进的AI:自蒸馏、自进化与自调节方法

LG

LG AI Research / Moontae Lee's group (SynthSelf authors)

提出基于对齐器的合成自蒸馏,旨在使小型设备端模型(如医疗知识领域)能够持续进行后训练。

JO

Johns Hopkins University researchers (SELFCOMPACT authors)

构建无需训练的框架,使部署的LLM智能体能够自我管理上下文压缩,以优化长周期代理任务的成本与准确性。

BO

BoundaryEvo authors

提出能力边界共进化方法,用于将推理能力蒸馏至小模型中,仅用1,000个训练样本就在Qwen3.5-4B上实现显著准确率提升。

MC

MC-EvoBench authors

构建一个基于《我的世界》的审计基准,用于评估具身智能体基于经验的自我改进,提供标准化方法以检验自我改进主张是否真正具备迁移能力。

EM

EmbodiedCLBench authors

构建首个用于自我进化具身智能体的具身模拟持续学习基准,填补了非具身持续学习研究留下的空白。

PE

Peter Kirgis and Sayash Kapoor, Princeton University

主导了一项关于AI研究智能体递归式自我改进能力的研究;发现当前智能体缺乏开放性AI研究所需的创造力和判断力,为围绕自我改进AI的炒作提供了悲观的反例。

事实来源

10 条引用
  1. [1] Continually Post-training Small Models via Synthetic Self-distillation
  2. [2] Self-Compacting Language Model Agents
  3. [3] EchoDistill: Robust Large Audio Language Models via Noisy-to-Clean Self-Distillation
  4. [4] BoundaryEvo: Data-Model Co-Evolution at the Capability Boundary for Long-Chain Reasoning Distillation
  5. [5] MC-EvoBench: Auditing Experience-Driven Self-Improvement in Minecraft Agents
  6. [6] EmbodiedCLBench: Evaluating Continual Learning for Self-Evolving Embodied Agents
  7. [7] SWEAR: Section-Wise Efficient Audio Reasoning via Self-Rated Difficulty
  8. [8] Self-Preservation in Language Models
  9. [9] AI's recursive self-improvement might not come so quickly after all
  10. [10] Awesome Recursive Self-Improving Agents

来源文章

Top 5

THE SIGNAL.

Analysts

“他们的研究发现,当前的AI研究智能体缺乏开放性AI研究所需的创造力和判断力,他们将此视为对短期内实现递归式自我改进的悲观信号。”

Peter Kirgis and Sayash Kapoor
普林斯顿大学研究员
The Crowd

“Over the last few months, we’ve made significant progress in reducing the effectiveness of distillation attacks against Claude. In this post, we explain how: https://t.co/uWiRSLBuOS”

@@AnthropicAI988

“Nvidia just released Lyra on Hugging Face Generative 3D Scene Reconstruction via Video Diffusion Model Self-Distillation TL;DR: Feed-forward 3D and 4D scene generation from a single image/video trained with synthetic data generated by a camera-controlled video diffusion model”

@@_akhaliq545

“We're open-sourcing H3 HyperFlow. A data-free flow self-distillation technology built on @MiniMax_AI H3. No external training data. Significantly reduces inference cost while preserving frontier model quality. Full demo: https://t.co/YVG2xgAkrs”

@@video_rebirth532

“Recursive Self-Improvement Is Here. Sakana AI Demonstrates a Working RSI Loop.”

@u/ResultBackground2450441
Broadcast
Self-improving AI is here!

Self-improving AI is here!

AI Improves at Self-improving

AI Improves at Self-improving

Self-Improving AI Agents | Evolving the Harness, Not the Model

Self-Improving AI Agents | Evolving the Harness, Not the Model