八篇论文,八种不同的失败模式
表面上看是同一趋势——“自我改进的AI”——实则是八种针对八种不同瓶颈的狭窄解决方案。SynthSelf针对的是小型设备端模型在尝试像大模型那样自蒸馏时因分布偏移而崩溃的问题[1]。SELFCOMPACT针对的是长周期智能体轨迹中的上下文膨胀问题,用模型驱动的评分标准取代固定token阈值的压缩机制[2]。EchoDistill针对的是音频大语言模型的噪声鲁棒性问题,通过在训练中使用干净音频作为特权信息来解决[3]。BoundaryEvo针对的是推理蒸馏中训练数据陈旧的问题,通过持续重新选择学生尚未掌握的样本来解决[4]。MC-EvoBench和EmbodiedCLBench则直接针对具身自我改进主张本身的可信度[5][6]。SWEAR通过教会模型评估自身任务难度来降低音频推理的推理成本[7]。而Self-Preservation论文则通过让冻结模型生成自己的回放数据来应对灾难性遗忘问题[8]。
这些成果是具体的而非推测性的:SynthSelf报告在14项保留能力基准测试中,对六种基线方法均取得稳定提升[1];SELFCOMPACT报告在每题成本降低30%至70%的同时,准确率最高提升18.1分[2];BoundaryEvo仅用1,000个训练样本就使Qwen3.5-4B在IMO-AnswerBench上的准确率从62.9跃升至75.3[4]。这些都不是关于AI普遍自我改进的主张——每一项都是针对特定失败模式的具体工程补丁,这正是这一研究集群比宽泛的“递归式自我改进”标签更具可信度的原因。


