自主AI智能体的循环工程

循环工程的核心主张并非智能体变得更聪明，而是开发者的杠杆点发生了转移。开发者不再像项目经理一样逐轮指挥智能体，而是只需一次性编写指令和验收标准，让系统自行运行^[1]。从业者的自我描述揭示了这一点：Anthropic的Boris Cherny负责运行Claude Code，他表示自己不再直接向Claude发送提示，而是编写会向Claude发送提示并决定下一步操作的循环^[3]；工程师Peter Steinberger的流行观点是，你应该设计提示智能体的循环，而不是亲自提示智能体^[3]。其背后的逻辑是吞吐量论证：一旦存在可自动评估尝试的客观指标，人类就成为了瓶颈，因为循环可以无限迭代，而人经过大约十几个实验后就会疲劳^[1]。

一个设计良好的循环不仅仅是将智能体包裹在while-true循环中。它需要三个关键部分：一个根据测试、指标或构建结果等可衡量标准对每次尝试进行评分的验证器；记录尝试、失败和剩余工作的持久化状态；以及在目标达成或预算耗尽时终止的停止条件^[1]。更微妙的要求是必须有约束机制，防止智能体操纵自己的评分。Karpathy的autoresearch在结构上强制执行这一点：智能体只能编辑train.py，禁止触碰prepare.py中的评估工具，因此无法改写自身被评分的测试^[1]。Elliot Smith的压缩实验从另一角度展示了同样的纪律——他依赖Rust的类型系统强制执行诸如不修改函数签名等隐式约束，并使用单元测试验证压缩-解压缩的往返过程^[2]。

这种模式有实际成果。Karpathy的autoresearch在两天内运行了700次实验，保留了20项真实改进，使GPT-2训练速度提升了11%，从2.02小时缩短至1.80小时^[1]。Shopify的CEO Tobi Lutke报告称，在内部模型上经过37次通宵实验后取得了19%的提升^[1]，而双层Autoresearch的外层元循环相比仅内层循环，使验证的每字节比特数下降了五倍（减少0.045 vs. 减少0.009），且两级使用相同的LLM^[4]。但这些实验也暴露了目标设定不当的脆弱性。在Smith的Rust LZSS运行中——大约两周内进行了十次迭代，每次成本约四美元^[2]——300秒的时间上限可能过于宽松，导致智能体仅优化压缩率而忽略速度，这是Smith所称的“奖励黑客”失败模式，他将其与Mitchell Hashimoto所说的‘智能体精神病’联系起来^[2]。

构建者社区对循环工程是否是一门真正的学科还是昂贵的流行语存在公开分歧。最强烈的担忧是成本：自主循环可能迅速烧毁API令牌预算，因为陷入困境的智能体会递归地将完整的聊天记录和终端日志重新输入上下文，消耗大量令牌却一无所获——最尖锐的说法称之为‘财务噩梦’。这对应于另一处指出的技术限制：像文件压缩大小这样快速、干净的指标无法推广到转换率等嘈杂的现实世界目标，后者需要长时间采样窗口，并带来代理相关性风险^[2]。即使运行良好的循环也无法完全消除人类——循环可能达到停止条件但仍出错，因此仍需有人在合并前检查最后一次提交。这种重构将人类提升到更高层次，但并未将其彻底移除。