循环环形变换器（Recurrent Looped Transformer，RLT）架构

RLT的核心机制变化发生在提示与模型响应之间的衔接处。因果编码器首先从输入中构建全局的键值记忆。随后，循环解码器将该记忆与滑动窗口注意力结合，并关键地引入其自身前一最终隐藏状态的反馈——而当模型从读取提示过渡到生成响应时，该状态永远不会被重置^[1]。这种相同的循环状态转换旨在统一应用于预训练、监督微调、采样以及当前策略的强化学习回放过程，设计者认为这可以消除通常因训练方式与服务方式不一致而产生的偏差^[2]。这种统一是论文明确提出的目标；但它在真实训练运行中是否真正成立，尚未经过检验。

参考配置采用48层编码器与48层解码器并行运行，每个token执行96个逻辑计算块，且由于解码器状态在整个序列中累积而非按token重置，经过t个token后，所经历的时间计算路径增长至48*t个解码器块^[3]。这正是称RLT深度为‘无限’的数学依据——但这一说法的实际范围比字面含义更窄。它描述的是随着对话延长而不断延伸的计算路径，而非单个token内部发生无限量的计算^[4]。同日一篇中文技术解析文章也提出了相同警示，指出根本性的效率问题——即额外的串行计算和非重置的服务状态是否真的物有所值——仍需实证检验，仅靠架构描述无法回答。

外界对RLT的反应明显分裂为‘表述’与‘证据’两派。Yifan Zhang本人在发布声明中使用了极端措辞，宣称迎来了‘超级智能的黎明’，而底层报告却承认此次发布不含任何代码、训练检查点或基准结果^[1]。进一步传播该消息的报道及讨论帖中出现了持续质疑：一位Hacker News评论者批评这种表述方式是将未经验证的想法‘当作已实现的突破来呈现’，其他人则直接发问是否存在任何基准测试，或该架构是否真能超越此前的变换器-RNN混合模型^[5]。类似的怀疑也在其他平台针对该论文的评论中独立出现，其中得票最高的回复直截了当地指出，该提案未报告任何实际实验、结果或基准数据，其他回复则称之为‘目前只是一幅漂亮的架构草图’。在这些场合中，没有任何评论者主张该架构按当前设计可能优于标准的仅解码器变换器。

RLT并非孤立出现。每token多次重复使用变换器权重的想法可追溯至2018年的Universal Transformers，并在2025年因Huginn风格的循环深度模型扩展至35亿参数，以及字节跳动开源的Ouro模型而重新获得动力，后者将48个变换器块各循环四次，共完成192次块应用^[6]。RLT在此脉络上的新增贡献在于在整个token序列上进行循环，使状态穿越提示-响应边界，而非仅在单个token的前向传播中反复循环。这一区别确实存在，但它出现在一场活跃且有争议的辩论背景下——即深度究竟对前沿能力有多大影响。OpenAI的Jakub Pachocki曾指出，当今前沿模型的计算图深度并未显著超过GPT-4，提醒人们架构深度的主张仍需以实际能力为衡量标准，而非仅看设计意图^[7]。