Opus 4.6 在消费级硬件上本地运行

推动这一话题的推文和帖子描述为‘在本地运行 Opus 4.6’，但这并非事实。2026 年 8 月 14 日发布的实际上是 Qwen3.8-27B，这是阿里巴巴通义实验室推出的一款 277.8 亿参数的开源模型，采用 Apache 2.0 许可证，体积足够小，可在无网络连接的笔记本电脑上完全运行 ^[1]。它被定位为性能接近 Claude Opus 4.6，而非 Opus 本身在消费级硬件上运行 ^[2]。基准测试结果呈现的是复杂局面，而非全面胜利：根据 explainx.ai 汇总的五项重叠测试，Qwen3.8-27B 仅在 SWE-bench Pro（61.7 对 53.4）一项测试中击败 Opus 4.6 Max，在 GPQA Diamond（89.2 对 91.3）和 Humanity's Last Exam（30.8 对 40.0）等测试中均落后 ^[3]。一款 27B 模型在某项编码基准上接近闭源前沿模型确实值得关注 —— 但这与‘Opus 4.6 在笔记本上运行’是两个不同的说法。

本事件的核心速度数据 —— 单张 RTX 5090 每秒 200 多个 token —— 来自 SGLang 在发布日的基准测试，该结果通过 NVFP4 量化和推测解码在约 16.5GB 权重上实现 ^[4]。大多数用户在家中运行模型时无法达到这一速度。社区使用通用 GGUF 量化在相同 RTX 5090 上的测试结果远低于此：基础 Q4 量化下约为每秒 73 个 token，启用推测解码后提升至约 87 个 token/秒，Q5 量化等级下达到约 119 个 token/秒 ^[4]。这一差距也体现在另一个‘本地 Opus’的说法中：当一位爱好者在配备 5 张 RTX 3090 的设备上本地运行 DeepSeek V4 Flash 0731（一款声称达到‘Opus 级智能’的 2840 亿参数模型）时，解码速度仅为每秒 20 至 30 个 token ^[5]。本地运行接近前沿水平的推理确实存在，但头条吞吐量数据依赖于大多数用户无法复制的优化设置。

社区测试将本地运行的 Qwen 模型与云端托管的 Claude Opus 4.6 在实际编码任务中进行对比（而非静态基准表），发现 Opus 在直接对比中仍更快，即使面对双 RTX 3090 的本地设置，任务完成时间也大约只有后者的一半或更少，本地模型的吞吐量处于每秒 22 至 50 个 token 的范围。尽管评测者仍认为本地模型的输出质量具有竞争力，但社交媒体上最响亮的帖子所暗示的速度优势在实际编码对比中并未显现。

Claude Opus 4.6 于 2026 年 2 月 5 日发布，此后已被 Opus 4.7 和 Opus 4.8 两次超越 ^[6]。‘本地模型击败 Opus’的说法已成为一种反复出现的现象，而非一次性事件。2026 年 4 月，开发者 Simon Willison 在搭载 M5 芯片的 MacBook Pro 上通过 LM Studio 本地测试了阿里巴巴的 Qwen3.6-35B-A3B，认为其在一项特定创意基准测试中击败了 Claude Opus 4.7 —— 即生成一只骑自行车的鹈鹕的 SVG 图像 ^[7]。2026 年 8 月，阿里巴巴又推出了更大的配套模型 Qwen3.8-Max（总参数 2.4 万亿），宣称其在 Vals Index 上与 Opus 4.7 打成平手，且每次测试成本低约 2.3 倍 —— 但仅加载其权重就需要超过 1TB 内存和至少 8 张 H100 或 B300 GPU，与消费级硬件完全无缘 ^[8]。每次发布都在纸面上缩小了与闭源前沿模型的差距；但每次也都伴随着在病毒式传播中被忽略的细节问题。

除了硬件限制外，分析师指出，基准测试本身的可靠性也存在问题：Qwen 的自报分数和引用的 Opus 数据来自不同的智能体框架、温度设置和提示配置，使得直接比较难以验证 —— 并引发怀疑，即某些模型可能专门针对排行榜优化，而非提升通用能力 ^[3]。这种怀疑在社区对发布的反应中也表现得非常明显：在 Reddit 上，热门评论者认为该模型在实践中表现更接近 Anthropic 的中端模型 Sonnet 而非 Opus，并指出无论基准分数如何，将一款 27B 的开源模型与一款据称拥有数万亿参数的闭源模型进行比较都是误导性的。