Thinking Machines Lab 发布 Inkling 开源权重模型

Inkling 的设计公开承认借鉴了 DeepSeek V3，但称其为复制并不准确 ^[5]。其底层架构是一个仅解码器的 66 层 Transformer，每 MoE 层包含 256 个路由专家和 2 个共享专家，每个 token 激活 6 个路由专家 ^[2]。正是这种专家路由密度，使得在 9750 亿总参数下仍能实现每 token 410 亿激活参数。与以往 MoE 设计的关键区别在于其基于 sigmoid 的路由器，采用无辅助损失的负载均衡机制，即训练过程中不惩罚路由损失——这是 DeepSeek V3 首创的技术，Thinking Machines 对其进行了适配 ^[2]。

注意力机制采用滑动窗口与全局注意力的交错结构，比例为 5:1，在大多数序列位置上以效率换取全上下文计算能力 ^[2]。多模态在 token 层级融合，无需独立编码器塔：音频以 dMel 谱图形式输入，图像通过四层 hMLP 编码器转换为 40x40 像素块，直接馈入同一 token 流 ^[2]。训练使用混合优化器——Muon 用于大矩阵权重，Adam 用于其余所有参数——在 NVIDIA GB300 NVL72 系统上完成 ^[3]。结合源自成熟中国 MoE 模型的架构与美国构建的硬件基础设施，该模型在不到 9 个月内从零完成训练 ^[1]。

Inkling 发布中最具体的数据点来自与桥水基金（Bridgewater Associates）的合作，其微调版本在金融推理基准测试中以不到专有方案十分之一的成本实现了 84.7% 的准确率 ^[7]。这不是 Thinking Machines 内部生成的宣传数据，而是全球最大对冲基金之一在真实企业部署中取得的结果，其任务中准确率失误将带来实际财务后果。成本比率比准确率更重要：如果一个微调后的开源权重模型能以不到专有 API 十分之一的成本达到此准确率，受监管金融机构的决策将明确转向自托管。

这正是 Holger Mueller 所称的 Thinking Machines 最大创新——并非模型本身，而是从开源权重到 Tinker 微调再到领域特定部署的完整流程 ^[7]。Futurum 分析师指出，从按 token 收费的 API 模式转向企业可控的基础设施，是其核心经济论点 ^[7]。Apache 2.0 许可证消除了商业微调和再分发的法律障碍，这是专有模型无法比拟的。但需注意基础设施要求：BF16 推理至少需要 2TB 聚合显存——相当于 8 块 NVIDIA B300 或 16 块 H200 GPU，而 NVFP4 量化版本将需求降至约 600GB ^[2]。对于缺乏此类硬件的组织，五家推理 API 合作伙伴（TogetherAI、Fireworks、Modal、Databricks、Baseten）提供了无需资本支出的访问途径 ^[3]。

迄今为止，开源权重的前沿模型主要由中国实验室主导：DeepSeek、Moonshot AI（Kimi）等。西方企业——尤其是在金融、国防和医疗领域——在部署源自中国的模型时面临采购和监管阻力，无论其许可证多么宽松。Inkling 明确定位为美国开发、采用 Apache 2.0 许可的替代方案，使受监管企业可在无地缘政治风险的情况下自托管 ^[6]。分析师 Pareekh Jain 直接指出：Inkling 为组织提供了可在自有基础设施上部署的美国开发开源权重选项 ^[6]。X 平台上的社区初步反应偏向 ML 基础设施——vLLM 项目宣布即日支持，表明开源工具生态将 Inkling 视为生产级基础设施，而非研究产物。

Inkling 发布中蕴含的讽刺在于，其架构源自 DeepSeek V3，且后训练数据部分由 Moonshot AI 的 Kimi K2.5 生成 ^[1]。Thinking Machines 公开承认这一点，并表示计划在下一代模型中将整个后训练流程内化 ^[1]。因此当前版本处于过渡状态：美国训练、美国授权，但在架构和数据谱系上仍与中国开源权重生态相关，而该生态正是其旨在取代的对象。对于有严格数据溯源要求的企业，这一细微差别可能影响采购决策，尽管 Apache 2.0 许可和美国起源已解决主要合规问题。在 YouTube 上，早期独立评测将此次发布视为美国实验室能否真正挑战由中国主导的开源权重排名的直接测试——而 Artificial Analysis 的基准数据现已部分回答了这一问题。

One of Inkling's less-publicized features is a controllable reasoning effort parameter, adjustable from 0.2 to 0.99 via system message ^[2]. This allows users to set a speed-accuracy tradeoff at inference time without reloading or switching models - useful for agentic pipelines where some subtasks require deep reasoning and others require fast, cheap completions. The practical implication is visible in one benchmark: Inkling averages 25,000 output tokens per agentic task, compared to 37,000-43,000 tokens for competing models ^[4]. Fewer output tokens at equivalent task quality means lower inference cost per completed task, which compounds at enterprise scale.

This efficiency claim is distinct from raw benchmark scores. On the Artificial Analysis Intelligence Index, Inkling scores 41 - 3 points above Nvidia's Nemotron 3 Ultra at 38, which had previously held the top US open-weights position ^[4]. Task-specific benchmarks include AIME 2026 at 97.1%, GPQA Diamond at 87.2%, SWE-Bench Verified at 77.6%, VoiceBench at 91.4%, and MMMU Pro at 73.5% ^[3]. The Tinker API pricing is $1.87-$3.74 per million input tokens and $4.68-$9.36 per million output tokens - meaningfully below frontier proprietary model pricing for organizations that can operate within the 256K context window the Tinker API exposes (versus the 1M context available on the open weights) ^[3].

Alongside the flagship 975B model, Thinking Machines released a preview of Inkling-Small - a companion model with 276B total parameters and 12B active parameters, trained with a similar recipe and targeting low-latency workloads ^[1]. Weights for Inkling-Small are not yet publicly available, making it a preview rather than a full release. The two-model approach mirrors the tiered strategies used by Anthropic (Haiku-Sonnet-Opus), Google (Flash-Pro), and Meta (8B-70B-405B Llama variants): a flagship model that sets capability benchmarks and a smaller model optimized for production deployments where latency and cost per call matter more than peak accuracy.

For Thinking Machines, the small model is strategically important because the infrastructure barrier to self-hosting the full Inkling is significant. At 12B active parameters, Inkling-Small targets the deployment tier where most production agentic workloads actually run - not the benchmark tier where frontier models compete. If Inkling-Small achieves strong performance at that scale, it significantly expands the addressable enterprise market beyond organizations with 2TB VRAM clusters. The timing of the full weight release for Inkling-Small will be a key indicator of how quickly Thinking Machines can convert benchmark interest into deployed production adoption ^[1].