Thinking Machines Lab 发布 Inkling 开源权重模型
TECH

Thinking Machines Lab 发布 Inkling 开源权重模型

41+
Signals

战略概览

  • 01.
    Thinking Machines Lab 于 2026 年 7 月 15 日发布了 Inkling,这是一款拥有 9750 亿参数的专家混合(Mixture-of-Experts)Transformer 模型,每次激活 410 亿参数,从零开始在 45 万亿个文本、图像、音频和视频数据 token 上进行预训练,上下文窗口为 100 万个 token。
  • 02.
    Inkling 在 Artificial Analysis 智能指数中首次亮相即排名第 41 位,成为排名最高的美国开源权重模型,超越了 Nvidia Nemotron 3 Ultra(第 38 名)和 Gemma 4 31B(第 29 名),同时在 Terminal Bench 2.1 上实现同等性能所使用的 token 数量仅为 Nemotron 3 Ultra 的三分之一左右。
  • 03.
    该模型采用 Apache 2.0 许可证,权重发布在 Hugging Face 上,主要定位为通过 Thinking Machines 的 Tinker 平台进行企业级微调的基础模型——桥水联合基金(Bridgewater Associates)已利用该模型在顶级专有竞品约十四分之一的成本下,实现了 84.7% 的金融推理准确率。
  • 04.
    Thinking Machines 明确表示,Inkling '并非目前可用的最强模型,无论是开源还是闭源',此次发布被定位为定制化的基础,而非追求基准测试排名的旗舰产品。

定制化飞轮:为何 Thinking Machines 押注而非原始性能

Thinking Machines 在发布时做出了一个不同寻常的选择:他们公开发布 Inkling,并明确声明其并非当前最强的模型,无论是闭源还是开源。这并非虚假谦虚——而是对产品实际销售内容的有意重新定位。Tinker 平台在 Inkling 发布前八个月推出,是收入引擎。Inkling 是燃料。每一家在 Tinker 上微调 Inkling 的企业都会生成训练数据、反馈循环和平台锁定效应,而这种效应是与 OpenAI 或 Anthropic 的托管 API 关系无法复制的。[1]

桥水基金的案例研究以数字形式最清晰地表达了这一论点。桥水微调后的 Inkling 变体在金融推理任务上达到了 84.7% 的准确率——这是一个特定领域的基准,通用模型无法集中优化——成本仅为领先专有替代方案的约十四分之一。[2]其含义是结构性的:随着领域特异性增强,微调后的开源模型与通用闭源模型之间的差距会扩大。Thinking Machines 押注的是,大多数高价值的企业 AI 工作都是领域特定的,而能够围绕强大开源基础提供最佳微调基础设施的公司,将比任何追逐通用智能排行榜榜首的公司捕获更多的企业价值。

发布声明立即引发了高参与度的回应。Thinking Machines 的官方帖子和 Mira Murati 的个人公告在最初几小时内共同获得了数万次点赞和数百条回复。在 YouTube 上,早期报道偏向于动手评测和架构解析,Hugging Face 官方频道和独立评测者均注意到该模型作为微调基础而非旗舰基准参赛者的不寻常定位。

MoE 架构与可控推理:Inkling 内部的技术押注

Inkling 在效率上优于同类开源权重模型并非偶然——而是特定架构选择的结果。这款 66 层仅解码器的 Transformer 使用稀疏专家混合(MoE)架构,每层有 256 个路由专家和 2 个共享专家,但每个 token 仅激活 6 个路由专家。这意味着 9750 亿参数总数是一个理论容量;实际推理计算量对应的是 410 亿激活参数,这正是 Inkling 在 Terminal Bench 2.1 上实现同等性能时所用 token 数量仅为 Nvidia Nemotron 3 Ultra 约三分之一的原因。[3]

可控推理努力系统是一个较少被讨论但意义重大的架构特性。开发者可以传入一个从 nonemaxreasoning_effort 参数,有效选择推理时的每 token 计算预算。这在大多数竞争性开源权重模型中不可用,并对企业部署产生直接成本影响:文档分类任务可以以 minimal 模式运行,而复杂金融分析则以 highxhigh 模式运行。通过超过 3000 万次 rollout 的异步强化学习(RL)训练,并采用混合 Muon/Adam 优化器,进一步强化了这一能力。[4]从零开始对文本、图像、音频和视频进行原生多模态预训练——而非将视觉功能打补丁到纯文本基础模型上——意味着音频和图像表示共享相同的 token 空间和注意力层,这正是 Murati 所描述的精细交互建模能力的基础。

基准测试结果在实践中反映了这些架构选择。Inkling 在 AIME 2026 上得分为 97.1%,在 GPQA Diamond 上为 87.2%,在 SWE-bench Verified 上为 77.6%,在 VoiceBench 上为 91.4%,在 FORTRESS 对抗性安全评估上为 78.0%——在最后一项指标上,其得分在同类开源权重模型中最高。[4]这些分数使 Inkling 在大多数维度上领先于 Nemotron 3 Ultra,同时每项任务所需的推理计算量显著更少。

美国开源权重竞赛:Inkling 作为对 DeepSeek 和 Kimi 的回应

Inkling 发布的竞争背景既是商业的,也是地缘政治的。中国实验室——尤其是 DeepSeek 和 Kimi——在 2025 年和 2026 年的大部分时间里主导了开源权重排行榜,发布了在 Apache 类许可证下具有强大基准性能的模型,西方企业可以自行托管。Inkling 作为首个在美国人工智能分析指数中达到第 41 名的美国开源权重模型进入市场,超越了 Nvidia 的 Nemotron 3 Ultra(第 38 名)和 Google 的 Gemma 4 31B(第 29 名)。[3]该排名特别针对美国本土模型,将 Inkling 定位为有数据主权要求或美国采购偏好的企业的本土替代方案。

Apache 2.0 许可决定是这一竞争定位的核心。Apache 2.0 允许商业使用、修改和再分发而无需支付版税,这与使 DeepSeek 发布具有颠覆性的宽松基准相同。Inkling 的后训练还整合了来自 Kimi K2.5 的合成数据,这一细节说明了能力如何迅速在开源权重生态系统中传播,无论其国家来源如何。[5]与 TogetherAI、Fireworks、Modal、Databricks 和 Baseten 在发布时的推理合作,表明其试图构建与中国开源权重模型快速企业采用相同的可访问生态系统——而无需组织自行管理 2TB+ VRAM(BF16)或 600GB VRAM(NVFP4)的基础设施以实现全规模托管。

开源权重的安全悖论:有力量却无补丁通道

Thinking Machines 的安全评估得出了一个准确但结构性令人不安的结论:Inkling '并未表现出超出当前开源权重生态系统已有水平的实质性风险提升'。这是一个有意义的安全声明,但它衡量的是相对于一个本身并非无风险的现有基准的风险。开源权重生态系统已经包含可以被微调用于有害目的的强能力模型;达到'不比现有模型更差'的标准,并未解决每个新的高能力开源权重发布为该基准累积增加的风险问题。[5]

更深层的结构性问题是,Apache 2.0 许可与角色扮演和间接提示带来的残余风险相结合,创造了一种专有模型提供商可以避免的组合:一旦 Inkling 的权重公开,Thinking Machines 就没有集中式的补丁通道。GPT-4o 或 Claude 中发现的漏洞可以在几小时内通过服务器端缓解。而 Inkling 权重中的漏洞则需要发布新模型,或依赖下游部署者实施防护措施——两者均无法保证。联合创始人 Lilian Weng 的存在表明这一权衡是清醒做出的,模型卡中明确承认角色扮演和间接提示风险,反映了真正的透明度。[5]通过开源许可最大化采用与对已部署实例维持有意义的安全治理之间的紧张关系尚未解决,并且随着微调后的 Inkling 变体在 Thinking Machines 无可见性的企业部署中扩散,这一问题将变得更加尖锐。

历史背景

Murati 在担任 OpenAI 首席技术官约六年后辞职,为创立 Thinking Machines Lab 铺平了道路。
Thinking Machines Lab 由 Murati、John Schulman、Lilian Weng、Barret Zoph、Luke Metz 以及其他前 OpenAI 员工创立。
以 120 亿美元估值完成 20 亿美元种子轮融资——当时创下了风险投资史上最大种子轮融资纪录——由 a16z 领投,Nvidia、AMD、Cisco 和 Jane Street 参与。
Tinker 微调平台作为 Thinking Machines 的首款产品推出,建立了 Inkling 现在所服务的商业渠道。
联合创始人 Barret Zoph 和 Luke Metz 离开 Thinking Machines Lab 并重返 OpenAI,研究员 Sam Schoenholz 也一同返回。
宣布与 Nvidia 建立合作关系:提供 1 吉瓦计算能力和多年期 Vera Rubin 加速器供应协议,为大规模训练 Inkling 提供了硬件基础。
Inkling 在 Hugging Face 上以 Apache 2.0 许可发布完整权重,并通过 TogetherAI、Fireworks、Modal、Databricks 和 Baseten 提供 API 访问。

关键关系图

关键玩家
主题

Thinking Machines Lab 发布 Inkling 开源权重模型

MI

Mira Murati

Thinking Machines Lab 的首席执行官兼创始人;前 OpenAI 首席技术官,2024 年 9 月离职。该公司的战略愿景——将开源权重作为企业基础设施而非通用人工智能——直接源于她的领导。

JO

John Schulman

Thinking Machines Lab 首席科学家;OpenAI 联合创始人,拥有深厚的强化学习专业知识,领导了后训练过程,包括超过 3000 万次 rollout 的异步 RL 机制,使 Inkling 具备可控推理能力。

LI

Lilian Weng

Thinking Machines Lab 聁合创始人;前 OpenAI 研究副总裁(安全)。她的参与塑造了 Inkling 的安全评估立场,包括确定该模型在现有开源权重生态系统之外未呈现实质性风险提升。

AN

Andreessen Horowitz (a16z)

20 亿美元种子轮融资的领投方,估值 120 亿美元——当时创下风投史上最大种子轮融资纪录——提供了资本支持,使公司能够从零开始在 45 万亿 token 上训练,并与 Nvidia 建立硬件合作。

NV

Nvidia

战略投资者和硬件合作伙伴;2026 年 3 月达成的协议提供了 1 吉瓦计算能力和多年期 Vera Rubin 加速器供应协议,使一家成立两年的公司能够训练 9750 亿参数的模型成为可能。

BR

Bridgewater Associates

Tinker 的锚定客户,其微调后的 Inkling 变体为定制化论点提供了最清晰的证明:在顶级专有模型约十四分之一的成本下实现了 84.7% 的金融推理准确率。

事实来源

5 条引用
  1. [1] Thinking Machines amps up its bet against one-size-fits-all AI with its first open model, Inkling
  2. [2] Introducing Inkling - Thinking Machines Lab
  3. [3] Thinking Machines has released Inkling, the new leading U.S. open-weights model
  4. [4] Thinking Machines Lab Releases Inkling: A 975B-Parameter Open-Weights Multimodal MoE with 41B Active Parameters and Controllable Thinking Effort
  5. [5] Inkling Model Card - Thinking Machines Lab

来源文章

Top 5

THE SIGNAL.

Analysts

我们彼此之间的互动非常丰富。我们的互动中包含大量信息——当我们沉默时,当我们思考时,当我们打断对方时。交互模型能够捕捉所有这些细微差别。

Mira Murati
首席执行官,Thinking Machines Lab

使用专有 AI 模型的企业"实际上支付了两次:一次是订阅费用,另一次是交出业务知识",这些知识会被吸收进未来版本——而 Inkling 的开源权重架构正是为了打破这种动态。

Satya Nadella
首席执行官,Microsoft

"大多数生产级 AI 工作将转向私有或开源替代方案"——Inkling 的 Apache 2.0 发布强化了这一趋势。

Clem Delangue
首席执行官,Hugging Face
The Crowd

Today, we are introducing Inkling. Inkling reasons efficiently across text, image, and audio modalities. We are making the full weights available. Available today for fine-tuning on Tinker. Play with it in the Inkling Playground.

@@thinkymachines8931

Our first model, Inkling. Trained from scratch, weights are open, fine-tunable on Tinker today.

@@miramurati7626

Mira Murati's Thinking Machines Lab debuted its first AI model, Inkling. The blog post aims to manage expectations, treating Inkling as a stake in the ground for the company's future progress. 'It is not the most performant model available today, closed or open.'

@@haydenfield13
Broadcast
Inkling First Look & Test - Thinking Machines 1T Parameter Open Model!

Inkling First Look & Test - Thinking Machines 1T Parameter Open Model!

New Model: Inkling by Thinking Machine on Hugging Face

New Model: Inkling by Thinking Machine on Hugging Face

Inkling by Thinking Machines: Benchmarks, Architecture & Real Tests

Inkling by Thinking Machines: Benchmarks, Architecture & Real Tests

Thinking Machines Lab 发布 Inkling 开源权重模型 — AI 新闻 | Agentic Brew