NVIDIA 发布用于企业 AI 代理的 Nemotron 3.5 Super VL 和 Bolt
TECH

NVIDIA 发布用于企业 AI 代理的 Nemotron 3.5 Super VL 和 Bolt

63+
Signals

战略概览

  • 01.
    NVIDIA 于 2026 年 10 月 15 日发布了 Nemotron 3.5 Super VL,这是一款开源的 1200 亿参数多模态混合专家模型,每 token 激活 120 亿参数,专为始终在线的企业代理设计。
  • 02.
    Super VL 能够读取文档、图表、图像、网页和视频,在多模态代理任务上的准确率可媲美 NVIDIA 最大的推理模型,而参数量仅为后者的五分之一左右。
  • 03.
    NVIDIA 同时发布了 Nemotron 3.5 Bolt 74B-A9B,这是一款 740 亿参数(90 亿激活)的边缘模型,采用原生 2 位量化技术,可在 24GB 内存中运行,适用于 RTX Spark 和 DGX Spark 上的本地代理工作负载;4GB 的 Bolt E4B 模型将于 2026 年 10 月 23 日发布。
  • 04.
    Super VL 拥有 100 万 token 的上下文窗口;Bolt 74B-A9B 拥有 256k token 的上下文窗口。
  • 05.
    Super VL 在预训练和持续预训练阶段共使用了约 26 万亿 token 进行训练,随后通过强化学习在约 380 万样本上进行了后训练。
  • 06.
    Super VL 和 Bolt 74B-A9B 现已在 Hugging Face、OpenRouter、ModelScope 和 NVIDIA NIM 上发布,并在 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM 中提供运行时支持。
  • 07.
    Cline、Factory AI 和 Hermes Agent 是集成 Nemotron 3.5 系列的代理框架之一,由 NVIDIA 的开源安全与管理堆栈 NemoClaw 支持,适用于始终在线的代理。
  • 08.
    Super VL 在四个 Blackwell B200 GPU 上处理 10 万个 token 的提示时,每秒可生成约 625 至 630 个输出 token,首 token 返回时间为 1.8 秒,并以 NVFP4 量化格式发布,其得分与 BF16 权重相差不到 0.1 分。
  • 09.
    这些模型采用 NVIDIA 的 OpenMDW 许可证发布,允许商业使用、微调和再分发;NVIDIA AI Enterprise 支持的定价为每 GPU 每年 4,500 美元,并提供免费但限速的开发 API。

真正的产品是 11 小时的微调,而非基础模型

NVIDIA 发布了 Super VL 这款 1200 亿参数的开源混合专家模型,但真正推动企业自动化工作性能飞跃的并非 NVIDIA 自身的预训练——而是第三方进行的定向后训练。Prime Intellect 构建了一个基于 AutomationBench 的 2,500 项任务数据集,并在 128 个 GB200 GPU 上运行强化学习(GRPO)约 11 小时,将 Super VL 在 AutomationBench-AA 上的准确率从 34.0% 提升至 57.7% [1],相对提升近 70%,仅耗时约 1,450 GPU 小时,而非数月的预训练。Prime Intellect 自身的表述明确指出了这一点:任务质量,而非额外的训练步骤,是进一步提升的主要瓶颈 [1]。

Mercor 使用 Harvey(法律)、Cognition(软件工程)和 Ramp(会计)进行的并行后训练也得出了类似结论:仅数百个特定领域任务就使 Super VL 的法律评分从 45.1 提升至 51.8%,动议起草得分提高了 23.2 分,而软件工程 Pass@1 从 26.6% 提升至 34.7% [2]。VentureBeat 的提醒是必要的:当经过后训练的变体在特定任务上击败 Claude Opus 5 或 GPT-6.1 Sol 时,这证明的是廉价专业化流水线的有效性,而非基础 Super VL 模型整体更优 [3]。NVIDIA 的开源权重策略看起来更像是一种为各企业打造最廉价专业化底座的尝试,而非争夺通用排行榜的领先地位。

NVIDIA 的宣传发布遭遇本地模型社区的质疑

此次发布的几乎所有社交媒体传播都来自 NVIDIA 自身账号及其硬件合作伙伴,因此公众情绪看似一致积极——实际上主要是 NVIDIA 在自说自话。在 r/LocalLLaMA 上,这些模型可以被实际下载和测试,反应则更为分化:热门帖子的评论公开质疑 NVIDIA 在开源模型方面的过往记录,而另一些人则反驳称,Nemotron 的发布更应被理解为供他人构建的微调“画布”,而非开箱即用的成品聊天产品。

这种质疑有数据支持。独立社区基准测试显示,Bolt 74B-A9B 在 GPQA-Diamond 和 Terminal Bench 2.1 上均落后于 Qwen 的 270 亿级竞争模型,尽管 Artificial Analysis 单独将其在 Intelligence Index 上列为所有 1000 亿以下模型中的第四名,并在其权重类别中位列美国制造模型之首 [4]。两者同时成立:Bolt 在其狭义的“最佳美国开源模型”类别中领先,但整体上仍落后于最强的开源权重竞争者。这一差距呼应了该模型系列早期的信号——作为 3.5 系列首款发布的 Nemotron 3.5 Lightning,尽管运行快速且成本低廉,但在一项包含 40 多个模型的会计基准测试中排名垫底 [5],这提醒我们,综合指数上的效率提升并不能自动转化为任务级的理解能力。

模型发布时机与 GPU 发布同步

Bolt 74B-A9B 最核心的工程突破——原生 2 位量化技术,将 740 亿参数模型压缩至 24GB 内存——绝非巧合。它专为在 RTX Spark 和 DGX Spark 硬件上运行而设计 [6],而第二款更小的 Bolt E4B 变体(面向语音助手和边缘设备)在主发布后仅一周即推出 [7]。

结合 NVIDIA 自身的公告,该模型家族已在 Hugging Face、OpenRouter、ModelScope 和 NVIDIA NIM 上即时提供,并在 Ollama、LM Studio 和 vLLM 中获得首日运行支持 [8],此次发布更像是一场硬件营销:一款免费、开源的模型家族,旨在让消费者和工作站级 GPU 看起来无需依赖云即可运行真正有用的企业代理。The Decoder 将 Super VL 描述为“专为持续运行企业 AI 代理而构建” [9],突显了真正的卖点——持久性和本地运行时间,而非排行榜上的领先地位,才是 NVIDIA 真正在销售的东西。

一个能调查自身 AI 账单的代理

NVIDIA 选择发布的最具启发性的演示并非编码或视觉基准测试——而是 Super VL 诊断自身问题类别的能力。在 NVIDIA 的技术演示中,该代理读取仪表板截图和扫描的价目表,追踪到 AI 账单上涨 30% 的原因是推理 token 使用量激增,编写 Python 代码比较路由选项,并起草了一份预计每月节省约 10 万美元的方案,同时确认整个流程可在单个 DGX Spark 上运行。

这种自我指涉的设定——AI 代理审计 AI 成本——比任何单一基准分数更真实地预示了 NVIDIA 对企业代理经济走向的预期。公司对 Super VL 的定位是,其准确率可媲美其最大推理模型,而参数量仅为五分之一左右 [9],这一效率主张正是为了让“始终在线”的代理足够便宜,能够持续运行而非按需调用。然而,这一成本计算是否能在独立第三方审计中成立,而非仅限于 NVIDIA 自身的演示,目前尚未经过验证。

历史背景

NVIDIA 发布了 Nemotron-3 8B,这是一款基于其 NeMo 框架的早期企业级模型,标志着 Nemotron 系列的开端。
NVIDIA 发布了多语言模型 Nemotron-4 15B,随后于同年 6 月发布了更大的 Nemotron-4 340B。
NVIDIA 推出了 Nemotron 3 系列(Nano、Super、Ultra),采用混合 Mamba-Transformer 混合专家架构,专为代理式多步骤工作负载设计。
NVIDIA 发布了 Nemotron 3.5 Lightning,这是一款 300 亿参数(30 亿激活)的 MoE 模型,基于 Nemotron 3 Nano Base 初始化,是 3.5 系列的首款产品。
NVIDIA 发布了基于 Nemotron 3 Super 初始化的 Nemotron 3.5 Super VL 和 Bolt 74B-A9B,距离 Lightning 发布仅 65 天。
Nemotron 3.5 Bolt E4B(4GB 占用空间,面向语音助手和边缘设备)计划即将上线。

关键关系图

关键玩家
主题

NVIDIA 发布用于企业 AI 代理的 Nemotron 3.5 Super VL 和 Bolt

NV

NVIDIA

Nemotron 3.5 系列(Super VL、Bolt 74B-A9B、Bolt E4B、Lightning)的开发者与发布者;制定 OpenMDW 许可协议及企业支持定价,并协调其 RTX/DGX Spark 硬件的发布节奏。

PR

Prime Intellect

在基于 AutomationBench 建模的 2,500 项企业自动化数据集上对 Super VL 进行后训练,使 AutomationBench-AA 准确率在 128 块 GB200 GPU 上约 11 小时内从 34.0% 提升至 57.7%。

ME

Mercor

联合领域合作伙伴 Harvey、Cognition 和 Ramp 对 Super VL 进行后训练,使其专精于法律、软件工程和会计任务,并发布各领域经评测的评分标准提升结果。

HA

Harvey, Cognition, Ramp

提供法律(Harvey)、软件工程(Cognition)和会计(Ramp)领域任务数据的领域合作伙伴,供 Mercor 评估并提升 Super VL 的专业化性能。

SC

Scale AI, EY, AfterQuery/Hebbia, AI21, Alice, Ramp, Dream, Lila Sciences, R1

早期企业采用者,将 Super VL 定制用于供应商信用代理、并购尽职调查、信贷协议分析和网络安全韧性等任务。

AT

Atlassian, CrowdStrike, Dassault Systèmes, Perplexity, Salesforce, Synopsys

平台集成商,将该模型集成至现有的企业软件和智能体产品中。

NE

Nemotron Coalition (Mistral AI, Thinking Machines Lab, Perplexity, Black Forest Labs)

作为 Nemotron 3.5 整体项目中的开发协作方和生态系统伙伴被提及。

CL

Cline, Factory AI, Hermes Agent, OpenClaw

与 Nemotron 3.5 模型集成的智能体框架和运行环境,支持长时间、持续运行的智能体执行。

AR

Artificial Analysis

独立基准评测机构,在其 Intelligence Index 上对 Super VL(26 分)和 Bolt 74B-A9B(21.4 分)进行评分,并发布与前代模型的吞吐量和效率对比结果。

事实来源

9 条引用
  1. [1] Nemotron 3.5 Super VL
  2. [2] Mercor x NVIDIA Nemotron 3.5
  3. [3] NVIDIA's new open Nemotron 3.5 Super VL with post-training beats Claude Opus 5, GPT-6.1 Sol on specialized task benchmarks
  4. [4] Nemotron 3.5 Super and Bolt
  5. [5] Nemotron 3.5 Lightning Accounting Benchmark
  6. [6] NVIDIA Nemotron 3.5 Super VL Release
  7. [7] NVIDIA launches Nemotron 3.5 Super VL and Bolt for AI agents
  8. [8] Nemotron 3.5 Super VL
  9. [9] Nvidia's Nemotron 3.5 Super VL is an open model built to run enterprise AI agents nonstop

来源文章

Top 5

THE SIGNAL.

Analysts

“在企业自动化基准测试中,进一步后训练提升的主要瓶颈是任务质量,而非额外的训练步骤。”

Prime Intellect
Nemotron 3.5 Super VL 的 AutomationBench 后训练合作伙伴

“企业自动化代理在执行前必须首先明确任务本身,这正是 AutomationBench 类任务测试的核心难点。”

Prime Intellect
Nemotron 3.5 Super VL 的 AutomationBench 后训练合作伙伴

“即使仅包含数百个任务的小型特定领域训练集,也能在未见过的企业工作中产生显著且可衡量的专业化提升。”

Mercor
特定领域后训练合作伙伴(法律、软件工程、会计)

“Super VL 经过领域专业化后训练的版本在特定任务上击败 Claude Opus 5 或 GPT-6.1 Sol,并不能证明基础模型整体更优。”

VentureBeat
记者分析
The Crowd

“Meet NVIDIA Nemotron 3.5 Super VL Our new open model combines reasoning and tool use with text, image, document, and video understanding for long-running AI agents. 120B total parameters with 12B active”

@@NVIDIAAI4275

“And this one fits into 24GB of memory. Introducing Nemotron 3.5 Bolt 24GB”

@@NVIDIAAI1596

“NVIDIA Nemotron 3.5 Bolt 24GB puts powerful local agents within reach. 74B-A9B parameters packed into 24GB of memory, balancing intelligence and speed while running alongside your apps. Optimized for RTX Spark and ready for your next project.”

@@NVIDIARTXSpark364

“NVIDIA Nemotron Bolt 3.5 74B A9B releases Oct. 15th”

@u/CulturalKing5623695
Broadcast
Introducing NVIDIA Nemotron 3.5 Super VL

Introducing NVIDIA Nemotron 3.5 Super VL

Build Visual AI Agents With NVIDIA Nemotron 3.5 Super VL

Build Visual AI Agents With NVIDIA Nemotron 3.5 Super VL

NVIDIA Nemotron-3.5 Bolt-74B-A9B Locally: It's Not Over

NVIDIA Nemotron-3.5 Bolt-74B-A9B Locally: It's Not Over