2026 年 10 月 15 日,英伟达(NVIDIA)发布开放多模态模型 Nemotron 3.5 Super VL,面向需要持续运行、执行多步骤任务的 AI 智能体工作流。官方博客称,该模型把推理、指令遵循、工具调用与文本、图像、文档、视频理解整合进同一个模型,从而不再需要单独部署视觉语言模型。本文从 AI 模型与算法视角解读这次发布。

发布概况

据英伟达官方博客与开发者博客,Nemotron 3.5 Super VL 于 2026 年 10 月 15 日发布,是 Nemotron 系列面向“始终在线(always-on)”智能体的开放模型;同批发布的还有面向本地英伟达系统的 Nemotron 3.5 Bolt。官方强调两者都面向智能体场景,而非单纯的对话模型,并把该模型定位为可定制、可自部署的开放权重选择。

架构与规模

该模型采用混合专家(MoE)架构,总参数量 1200 亿,每个词元激活约 120 亿参数,以在模型容量与推理效率之间取得平衡。官方称其把多模态理解与推理、指令遵循、工具使用整合进单一模型,减少了对多模型拼接的依赖。配合多词元预测(multi-token prediction)与上下文复用等推理优化技术,模型可在单张 GPU 上服务智能体任务。

吞吐与效率

英伟达称,在单张 GPU 上执行智能体任务时,Nemotron 3.5 Super VL 的吞吐量最高可达同规模其他开放模型的 5 倍。推理侧采用 LiLiCorr 投机解码(speculative decoding)与 NVFP4 量化(结合量化感知蒸馏),在包括 DGX Spark 在内的平台上进一步压低延迟与显存占用。对自建推理服务的团队,这类量化与解码优化直接决定了单位算力能支撑多少并发智能体请求。

客户后训练与效果

官方披露,Scale AI、Ramp 与 AI21 等组织已在 Nemotron 3.5 Super VL 之上做后训练,用于专门的工作流;官方给出的改善幅度包括推理成本最多降低 40 倍、延迟最多降低 10 倍、准确率提升约 40%。这些数字来自官方博客对合作方案例的描述,具体效果仍取决于任务与数据分布。

定制与获取

开发者可通过 NVIDIA NeMo 对模型做监督微调、低秩适配(LoRA)与强化学习,相关开放数据集已发布在 Hugging Face。官方同时提供了 Nemotron 3.5 技术报告、GitHub 上的使用手册(cookbook)以及用于优化部署的 NVIDIA NIM。对需要自建智能体、又要控制推理成本的团队,这一“开放权重 + 官方配方”的组合降低了微调与部署的门槛。

小结

英伟达于 2026 年 10 月 15 日发布 Nemotron 3.5 Super VL,以 1200 亿参数 MoE、每词元激活 120 亿参数、单 GPU 智能体吞吐最高 5 倍提升与 NVFP4 量化为看点,是 AI 模型与算法领域一次围绕“智能体效率”的开放模型迭代。

觉得有帮助?

联系我们,获取更多技术解决方案

Free Consultation