英伟达正在把人工智能从云端服务推向企业自己的服务器,甚至普通用户的个人电脑。

这家全球最大的人工智能芯片制造商10月15日发布Nemotron 3.5系列开放权重模型,面向能够持续运行、调用软件工具并自主执行多步骤任务的人工智能智能体(AI Agent)。新系列既包括用于企业数据中心的大型模型,也包括能够在本地电脑和工作站运行的轻量化版本。

据英伟达公布的信息,旗舰模型Nemotron 3.5 Super VL拥有1200亿个参数,能够处理文本、图像、网页和复杂文档。公司声称,经过针对特定任务的后训练,这款模型在部分企业智能体工作流程中的任务完成速度,优于OpenAI和Anthropic的竞争产品。

这一性能比较来自英伟达披露的测试,尚不能视为所有应用场景下的独立性能结论。

与仅通过云端接口提供服务的封闭模型不同,Nemotron 3.5允许企业获取模型权重、使用自身数据进行进一步训练,并部署在自己的计算基础设施上。对于需要处理客户资料、财务记录和商业机密的企业而言,这意味着可以减少对外部模型服务商的依赖。

英伟达Nemotron 3.5系列面向企业级智能体及本地AI设备。图片为相关产品示意。

一款1200亿参数的企业智能体模型

Nemotron 3.5 Super VL是此次发布的核心产品。

这款模型采用混合专家架构,总参数量达到1200亿,但执行单次任务时不需要调用全部参数,从而降低计算负担。

根据英伟达公布的技术资料,其每次推理激活约120亿参数。公司称,该模型在指令遵循、工具调用和多步骤业务处理方面,能够以约五分之一的参数规模,实现接近旗下更大型Nemotron Ultra模型的准确率。

Super VL中的VL代表视觉语言能力。模型不仅能够阅读文字,也能理解表格、图表、PDF文件和网页中的视觉信息。

这使其能够处理传统聊天机器人难以独立完成的工作。

例如,一家金融机构可以让智能体读取客户提交的财务文件,识别异常数据,再调用内部软件完成初步审核;保险公司可以利用它处理理赔资料;企业安全团队则可以让智能体持续分析系统日志,协助发现潜在风险。

这些应用并非简单地向聊天机器人提出问题,而是要求人工智能在不同文件、工具和系统之间连续执行任务。

英伟达称,在针对文档处理、财务会计、科学实验、医疗保险理赔及网络安全等场景进行专门训练后,Super VL的任务完成速度超过部分OpenAI和Anthropic模型。

不过,模型在特定任务中的表现可能受到训练数据、测试方法、硬件配置和任务复杂程度影响。英伟达的测试结果并不意味着Super VL在通用推理、编程或所有企业工作中都领先。

本地PC也能运行人工智能智能体

Nvidia DGX Spark review roundup – a compact, specialised tool for AI development | Club386
英伟达DGX Spark桌面人工智能计算设备。新推出的Bolt系列模型针对本地运行进行了优化。资料图。

此次发布的另一项重要变化,是将智能体能力延伸至本地电脑。

英伟达同时推出两款Nemotron 3.5 Bolt模型,分别针对较复杂的本地任务和轻量级对话应用。

其中,Bolt 74B-A9B拥有740亿总参数,采用压缩技术后,模型权重可装入约24GB内存空间。英伟达称,它可以在配备兼容硬件的RTX设备和DGX Spark工作站上运行,处理多步骤推理、软件工具调用、网页浏览以及编程任务。

另一款Bolt E4B面向语音助手、互动角色和嵌入式设备,目标是在更有限的硬件资源上提供快速响应。

按照英伟达公布的时间表,Super VL与Bolt 74B-A9B已经开放获取,Bolt E4B预计10月23日推出。

本地运行意味着部分任务可以不必将原始数据发送至外部云端服务器。

例如,开发人员可以让电脑上的智能体检查代码、修改文件或执行测试;企业员工也可以在符合内部安全规定的设备上处理部分工作文档。

但本地部署并不自动保证隐私或安全。智能体如果连接互联网、调用外部服务或获得过高的文件访问权限,仍可能造成数据泄露或错误操作。

此外,能够装入24GB内存并不意味着所有普通电脑都能流畅运行该模型。实际性能仍取决于显卡、内存、推理软件和任务负载。

Nemotron 3.5 三款新模型

SUPER VL
1200亿
总参数

企业数据中心、多模态文档、复杂智能体任务

已开放
BOLT 74B-A9B
24GB
量化模型占用

本地PC、工作站、编程与工具调用

已开放
BOLT E4B
4GB
目标模型占用

本地语音助手、对话及嵌入式应用

预计10月23日推出
来源:NVIDIA,2026年10月15日。 注意:参数量与内存占用不是同一指标。

企业为什么需要自己的AI模型

过去几年,企业部署先进人工智能,通常需要通过OpenAI、Anthropic或Google提供的云端接口调用模型。

这种方式降低了使用门槛,却也带来成本、数据管理和供应商依赖等问题。

随着人工智能开始执行实际工作,而不只是回答问题,企业对模型的要求正在改变。

一个能够全天候运行的智能体,可能需要持续访问内部数据库、处理大量文件、调用业务系统,并根据结果作出下一步操作。

如果每一步都依赖外部云端模型,企业不仅需要支付持续产生的推理费用,还必须考虑敏感数据的传输、访问控制及服务稳定性。

开放权重模型为企业提供了另一种选择。

企业可以下载模型,在自己的服务器上部署,并根据业务需求进行定制。对于拥有大量重复性工作流程的组织,这可能降低长期使用成本,也有助于满足数据驻留和内部合规要求。

但自行部署同样意味着承担硬件采购、模型维护、信息安全及技术人员等成本。对规模较小的企业而言,直接购买云端服务仍可能更加经济。

英伟达表示,Skydance、安永、Ramp、CrowdStrike、Perplexity和Salesforce等企业正在使用Super VL相关技术。

这些客户案例显示了大型企业对可定制智能体模型的兴趣,但并不能单独证明该模型已经在所有行业获得大规模采用。

英伟达不只想出售芯片

CEO Jensen Huang Delivers Keynote Address During Nvidia's GTC Conference
英伟达首席执行官黄仁勋。公司正持续扩大人工智能软件、模型与基础设施业务。资料图。

Nemotron 3.5的发布,也反映出英伟达正在调整其在人工智能产业中的角色。

长期以来,英伟达最重要的优势来自GPU及相关计算基础设施。OpenAI、Anthropic和Google等人工智能公司,都需要大量高性能芯片训练和运行模型。

然而,随着这些企业寻找替代芯片供应商,甚至开发自己的专用芯片,英伟达也需要确保其硬件继续成为人工智能应用的重要基础。

开放模型正是这一战略的一部分。

英伟达不仅提供模型,还提供NeMo训练工具、NIM推理微服务和Dynamo推理系统,使开发者能够在其硬件平台上完成模型定制、部署及运行。

按照英伟达公布的测试,在特定硬件和工作负载条件下,Dynamo能够让同一系统服务更多并发用户,并降低响应延迟。

这类性能优化有助于提高GPU的利用率,也可能增强企业继续采购英伟达硬件的动力。

这种商业模式与单纯出售封闭模型接口不同:英伟达可以开放部分模型能力,同时通过芯片、计算系统和企业软件获得收入。

对英伟达而言,开放模型与硬件销售并不矛盾。企业部署的人工智能越多,对计算资源的需求就可能越大。

人工智能竞争进入部署阶段

Nemotron 3.5的发布并不意味着企业将立即放弃OpenAI或Anthropic的模型。

领先的封闭模型仍然在复杂推理、编程和通用任务上具有竞争力,而不同企业对准确率、速度、成本及安全性的要求也存在明显差异。

真正值得关注的变化,是企业开始拥有更多部署选择。

它们可以继续购买云端模型服务,也可以在自己的数据中心运行开放模型,或者让部分智能体直接在员工的电脑上工作。

未来,企业可能不再依靠单一模型完成所有任务,而是根据任务难度、数据敏感程度和运行成本,组合使用不同模型。

英伟达希望通过Nemotron 3.5成为这一体系的基础技术供应商。

对于人工智能产业,这意味着竞争正在从谁能训练出能力最强的模型,进一步延伸到谁能让人工智能以更低的成本、更高的可控性,真正进入企业的日常工作。