Ubuntu集成NVIDIA Nemotron 3.5 Lightning,一条命令部署全天候智能体

Ubuntu集成NVIDIA Nemotron 3.5 Lightning,一条命令部署全天候智能体

Canonical联合NVIDIA:新模型登陆Ubuntu,智能体部署化繁为简

Canonical近日宣布,NVIDIA最新推出的开放式可定制模型——NVIDIA Nemotron 3.5 Lightning,现已正式登陆Ubuntu平台,并支持通过单条命令完成安装。该模型专为全天候运行的AI智能体设计,能够满足企业级持续推理与自动化任务需求。

Nemotron 3.5 Lightning:高效架构,灵活定制

NVIDIA Nemotron 3.5 Lightning是一款开放式的30B混合专家(MoE)模型,仅有3B活跃参数,专为高吞吐量的智能体工作负载而生。其完全可定制化的特性允许组织在自有环境中对模型进行拥有、微调和部署,并始终保持对模型行为、数据处理方式及部署流程的全面掌控。

首发即用:通过Inference Snaps简化部署

Canonical通过其inference snaps机制,在模型发布伊始便为Ubuntu用户提供了无缝接入能力。所谓inference snaps,即预打包的AI推理运行时,以snap软件包形式分发,可确保在不同系统间保持一致的部署体验。开发者和企业只需在支持的NVIDIA平台上执行以下单条命令,即可完成模型部署:

sudo snap install nemotron-3-5-lightning

借助inference snaps,Nemotron 3.5 Lightning的部署过程被转化为一项标准化操作。这一生产级运行时可在工作站、边缘设备及服务器上实现一致性扩展,让团队将精力集中于智能体构建,而非底层基础设施的运维。使用inference snaps部署Nemotron 3.5 Lightning,用户将获得以下核心优势:

  • 百万级Token上下文窗口: Nemotron的上下文窗口可支撑持久运行、自主决策的AI智能体,使其在长期、多步骤工作流中持续保持上下文关联。
  • 高吞吐混合专家架构: 该模型为30B MoE结构,活跃参数仅3B,经由NVIDIA前沿的Nemotron 3 Ultra模型蒸馏而来,性能与效率兼备。
  • 跨环境一致运行: inference snaps确保模型在云端、本地及边缘系统中呈现完全一致的行为表现。
  • 运维大幅简化: 标准化的snap打包方式降低了维护、补丁更新及升级过程中的复杂程度。
  • 安全且受限的执行环境: 严格的隔离机制配合自动更新与验证分发,确保模型运行安全可控。

对于企业用户而言,这意味着部署时间被显著压缩,可省去数周的集成与验证工作,通过单一可移植构件即可搭建可扩展的AI基础设施。

更多详情,请访问:https://documentation.ubuntu.com/inference-snaps/


关注微信号:智享开源 ,及时了解更新信息。

原文链接:https://ubuntu.com//blog/nvidia-nemotron-3-5-lightning

评论列表

发表评论

你必须 登录 才能发表评论.

为您推荐


请支持IMCN发展!

谁在捐赠

微信捐赠 支付宝捐赠
微信捐赠 支付宝捐赠
ta的个人站点

发表文章4538篇

关注我的头条 不要放弃,百折不挠,坚强、自信。


扫码关注公众号:智享开源

最新科技信息


归档

近期评论