思科与Canonical联手:打造边缘AI就绪基础设施

思科与Canonical联手:打造边缘AI就绪基础设施

边缘AI催生基础设施新需求

传统基础设施从未为AI时代的苛刻要求而设计。尽管大规模模型训练仍集中在数据中心,但测试阶段的推理任务正快速向边缘迁移,以降低延迟和带宽消耗。这一转变为企业AI开辟了新前沿,但边缘部署却带来了显著的手动复杂性、互操作性难题以及安全漏洞。

为应对这些挑战,思科(Cisco)与Canonical联合推出了一套全新的思科验证设计(CVD)。该指南详细阐述了如何在思科统一边缘系统上利用Canonical产品组合,打造可扩展、安全且成本高效的AI就绪基础设施。本文旨在通过介绍指南中的核心挑战、技术及解决方案,激发您的兴趣。

传统基础设施面临五大瓶颈

企业在传统边缘基础设施上尝试部署AI时,通常会遭遇以下五个关键瓶颈:

  • 硬件性能不足:缺乏专用加速器(如GPU)以及小尺寸高密度计算能力。
  • 架构僵化:静态环境难以在虚拟化与容器化工作负载之间灵活切换。
  • 扩展效率低下:难以对数千个地理分散站点进行统一管理。
  • 成本高昂:“推倒重来”式的硬件更新带来高额资本支出(CapEx),而人工站点维护则推高了运营支出(OpEx)。
  • 软件碎片化:版本滞后、安全补丁缺失(CVE)以及供应商锁定问题。

下面我们深入探讨联合方案如何逐一化解这些难题。

软件层:统一的开源技术栈

该方案的起点是Canonical提供的加固型软件基础。通过将应用层与底层硬件解耦,企业无需手动重建即可实现传统运维的现代化升级。

  • Ubuntu Pro:提供长达15年的稳定安全维护周期、关键补丁回溯以及无缝公有云集成。
  • 数据科学堆栈(DSS):为数据科学家提供即开即用的环境,使其无需关心底层库依赖即可开发和部署模型。
  • Charmed Operator:为常见AI/ML工具包(如Kubeflow、MLflow)实现自动化运维,确保整个集群的部署与“Day 2”运维保持一致性。

硬件层:面向AI的融合基础设施

边缘AI需要既坚固又高性能的硬件。思科统一边缘系统是一款专为此设计的紧凑型融合平台,集计算、网络、存储和安全于一体。

硬件认证优势

该合作的一大亮点是Canonical的认证计划。思科UCS硬件已通过Ubuntu认证,这意味着Canonical直接与思科协作,确保操作系统内核针对该特定平台进行了优化。在此硬件上运行的Ubuntu Server 24.04.3 LTS为边缘应用提供了稳定、可信的开源基础。

设计指南采用思科UCS XE9305机箱,具备以下支持边缘推理的特性:

  • 外形尺寸:3U短深度平台,专为空间受限的边缘环境设计。
  • 计算节点:最多支持5个思科UCS XE130c节点。
  • 处理器:第6代英特尔至强SoC(每节点最多32核)。
  • 内存:高达768GB DDR5,实现高吞吐数据处理。
  • 加速器:专用NVIDIA L4 Tensor Core GPU,提供高能效AI推理能力。

部署灵活性:从虚拟机到Kubernetes

边缘环境通常同时需要传统与现代化工作负载。思科与Canonical的方案支持在单一平台上运行多种部署模型,有效解决架构僵化问题:

  • 系统容器与虚拟机(LXD):LXD将容器视为轻量级虚拟机,提供类VM体验与容器效率,非常适合托管完整Linux发行版或基础设施服务,开销极低。
  • Canonical Kubernetes:面向云原生应用的编排平台,提供企业级发行版,完全保持上游一致性。
  • Canonical MicroCloud:专为资源受限环境打造的轻量级自动化私有云方案,整合了LXD、MicroCeph(存储)和MicroOVN(网络),形成自管理堆栈。

零接触运维与安全防护

管理数千个边缘站点是运维瓶颈。本方案采用思科Intersight(云管理平台)实现零接触配置(ZTP)。

借助量身定制的蓝图,管理员可自动部署从硬件固件到操作系统及Kubernetes层的完整堆栈,消除手动配置错误,确保站点间一致性。

这一基础辅以多层保护:Ubuntu Pro提供持续CVE补丁,MicroOVN确保敏感AI模型和数据的安全网络隔离。

结语

边缘AI的兴起要求企业摆脱传统基础设施的孤岛模式。通过结合思科的模块化高性能硬件与Canonical的自动化开源软件堆栈,企业能够构建面向未来的平台,无需频繁“推倒重来”即可实现规模化扩展。

想了解完整技术规格和部署步骤吗?

请参阅完整版设计指南:Cisco Unified Edge and Canonical Design Guide

如有疑问,欢迎直接联系:Enrico Panetta(联盟现场工程师)– enrico.panetta@canonical.com

延伸阅读:


关注微信号:智享开源 ,及时了解更新信息。

原文链接:https://ubuntu.com//blog/ai-at-the-edge-simplifying-infrastructure-with-cisco-and-canonical

评论列表

发表评论

你必须 登录 才能发表评论.

为您推荐


请支持IMCN发展!

谁在捐赠

微信捐赠 支付宝捐赠
微信捐赠 支付宝捐赠
ta的个人站点

发表文章4363篇

关注我的头条 不要放弃,百折不挠,坚强、自信。


扫码关注公众号:智享开源

最新科技信息


[blog_mailer_subscribe]

归档

近期评论