
边缘AI催生基础设施新需求
传统基础设施从未为AI时代的苛刻要求而设计。尽管大规模模型训练仍集中在数据中心,但测试阶段的推理任务正快速向边缘迁移,以降低延迟和带宽消耗。这一转变为企业AI开辟了新前沿,但边缘部署却带来了显著的手动复杂性、互操作性难题以及安全漏洞。
为应对这些挑战,思科(Cisco)与Canonical联合推出了一套全新的思科验证设计(CVD)。该指南详细阐述了如何在思科统一边缘系统上利用Canonical产品组合,打造可扩展、安全且成本高效的AI就绪基础设施。本文旨在通过介绍指南中的核心挑战、技术及解决方案,激发您的兴趣。
传统基础设施面临五大瓶颈
企业在传统边缘基础设施上尝试部署AI时,通常会遭遇以下五个关键瓶颈:
- 硬件性能不足:缺乏专用加速器(如GPU)以及小尺寸高密度计算能力。
- 架构僵化:静态环境难以在虚拟化与容器化工作负载之间灵活切换。
- 扩展效率低下:难以对数千个地理分散站点进行统一管理。
- 成本高昂:“推倒重来”式的硬件更新带来高额资本支出(CapEx),而人工站点维护则推高了运营支出(OpEx)。
- 软件碎片化:版本滞后、安全补丁缺失(CVE)以及供应商锁定问题。
下面我们深入探讨联合方案如何逐一化解这些难题。
软件层:统一的开源技术栈
该方案的起点是Canonical提供的加固型软件基础。通过将应用层与底层硬件解耦,企业无需手动重建即可实现传统运维的现代化升级。
- Ubuntu Pro:提供长达15年的稳定安全维护周期、关键补丁回溯以及无缝公有云集成。
- 数据科学堆栈(DSS):为数据科学家提供即开即用的环境,使其无需关心底层库依赖即可开发和部署模型。
- Charmed Operator:为常见AI/ML工具包(如Kubeflow、MLflow)实现自动化运维,确保整个集群的部署与“Day 2”运维保持一致性。
硬件层:面向AI的融合基础设施
边缘AI需要既坚固又高性能的硬件。思科统一边缘系统是一款专为此设计的紧凑型融合平台,集计算、网络、存储和安全于一体。
硬件认证优势
该合作的一大亮点是Canonical的认证计划。思科UCS硬件已通过Ubuntu认证,这意味着Canonical直接与思科协作,确保操作系统内核针对该特定平台进行了优化。在此硬件上运行的Ubuntu Server 24.04.3 LTS为边缘应用提供了稳定、可信的开源基础。
设计指南采用思科UCS XE9305机箱,具备以下支持边缘推理的特性:
- 外形尺寸:3U短深度平台,专为空间受限的边缘环境设计。
- 计算节点:最多支持5个思科UCS XE130c节点。
- 处理器:第6代英特尔至强SoC(每节点最多32核)。
- 内存:高达768GB DDR5,实现高吞吐数据处理。
- 加速器:专用NVIDIA L4 Tensor Core GPU,提供高能效AI推理能力。
部署灵活性:从虚拟机到Kubernetes
边缘环境通常同时需要传统与现代化工作负载。思科与Canonical的方案支持在单一平台上运行多种部署模型,有效解决架构僵化问题:
- 系统容器与虚拟机(LXD):LXD将容器视为轻量级虚拟机,提供类VM体验与容器效率,非常适合托管完整Linux发行版或基础设施服务,开销极低。
- Canonical Kubernetes:面向云原生应用的编排平台,提供企业级发行版,完全保持上游一致性。
- Canonical MicroCloud:专为资源受限环境打造的轻量级自动化私有云方案,整合了LXD、MicroCeph(存储)和MicroOVN(网络),形成自管理堆栈。
零接触运维与安全防护
管理数千个边缘站点是运维瓶颈。本方案采用思科Intersight(云管理平台)实现零接触配置(ZTP)。
借助量身定制的蓝图,管理员可自动部署从硬件固件到操作系统及Kubernetes层的完整堆栈,消除手动配置错误,确保站点间一致性。
这一基础辅以多层保护:Ubuntu Pro提供持续CVE补丁,MicroOVN确保敏感AI模型和数据的安全网络隔离。
结语
边缘AI的兴起要求企业摆脱传统基础设施的孤岛模式。通过结合思科的模块化高性能硬件与Canonical的自动化开源软件堆栈,企业能够构建面向未来的平台,无需频繁“推倒重来”即可实现规模化扩展。
想了解完整技术规格和部署步骤吗?
请参阅完整版设计指南:Cisco Unified Edge and Canonical Design Guide
如有疑问,欢迎直接联系:Enrico Panetta(联盟现场工程师)– enrico.panetta@canonical.com
延伸阅读:
关注微信号:智享开源 ,及时了解更新信息。
原文链接:https://ubuntu.com//blog/ai-at-the-edge-simplifying-infrastructure-with-cisco-and-canonical


扫码关注公众号:智享开源

评论功能已经关闭!