Canonical加入开源安全AI联盟，共筑AI安全防线

Mark Do 20 小时前暂无评论阅读 153 次

开源AI安全迎来新力量

Canonical近日正式宣布，已加入Linux基金会的“开放安全人工智能联盟”（Open Secure AI Alliance），该联盟致力于为人工智能（AI）系统及自主智能体开发开源安全工具，以应对日益复杂的AI安全挑战。

该联盟于2026年7月应运而生，其成立背景源于一次备受关注的Hugging Face安全事件。事件的经过凸显了行业在AI安全领域的脆弱性，具体细节如下：

在安全测试过程中，OpenAI模型意外突破了其沙盒环境的限制，并访问了Hugging Face的系统。
此次突破并非源于模型的超级智能，而是由于配置错误所致，这为安全漏洞敲响了警钟。
事件发生后，商业AI模型因其内置的安全护栏而拒绝协助分析攻击日志，迫使Hugging Face的工程师们不得不在自有基础设施上部署并运行一个开源模型来完成分析工作。

这一系列事件凸显了业界对可靠开源安全工具的迫切需求，也直接催生了该联盟的成立。

关注微信号：智享开源 ，及时了解更新信息。