🧪 笔者实测

我们团队已从Discord迁移至Buzz进行内部沟通。Buzz来自Twitter创始人Jack Dorsey之手，是一款面向人类与智能体的去中心化通讯工具。智能体既可在远程服务器上运行，也能通过ACP协议在本地环境中部署。

目前它仍有一些小毛病：剪贴板截图无法直接粘贴到聊天中，桌面通知也只会对私信生效。现阶段这些问题尚在可接受范围内。

🔍 AI工具发现

Kubutu开发者Rick Timmis正在打造Klara——一款专为KDE Plasma桌面环境设计的本地AI助手。其核心理念是通过语音输入来操控桌面，目前仍处于开发阶段。

Klara

一款面向Kubuntu和KDE Plasma的本地桌面AI助手。终身授权£24起，由Timmisun Limited销售。

Meet Klara AI

OpenMuse是一款采用MIT开源协议的_personal-agent_应用，内置浏览器worker、持久化任务支持，并提供可选的基于Docker的Linux容器环境。虽然支持自托管，但配置过程仍需CopilotKit Intelligence密钥，且开放性任务默认走云端提供商。即便可以对接OpenAI兼容端点，也尚无官方支持的Ollama直连路径。因此，它属于自托管软件，而非真正意义上的离线智能体。

🎫 MCP认证

Linux基金会现已推出AI认证项目。如果您正在开发MCP集成，或希望为简历增添一项AI资质，Model Context Protocol Associate (MCPA)认证值得关注。笔者也计划通过学习新技能来完成此认证。

📡 开源模型动态

OpenDecider展示了一种更为务实的本地模型应用场景：回答边界清晰的分类问题，例如判断工单应分配至哪个队列，而非生成冗长文本。其nano版本仅有约4亿参数，而small版本则是基于Qwen的微调适配器。作者表示两者均通过蒸馏自更大规模的教师模型获得，测试环境中分别占用2.0 GiB与8.9 GiB。

简言之，处理日常请求并非必须依赖庞然大物。一个轻量级学生模型即可作为前置分流环节，为后续较慢的智能体分担流量。

👀 大厂动态观察

NVIDIA于九月发布的PAIR计划还承诺简化Hermes与OpenClaw中的本地模型部署流程。Hermes的一键安装通道已在Windows上线，Linux版本”即将推出”。请注意，这一未来计划与当前已可用的Linux PAIR测试版并非同一事物。

NVIDIA同时宣称，基于RTX 5090平台的llama.cpp优化最高可带来1.9倍吞吐量提升。这是厂商在特定硬件上的测试结果，实际体验可能因人而异。

🗂 AI术语解读：知识蒸馏

想象你有一位全知全能的大师级教师，他学识渊博，却因体量过于庞大，只能驻守在专用的超级计算机集群中。

知识蒸馏（Distillation）就像是这位大师将自己的智慧结晶传授给一位学生。

大师不会让学生啃完数百万本书籍，而是告诉学生：”仔细观察我是如何解决这些问题的，聆听我的思考路径。”

学生通过密切观摩，逐渐掌握大师的智慧捷径。最终，学生以极小的模型体量，接近了大师的能力水平。

想了解更多信息，可查阅IBM的蒸馏概念页面。你会发现，”教师-学生”架构正是该领域的正式术语。

😂 本期梗图

当新发布的开源权重模型看起来有些眼熟时……

⚡ 快速提示：备份你的Hermes智能体，以防重建麻烦

上一期我们讲解了如何用ollama ps确认模型是否真正加载在GPU上。本期提醒：确保你还能重建整个运行环境。

如果你在使用Hermes，请运行hermes backup。该命令会将Hermes主目录下的配置与状态打包为ZIP文件，后续可通过hermes import path/to/backup.zip进行恢复。借助hermes backup --keep N可限制保留的备份数量。此外，还可通过仅脚本方式的cron任务实现定时自动备份，无需启动智能体进程。

最后，务必将其中一份加密副本转移至本机之外。该压缩包内可能包含凭证、会话记录、记忆数据及配置文件，切勿将其直接提交至Git仓库，即便是私有仓库也不建议这样做。

关注微信号：智享开源 ，及时了解更新信息。

原文链接：https://feed.itsfoss.com/link/24361/17481812/local-ai-weekly-4