🔍 探索AI新工具
OpenAI首席执行官Sam Altman近日表示，全球大量有限的DRAM内存被闲置在个人电脑中，每年仅有约5%的时间被实际使用，这”相当糟糕”。他认为这些资源若在数据中心部署，能发挥更大价值。
我的看法是：闲置内存是拥有个人电脑的代价。没有人能从你手中租走它、抬高价格或远程关闭它——正是这种所有权，构成了我们这份周刊存在的意义。
本期内容较为精简，近期事务繁忙未能深入探索。但足够让你的RAM在超过5%的时间里保持忙碌。Altman，请收下这份回击。
Superwhisper 正式登陆Linux
Superwhisper这款深受Mac用户喜爱的语音输入应用现已推出原生Linux版本，支持系统级语音输入。你可以利用本地CPU或GPU进行离线转录，也可以将音频发送至云端以获得更快的响应速度。需要注意的是，该软件并非开源。
voiceio：开源替代方案
对于偏爱开源生态的用户，voiceio提供了MIT许可证的离线语音输入方案。它可以在Wayland和X11环境下将文本流式传输到你正在使用的任何应用中。更有趣的是，当电脑处于空闲状态时，它能利用你的录音数据微调模型，且仅在新模型评分更优时才切换。
OpenKruise Agents：Kubernetes上的智能体沙箱
OpenKruise Agents让你能在自建的Kubernetes集群中运行AI智能体沙箱环境。其精妙之处在于：API密钥永远不会进入沙箱内部——出口代理会从Kubernetes Secrets中拉取密钥，并在请求发出时自动注入。同时它还支持L4/L7出口规则以及MCP工具的白名单机制，即使遭遇提示词注入攻击，智能体也无法渗透到内网。对笔记本来说有些大材小用，但如果你是团队级别的自托管智能体用户，这个方案非常值得研究。
🐧 内核中的AI力量
Linux 7.4-rc1正式发布，其合并窗口规模创下历史纪录：共收录19,671个提交，而上一版本7.3仅为16,267个。
Torvalds将这一成果部分归功于AI辅助发现的错误修复。他表示，这些bug在合并窗口期间被发现，远比在RC阶段作为紧急修复来处理要健康得多。不过他也坦言，并非所有修复都来自AI——7.4预计将成为下一个LTS内核，而其中约三分之一的补丁是AMD GPU寄存器头文件。
👀 科技巨头动向
现在你大概明白Altman为何对你的内存虎视眈眈了。
据报道，Alphabet、Microsoft、Amazon、Meta和Oracle等科技巨头的表外AI相关义务在六个月内激增90%，达到约3.2万亿美元。这些尚未起租的数据中心合约、芯片与服务器订单，若如实计入资产负债表，股价恐怕会跌得更惨。
数万亿美元规模的数据中心需要海量内存来支撑，看来也包括你的那一份——正如Altman所言。
🗂 AI术语百科：KV缓存
当模型生成文本时，它会将对话中每个token的中间计算结果暂存起来，以便后续重复使用而无需重新计算。这个存储区域就是KV缓存（Key-Value Cache）。
KV缓存的大小随上下文长度线性增长。这就是为什么一个在简短对话中运行流畅的模型，一旦你粘贴进长文档就会因内存不足而崩溃的原因。
😂 本期迷因
更多精彩迷因请移步我们的Instagram页面。
你最近在本地AI领域探索了什么有趣的东西？欢迎分享！
关注微信号：智享开源 ，及时了解更新信息。
还没有任何评论，你来说两句吧！