Hermes v0.12.0 彻底可以离线跑了,把数据安全和免费进行到底
Hermes v0.12.0 彻底可以离线跑了,把数据安全和免费进行到底
我用Hermes有一段时间了,一直有个心结:它太依赖外部服务。
每次跑Hermes,模型调用要联外网,语音合成要联外网,甚至连一些工具检查都要往外戳一下。对于有隐私顾虑的场景——比如处理公司内部文档、分析敏感数据——这个架构本身就是个问题。
v0.12.0这次我看到三个变化,加在一起算是把这个问题正式回应了。
第一个变化:LM Studio升到一等公民
之前LM Studio在Hermes里是什么地位?叫”custom endpoint alias”——翻译一下,就是临时工。你可以把LM Studio的API地址填进去当自定义端点用,但Hermes不真正认识它,不帮你做检查,不帮你列模型,报错了也不给有用的提示。
这次升级之后,LM Studio成了”first-class provider”,跟OpenAI、Anthropic平级。具体说:
-
- 独立认证流程:在
hermes doctor里有专门的LM Studio检查项,配置对不对一眼能看出来 - 动态模型列表:连上LM Studio之后,
hermes model能自动列出你本地已经下载的所有模型,不用手动填模型名 - Reasoning transport支持:如果你跑的是支持推理能力的本地模型(比如Qwen-thinking系列),Hermes的推理内容传输现在能正确处理了
这个改动是从社区PR里打捞上来的(原PR #17061,贡献者@kshitijk4poor),说明这个需求在社区里积压了很久。
第二个变化:Piper本地TTS,离线语音不是梦
Hermes有语音合成功能,之前的选项大部分是云端服务:ElevenLabs、OpenAI TTS、MiniMax TTS……都需要联网,都需要付钱。
这次加进来的Piper,是一个完全本地运行的开源TTS引擎。它占用资源小,速度快,语音质量过得去(不如ElevenLabs,但日常用没问题)。更重要的是:
它不联任何服务器。
音频在本地合成,不出机器。语音请求不会被记录。对于不希望语音内容上传到第三方的场景,这是目前最干净的方案。
这个需求(issue #8508)在项目里开了很久,这次算是正式关闭了。
第三个变化:Secret Redaction默认关了
这个改动初看有点反直觉:把一个”安全功能”的默认值从开改成关,为什么是好事?
Secret Redaction的设计初衷是好的——自动把输出里的API Key、密码等敏感字符串打码,防止泄露到日志里。但实际运行中,它有一个长期存在的副作用:凡是看起来像密钥格式的字符串(长度对、字符集对),都会被替换成***,不管那个字符串是不是真的密钥。
结果就是:工具返回的某些字段、代码里的某些字符串,会被静默打码,然后这些被打码的内容再被其他工具用到的时候,就出错了。这类bug很难排查,因为你看到的输出已经不是真实输出了。
把默认值改成关,是承认”这个功能现在带来的麻烦比它解决的问题更多”。如果你确实需要打码,可以在config里手动打开:redaction.enabled: true。
把这三个拼在一起
本地模型(LM Studio)+ 本地语音(Piper)+ 去掉打码干扰(Redaction off),是三个方向的改进,但它们共同指向一件事:Hermes在往一个可以完全本地运行的方向走。
不是说现在就全部实现了。网页抓取、某些工具还是要联网。但推理这条核心链路——你输入、模型思考、语音回复——现在可以做到数据全程不出你的机器。
对于想在本地跑AI助手、又对隐私有要求的用户,这个组合值得认真配一下。
配置快速指南
LM Studio那边:先在LM Studio里启动本地服务器(默认端口1234),下载好你要用的模型,然后在Hermes里执行hermes model,选择LM Studio provider,地址填http://localhost:1234。
Piper那边:在hermes tts里选择Piper provider,根据语言下载对应的语音模型文件(中文的话选zh-CN系列),然后正常用就好。
Secret Redaction:v0.12.0升级之后默认就是关的,不用操作。如果你之前遇到过工具输出被莫名打码的问题,升级之后应该就好了。
本地化这个方向我会继续跟,有实测结果再来写。你现在本地跑的是什么模型,欢迎评论区说说。
💬 本文评论区已开启,但暂无读者留言。
本文转载自微信公众号,如有侵权请联系删除。
- 标题: Hermes v0.12.0 彻底可以离线跑了,把数据安全和免费进行到底
- 作者: lxiol
- 创建于 : 2026-05-06 20:00:21
- 更新于 : 2026-05-12 16:07:03
- 链接: https://blog.lxiol.cn/2026/05/06/Hermes-v0120-彻底可以离线跑了把数据安全和免费进行到底/
- 版权声明: 本文章采用 CC BY-NC-SA 4.0 进行许可。