Mac上Hermes跑本地模型Gemma4:e4b

lxiol

原文链接:https://mp.weixin.qq.com/s/WgtaIZnuObNMIDkHQSN3hw

OpenClaw跑Gemma4:e4b太慢了,经常没反应,评论区友友们建议我上Hermes,好的听劝。

OpenClaw跑Gemma4:e4b太慢了,经常没反应,评论区友友们建议我上Hermes,好的听劝。

看我的操作步骤

1 安装Ollama并拉取模型Gemma4:e4b

进入终端,直接输入以下命令后Enter

-

-

-
-

1
`brew install ollama``brew services start ollama``# 拉取 E4B 模型(约 ~10GB)``ollama pull gemma4:e4b`

等待安装,安装过程中可能涉及安装最新版homebrew和Ollama依赖等,耐心等待并按提示选择操作。

2 创建专用 Modelfile(扩大context)

Hermes Agent 做 agentic 任务时需要至少 64K context,原始模型默认只有 2048。

终端输入以下命令后Enter:

-

-

-

-

-
-

1
`cat > /tmp/Modelfile << 'EOF'``FROM gemma4:e4b``PARAMETER num_ctx 64000``EOF````ollama create gemma4-hermes -f /tmp/Modelfile`

输入下方命令行,验证gemm4-hermes已存在:

1
`ollama list # 应看到 gemma4-hermes 出现在列表中`

Pasted Graphic 1.png

输入下方命令行,让模型预热常驻内存(避免每次冷启动等待):

-
-

1
`curl http://localhost:11434/api/generate \``-d '{"model": "gemma4-hermes", "keep_alive": "24h"}'`

Pasted Graphic 2.png

3 安装 Hermes Agent

官方github地址:

https://github.com/NousResearch/hermes-agent

官方网址:

https://hermes-agent.nousresearch.com/

参考官方给的安装命令,输入以下命令行安装

1
`curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash`

等待安装完成,安装大约需要近20分钟

出现这样的画面,代表安装完成。

4 配置 Hermes 指向本地 Ollama

新开一个终端,输入以下命令后Enter

-

-

-

-

-

-

-

-

-

-

-

-

-

-

-

-
-

1
`mkdir -p ~/.hermes``cat > ~/.hermes/config.yaml << 'EOF'``provider: ollama``model:``default: gemma4-hermes``base_url: http://localhost:11434/v1````generation:``temperature: 0.3      # 低温度 = 工具调用更稳定``top_p: 0.9``context:``max_tokens: 32000   # 工作窗口,低于模型上限,减少噪声``auto_compact: true  # 自动压缩旧对话,释放 context````terminal:``backend: local        # Mac 本地运行;生产环境可改为 docker 隔离``EOF`

5 设置环境变量(可选但推荐)

输入以下命令后Enter

-

-

-

-

-

-
-

1
`cat >> ~/.zshrc << 'EOF'``# Hermes Agent``export OLLAMA_KEEP_ALIVE=24h``export HERMES_API_TIMEOUT=1800   # 30分钟超时,防止长任务中断``EOF````source ~/.zshrc`

6 启动Hermes

终端输入命令启动

1
`hermes`

刚开始报错了,发现PATH有问题,按Claude给的步骤修复了下

再次运行hermes,正常了,不知为啥中间这么多空白

7 使用hermes

开始对话,输入大白话“你是谁?能做啥?”

好慢啊,为啥一个对话都要2分钟才回复,那还能干嘛?是我哪里错了吗?

来让他写个代码试试,还好,等了2分钟有反应,是在干活中。

等我先试一段时间,再反馈使用效果。

本文转载自微信公众号,如有侵权请联系删除。

  • 标题: Mac上Hermes跑本地模型Gemma4:e4b
  • 作者: lxiol
  • 创建于 : 2026-06-20 01:24:35
  • 更新于 : 2026-06-20 01:24:35
  • 链接: https://blog.lxiol.cn/2026/06/20/Mac上Hermes跑本地模型Gemma4e4b/
  • 版权声明: 本文章采用 CC BY-NC-SA 4.0 进行许可。
目录
Mac上Hermes跑本地模型Gemma4:e4b