# Hermes Agent 装好了，却不会回答：一次本地部署如何找到真正的断点

一个 AI Agent 最容易让人误判的时刻，不是安装报错，而是安装成功以后仍然不会回答。

终端里版本号正常，`doctor` 也亮着绿灯，但你输入第一句话，得到的不是答案，而是：

`No inference provider configured`

这时最容易做的事是重装。重装往往也是最浪费时间的事，因为程序已经在运行，真正断掉的可能是模型服务、授权，或者上下文条件。

这次我用 Nous Research 的 Hermes Agent 做了一次本地部署实验。目标不是证明“某条命令能启动”，而是把一个使用者最关心的问题回答清楚：安装完成以后，Agent 到底能不能真正调用模型？

最后，Hermes 通过本地 Ollama 调用 `qwen3:4b`，同一条最小提示词返回 `GLOBAL_LOCAL_READY`。这证明最小本地推理链路成立；长任务、浏览器控制和生产性能仍然没有被夸大成已验证能力。

## 第一幕：绿灯亮了，但故事还没有开始

实验对象是 [NousResearch/hermes-agent](https://github.com/NousResearch/hermes-agent)，固定到官方仓库 commit `21b2095d`，使用官方安装器放进独立目录。

安装器退出码为 0。Python 3.11.15、虚拟环境、Node 依赖和 Hermes Agent v0.21.0 都准备好了。

接着运行 `hermes doctor`。Python、SQLite、SSL、必需包和安全检查通过；旧配置需要迁移，执行 `hermes doctor --fix` 后，配置迁移到 v39。

到这里，如果只看表面，很容易写下“安装成功”。但这只回答了第一个问题：程序有没有到位。它还没有回答 Agent 有没有大脑。

## 第二幕：第一句话把问题逼了出来

我用固定的最小提示词测试真实推理，而不是只看进程是否存在。结果返回：

`No inference provider configured`

这条红灯非常关键。它没有说安装坏了，也没有说模型能力不足。它说的是：当前没有可用的推理提供商。

于是问题被拆成了三层：

1. 安装层：程序和依赖是否正常；
2. 提供商层：云端或本地模型服务是否接通；
3. 模型层：所选模型和上下文是否符合 Agent 要求。

如果不拆开这三层，使用者会在一个错误层面上反复操作：明明是 provider 没接通，却一直重装程序；明明是上下文条件不满足，却只盯着模型下载大小。

## 第三幕：模型选择必须先看规则

正式选择本地模型前，我先核对 Hermes 官方文档。

[Quickstart](https://hermes-agent.nousresearch.com/docs/getting-started/quickstart) 把 64K tokens 列为最低上下文要求；[Providers 文档](https://hermes-agent.nousresearch.com/docs/integrations/providers)要求先有推理提供商，并提醒 Ollama 要在模型实际加载后核对服务端 CONTEXT。

因此本次正式本地路径选择 `qwen3:4b`。它的模型元数据上下文为 262,144，满足模型层的前置条件；但这不等于 Ollama 实际加载的服务端 CONTEXT 已经完成长任务验证。这个边界必须写清楚，否则“模型上限”会被误写成“整条服务链已经就绪”。

云端凭证路径没有接通后，实验没有继续折腾设备授权，也没有擅自写入用户密钥或发起收费调用，而是切换到本地 Ollama 的 OpenAI-compatible endpoint。

## 第四幕：同一条提示词，终于得到结果

为了让前后结果可以比较，提示词不变，验收词不变，只替换推理提供商。

重新运行后，Hermes 实际返回：

`GLOBAL_LOCAL_READY`

退出码为 0。

这句话的价值不在于看起来漂亮，而在于它完成了一个可复核的闭环：请求进入了本地模型，模型返回了预先设定的验收词，Hermes 进程正常结束。

所以准确结论不是“所有 Hermes 功能都能用了”，而是：官方安装、环境诊断、配置迁移和本地最小推理已经验证；长任务、复杂工具调用、浏览器控制、Computer Use、联网技能和生产性能仍然待测。

## 这条路径替使用者省下什么

它省下的不是一次下载时间，而是错误排查带来的重复成本。

当 Agent 不回答时，使用者可以先看版本和 `doctor`，再看 provider 状态，最后核对模型与上下文。每一步都有自己的证据，不再把“安装成功”误当成“推理成功”。

对需要在 Mac 上部署开源 Agent 的个人、开发者和小团队，这种分层排查也可以变成一项实际服务：先做环境诊断，再做模型兼容性核对，最后交付一条能够复现的最小调用链路。它的价值不是替客户许诺“什么都能自动化”，而是让客户知道当前真正卡在哪里、下一步应该花钱还是应该停止花钱。

## 最后的边界

本次实验没有证明 Hermes 已经适合生产，也没有证明本地 4B 模型可以承担复杂工作。它只证明了一件具体而有用的事：在云端提供商不可用时，按照官方要求选模型、接入本地服务，并用固定提示词验收，最小本地推理可以跑通。

如果你遇到的是“程序已经装好，却没有答案”，第一步不是重装，而是把安装、提供商和模型条件分开。先找到断点，再决定下一步。

完整实验记录：<https://jianailab.com/experiments/hermes-agent-local-model-first-run>
