Hermes 与 Agent 工程：让工具调用稳定落地

Hermes 不是 Agent 框架，它是 Agent 的“大脑”。工程要做的，是给大脑配上手、眼睛和刹车。

一、Hermes 在 Agent 工程中的位置

一个可用的 Agent，通常由五部分组成：

• 模型：理解任务、做决策
• 循环：感知 → 思考 → 行动 → 观察
• 工具：搜索、数据库、API、代码执行
• 状态：对话历史、任务进度、中间结果
• 权限与审计：能做什么、做过什么、如何追溯

Hermes 属于第一层。本文讨论的是 Nous Research 的 Hermes 系列模型。它以指令跟随、结构化输出和函数调用见长，适合作为 Agent 的决策层。它不是 LangGraph、AutoGen 那样的编排框架，而是被编排的“大脑”。

二、为什么 Hermes 适合 Agent 工程

1. 函数调用格式稳定 Agent 最怕模型输出“看起来像 JSON 但不是 JSON”。Hermes 在工具调用上训练充分，参数解析成功率更高。
2. 支持 JSON Mode 需要结构化结果时，可以直接约束输出格式，减少后处理成本。
3. 开源可私有化 通过 vLLM、Ollama、LM Studio 本地部署，数据不出域，适合企业场景。
4. 长上下文 多轮工具调用会迅速堆积历史，长上下文能力决定了 Agent 能走多远。

三、最小 Agent 循环

下面这段代码不到 30 行，跑通了“模型决策 → 调用工具 → 回传结果 → 生成回答”的完整闭环。它假设 Hermes 已通过 OpenAI 兼容接口部署在本地。

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:8000/v1", api_key="none")
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

def get_weather(city):
    return f"{city}：晴，25℃"

def run(prompt):
    msgs = [{"role": "user", "content": prompt}]
    for _ in range(3):  # 循环上限，防止死循环
        r = client.chat.completions.create(
            model="hermes-3", messages=msgs, tools=tools
        )
        msg = r.choices[0].message
        if not msg.tool_calls:
            return msg.content
        call = msg.tool_calls[0]
        args = json.loads(call.function.arguments)
        result = get_weather(**args)
        msgs.append(msg.model_dump(exclude_none=True))
        msgs.append({"role": "tool", "tool_call_id": call.id, "content": result})
    return "达到最大步数"

print(run("北京今天天气如何？"))

这段代码省略了错误处理、并发和权限校验，但它已经具备 Agent Loop 的核心骨架。

四、从 Demo 到生产：六个工程点

1. 系统提示即契约 明确角色、工具范围、输出格式和拒绝策略。提示词越窄，行为越稳。
2. 工具 Schema 要窄 参数越少、类型越明确，模型越不容易编造。一个工具只做一件事。
3. 循环上限与超时 没有上限的 Agent 会烧 token、卡死任务。步数、时间、成本都要设阈值。
4. 状态持久化 每步保存对话和中间结果，支持断点续跑、回放和人工接管。
5. 权限与审计 工具调用前校验权限，调用后记录日志。敏感操作必须有人类确认节点。
6. 评估与回放 用固定任务集测试工具选择准确率、参数正确率和任务完成率。没有评估，就没有迭代。

五、结语

Hermes 降低了 Agent 决策层的门槛，但 Agent 能否上线，取决于工程设施。 先用少量代码跑通最小循环，再逐步补上状态、权限、审计和评估。 模型是大脑，工程是骨架。两者合在一起，才是可用的 Agent。