Hermes Agent 接入分为两种模式:原生内置 Provider(一键配置,工具调用优化最佳)、自定义 OpenAI 兼容接口(通用方案,几乎所有国产模型都能接入)
国内用户推荐选型
- 长上下文、文档处理:Kimi(moonshot-cn)
- 代码 Agent:DeepSeek / Qwen-Coder
- 通用任务、中文能力:智谱 GLM、通义千问
如果你需要,我可以给你一份任意国产模型自定义接入的配置模板(yaml + .env 示例)。
一、原生内置支持国内厂商(无需中转,推荐)
| 厂商 | Provider 标识 | 环境变量 | 主流可用模型 |
|---|---|---|---|
| Moonshot 月之暗面(Kimi) | kimi-cn / moonshot-cn |
KIMI_CN_API_KEY |
kimi-k2.6、kimi-coding |
| DeepSeek 深度求索 | deepseek |
DEEPSEEK_API_KEY |
deepseek-v4、deepseek-v3、deepseek-coder |
| 智谱 AI(GLM) | zai / zhipu |
GLM_API_KEY |
glm-4、glm-4.7、glm-5 |
| 阿里云通义千问 Qwen | alibaba |
DASHSCOPE_API_KEY |
qwen3.6-plus、qwen-turbo、qwen-coder |
| MiniMax(中国区) | minimax-cn |
MINIMAX_CN_API_KEY |
minimax-2.7、01 系列 |
| 小米 MiMo | xiaomi |
MIMO_API_KEY |
MiMo 对话系列 |
配置方式:执行
hermes setup交互式向导直接选择对应厂商,填入 API Key 即可。
二、通过【自定义兼容接口 Custom Endpoint】接入其他国内模型
Hermes 原生支持标准 OpenAI 兼容接口,所有提供兼容模式的国产大模型都可以接入,包含:
- 百度文心一言(千帆平台兼容模式)
- 字节跳动豆包 / Seed 大模型(火山引擎方舟兼容接口)
- 讯飞星火(讯飞开放平台 OpenAI 兼容端点)
- 阶跃星辰、零一万物、智元、昆仑万维天工
- 阿里云百炼、腾讯云混元、华为盘古大模型
接入前提
厂商平台开启 OpenAI 兼容模式,拿到三项参数:
- BaseURL(兼容接口地址)
- API Key
- 合法模型名称
操作路径:
hermes model # 选择 More providers → Custom endpoint 填入 base_url、api_key、模型ID
三、本地开源国产模型(离线部署)
通过 Ollama /vLLM/llama.cpp 启动服务,暴露 OpenAI 接口,再用自定义端点接入:
- Qwen(通义千问开源版)
- GLM 开源模型
- DeepSeek 开源系列
- Llama3、Qwen3、Yi 等开源国产基座
四、重要实践提示
- Agent 工具调用能力优先级
原生内置 Provider > OpenAI 兼容接口;部分模型兼容模式下 Function Calling 稳定性会下降,优先选上面原生支持列表。 - 国内网络建议
优先选择带cn后缀的国内节点(kimi-cn、minimax-cn),避免国际接口网络延迟。 - 聚合网关方案
如果你部署了 OneAPI / NewAPI,可以一次性聚合所有国内模型,Hermes 只需要配置一条 Custom Endpoint 统一调用。

