Hermes Agent 国内大模型接入指南

laoluo
laoluo
laoluo
管理员
196
文章
0
粉丝
教程评论2阅读模式

Hermes Agent 接入分为两种模式:原生内置 Provider(一键配置,工具调用优化最佳)自定义 OpenAI 兼容接口(通用方案,几乎所有国产模型都能接入)

Hermes Agent 国内大模型接入指南

国内用户推荐选型

  • 长上下文、文档处理:Kimi(moonshot-cn)
  • 代码 Agent:DeepSeek / Qwen-Coder
  • 通用任务、中文能力:智谱 GLM、通义千问

如果你需要,我可以给你一份任意国产模型自定义接入的配置模板(yaml + .env 示例)

一、原生内置支持国内厂商(无需中转,推荐)

厂商 Provider 标识 环境变量 主流可用模型
Moonshot 月之暗面(Kimi) kimi-cn / moonshot-cn KIMI_CN_API_KEY kimi-k2.6、kimi-coding
DeepSeek 深度求索 deepseek DEEPSEEK_API_KEY deepseek-v4、deepseek-v3、deepseek-coder
智谱 AI(GLM) zai / zhipu GLM_API_KEY glm-4、glm-4.7、glm-5
阿里云通义千问 Qwen alibaba DASHSCOPE_API_KEY qwen3.6-plus、qwen-turbo、qwen-coder
MiniMax(中国区) minimax-cn MINIMAX_CN_API_KEY minimax-2.7、01 系列
小米 MiMo xiaomi MIMO_API_KEY MiMo 对话系列

配置方式:执行 hermes setup 交互式向导直接选择对应厂商,填入 API Key 即可。

二、通过【自定义兼容接口 Custom Endpoint】接入其他国内模型

Hermes 原生支持标准 OpenAI 兼容接口,所有提供兼容模式的国产大模型都可以接入,包含:

  1. 百度文心一言(千帆平台兼容模式)
  2. 字节跳动豆包 / Seed 大模型(火山引擎方舟兼容接口)
  3. 讯飞星火(讯飞开放平台 OpenAI 兼容端点)
  4. 阶跃星辰、零一万物、智元、昆仑万维天工
  5. 阿里云百炼、腾讯云混元、华为盘古大模型

接入前提

厂商平台开启 OpenAI 兼容模式,拿到三项参数:

  • BaseURL(兼容接口地址)
  • API Key
  • 合法模型名称

操作路径:

hermes model
# 选择 More providers → Custom endpoint
填入 base_url、api_key、模型ID

 

三、本地开源国产模型(离线部署)

通过 Ollama /vLLM/llama.cpp 启动服务,暴露 OpenAI 接口,再用自定义端点接入:

  • Qwen(通义千问开源版)
  • GLM 开源模型
  • DeepSeek 开源系列
  • Llama3、Qwen3、Yi 等开源国产基座

四、重要实践提示

  1. Agent 工具调用能力优先级
    原生内置 Provider > OpenAI 兼容接口;部分模型兼容模式下 Function Calling 稳定性会下降,优先选上面原生支持列表。
  2. 国内网络建议
    优先选择带 cn 后缀的国内节点(kimi-cnminimax-cn),避免国际接口网络延迟。
  3. 聚合网关方案
    如果你部署了 OneAPI / NewAPI,可以一次性聚合所有国内模型,Hermes 只需要配置一条 Custom Endpoint 统一调用。

 
laoluo
  • 本文由 laoluo 发表于2026年8月4日 07:24:28
  • 转载请务必保留本文链接:https://www.mydata-api.com/tutorials/458.html
匿名

发表评论

匿名网友
确定

拖动滑块以完成验证