跳到主要内容

ai.yml

设计​

每个 provider 代表一个 API 端点(base_url + api_key),该端点可以承载多个模型。

模型通过 provider_id/model_id 的形式引用,例如:

  • openai/gpt-4o
  • deepseek/deepseek-chat
  • ollama/qwen2.5:7b

YAML 结构请参考上面的完整示例。

字段参考​

providers[]​

字段类型说明
idstring唯一的提供商 ID
namestring显示名称
typestringopenai / openai-compatible / deepseek / ollama
base_urlstringAPI 端点 URL
api_keystringAPI 密钥(支持 ${ENV} 占位符)
modelsarray该端点下的模型列表

models[]​

字段类型默认值说明
idstring—传给 API 的模型名称
namestring—界面中显示的名称
max_tokensint—最大输出令牌数
temperaturefloat0.7采样温度
thinking_enabledboolfalse仅 DeepSeek:启用思考模式
reasoning_effortstringhigh仅 DeepSeek:推理强度(low/medium/high)

default_model​

默认选中的模型,格式为 provider_id/model_id。

DeepSeek 思考模式​

当 type: "deepseek" 且 thinking_enabled: true 时,系统会自动启用 tRPC-Agent-Go 的 BuiltinPlanner:

  1. 在每次请求前注入思考参数(通过 reasoning_effort)
  2. 从响应中提取 reasoning_content
  3. 在多轮对话中保留思维链上下文

这样可确保 DeepSeek 的 reasoning_content 在整个对话过程中得到正确处理。