一个 Agent 仍然可以只用一套自己的模型供应商配置,不碰共享供应商。共享供应商和路由组是给“同一套 Key 要服务多个 Agent”和“需要故障转移”的场景用的。
配置中心 → 供应商
供应商页把每个共享 Provider 只列一次,并显示哪些 Agent 正在使用它。顶部有两个侧栏标签:- 供应商:共享的地址、凭据、模型和 Key。
- 路由组:把多个 Provider 或模型组合成一个 Agent 可请求的名字。
新建供应商
点 新建供应商,可以:- 从内置预设开始。预设覆盖 Anthropic、OpenAI、Google Gemini、DeepSeek、Moonshot Kimi、Zhipu GLM、OpenRouter 等常见厂商,以及官方、中转、本机三类来源。
- 选择 自定义,手动填写名称、API 地址和模型。
- 从已有 CLI 配置导入:Codex、Claude 或 CC Switch。导入前会显示将要读取的文件和将要创建的 Provider,不会静默覆盖。
models.dev 目录补充图标和模型信息。
供应商设置
- API 地址是 Agent 或网关真正请求的地址。部分 Agent 会锁定这一项。
- 请求头支持字面值和内置
session_id变量;session_id会在每次会话启动时填入,适合需要稳定会话头的供应商。 - 请求体字段以行编辑,不要求你手写 JSON;未知字段不会悄悄覆盖已有配置。
- 只通过路由组使用会让这个 Provider 不出现在普通模型选择器里,只能作为路由组成员。
模型
每个 Provider 有自己的模型列表:- 拉取模型从供应商的模型列表地址读取,不写入配置。
- 勾选模型即启用;取消勾选会保留已声明的能力,重新勾选即可恢复。
- 每个模型可以单独声明 接口协议(继承、OpenAI Chat、OpenAI Responses、Anthropic Messages、Gemini、Mistral 等)、推理档位、上下文窗口 和 最大输出 Token。
- 默认模型是这个 Provider 在没有指定模型时使用的模型。
- 模型 id 可以手动添加;预设的模型列表可能过期,但不会被网络静默改写。
推理档位和上下文窗口是声明数据,不会从模型 id 猜测。声明错误会让 Agent 收到它不支持的选项;不确定时留空,让 Agent 使用自己的目录。
Key
一个 Provider 可以保存多把 Key:- 默认掩码显示,点眼睛图标可以临时查看。
- 优先 Key 会先被网关使用;失败后按冷却策略切换。
- 每把 Key 可以单独设置模型范围、代理和 token 上限。
- 测试会真实请求一次供应商接口;批量添加一次写入多把 Key。
- Key 失效、冷却中或额度不足时,列表会显示状态,而不是只报一个笼统的错误。
路由组
路由组把多个成员组合成一个 Agent 可请求的模型名。成员可以是:- 整个 Provider(供应商组),对外提供成员目录的交集。
- 一个
(Provider, 模型)对(模型组),对外提供一个稳定的模型名。
- 填写 名称 和 对外模型名。对外模型名不能包含
/。 - 从下方模型面板添加成员,每个成员选择 Provider 和模型。
- 调整 尝试顺序;网关从上往下尝试。
- 选择 策略(见下表)。
- 按需设置 固定对话成员、失败时自动切换、耐心等待、首 Token 超时、上下文 Token 和 Token 上限。
- 在 Agent 区域点选允许使用该路由组的 Agent。
- 用 试运行 查看某个请求会落到哪个成员,不会真的发送请求。
- 保存。
策略
权重在 1–100 之间;切换策略时权重会保留。
限制与可见性
- 固定对话成员:同一对话尽量留在同一个成员上,保住供应商的提示缓存。
- 失败时自动切换:当前成员失败时直接换下一个;关闭则先询问。
- 首 Token 超时:流式请求在收到第一个字节前等待多久;超时会尝试下一个成员。
- 耐心等待:成员冷却时最多等多久再放弃。
- 上下文 Token:留空时使用最小成员的窗口。
- Token 上限:按本地观测的 token 计数,可设每天、每周或每月。
- 不在选择器中显示:名字仍可调用,但不出现在模型选择器里。
- 作为兜底组合:隐藏的组合,供其他路由组回退使用。
本地网关
网关是一个只监听127.0.0.1 的 HTTP 端点。使用路由组的 Agent 会指向它,而不是直接指向厂商。它负责:
- 在成员之间排序、冷却、重试和故障转移。
- 在 OpenAI Chat、OpenAI Responses、Anthropic Messages 和 Gemini 之间转换请求与流式响应。
- 按对话保持 Key 和成员选择,尽量不丢提示缓存。
- 记录只含 token、延迟、状态和路由决策的请求台账;不保存提示词、响应正文或 Key。
网关状态
关闭网关不会删除 Provider、路由组或 Key;重新打开后会重新绑定端口并恢复路由组。
请求台账与重放
路由标签记录最近的请求:时间、请求的模型、命中的路由组、实际成员、状态、延迟、token 和错误。可以按时间范围、状态和路由组筛选,也可以打开一次请求查看它的路由路径。 重放只重建当时的候选顺序和决策,不会再次向上游发送请求。实时路由图只显示网关当前处理的请求;直接 Provider 不经过网关,所以不会出现在图里。在会话中使用
发送消息前,在输入框顶部选择:- Agent:谁来做。
- 供应商配置:这个 Agent 用哪套配置。
- 模型:具体的模型或路由组对外模型名。
- 思考深度:由 Agent 和模型声明决定。
安全与限制
- 网关只绑定回环地址,不监听局域网或公网;需要远程使用时,让运行时跑在远程机器上,通过 SSH 隧道或 Remote v2 访问。
- 网关不保存提示词、响应正文、Key 或账号密码;台账只记录 token 和路由元数据。
- 路由组不拥有 Key,删除 Provider 不会删除 Key 本身。
- 没有成本、余额、预算或配额管理;token 上限是本地观测计数,不是供应商账单。
- 路由组只能在桌面端或 TUI 的管理页编辑,移动端只读。
- 协议转换覆盖文本、图片、工具调用和流式响应;供应商特有的非标准字段可能被丢弃,遇到问题时先用 测试 和请求台账确认。