一個 Agent 仍然可以只用一套自己的模型供應商設定,不碰共享供應商。共享供應商和路由組是給“同一套 Key 要服務多個 Agent”和“需要故障轉移”的場景用的。
配置中心 → 供應商
供應商頁把每個共享 Provider 只列一次,並顯示哪些 Agent 正在使用它。頂部有兩個側欄標籤:- 供應商:共享的地址、憑據、模型和 Key。
- 路由組:把多個 Provider 或模型組合成一個 Agent 可請求的名字。
新建供應商
點 新建供應商,可以:- 從內建預設開始。預設覆蓋 Anthropic、OpenAI、Google Gemini、DeepSeek、Moonshot Kimi、Zhipu GLM、OpenRouter 等常見廠商,以及官方、中轉、本機三類來源。
- 選擇 自定義,手動填寫名稱、API 地址和模型。
- 從已有 CLI 配置匯入:Codex、Claude 或 CC Switch。匯入前會顯示將要讀取的檔案和將要建立的 Provider,不會靜默覆蓋。
models.dev 目錄補充圖示和模型資訊。
供應商設定
- API 地址是 Agent 或閘道器真正請求的地址。部分 Agent 會鎖定這一項。
- 請求頭支援字面值和內建
session_id變數;session_id會在每次會話啟動時填入,適合需要穩定會話頭的供應商。 - 請求體欄位以行編輯,不要求你手寫 JSON;未知欄位不會悄悄覆蓋已有配置。
- 只通過路由組使用會讓這個 Provider 不出現在普通模型選擇器裡,只能作為路由組成員。
模型
每個 Provider 有自己的模型列表:- 拉取模型從供應商的模型列表地址讀取,不寫入配置。
- 勾選模型即啟用;取消勾選會保留已宣告的能力,重新勾選即可恢復。
- 每個模型可以單獨宣告 介面協議(繼承、OpenAI Chat、OpenAI Responses、Anthropic Messages、Gemini、Mistral 等)、推理檔位、上下文視窗 和 最大輸出 Token。
- 預設模型是這個 Provider 在沒有指定模型時使用的模型。
- 模型 id 可以手動新增;預設的模型列表可能過期,但不會被網路靜默改寫。
推理檔位和上下文視窗是宣告資料,不會從模型 id 猜測。宣告錯誤會讓 Agent 收到它不支援的選項;不確定時留空,讓 Agent 使用自己的目錄。
Key
一個 Provider 可以儲存多把 Key:- 預設掩碼顯示,點眼睛圖示可以臨時檢視。
- 優先 Key 會先被閘道器使用;失敗後按冷卻策略切換。
- 每把 Key 可以單獨設定模型範圍、代理和 token 上限。
- 測試會真實請求一次供應商介面;批次新增一次寫入多把 Key。
- Key 失效、冷卻中或額度不足時,列表會顯示狀態,而不是隻報一個籠統的錯誤。
路由組
路由組把多個成員組合成一個 Agent 可請求的模型名。成員可以是:- 整個 Provider(供應商組),對外提供成員目錄的交集。
- 一個
(Provider, 模型)對(模型組),對外提供一個穩定的模型名。
- 填寫 名稱 和 對外模型名。對外模型名不能包含
/。 - 從下方模型面板新增成員,每個成員選擇 Provider 和模型。
- 調整 嘗試順序;閘道器從上往下嘗試。
- 選擇 策略(見下表)。
- 按需設定 固定對話成員、失敗時自動切換、耐心等待、首 Token 超時、上下文 Token 和 Token 上限。
- 在 Agent 區域點選允許使用該路由組的 Agent。
- 用 試執行 檢視某個請求會落到哪個成員,不會真的傳送請求。
- 儲存。
策略
權重在 1–100 之間;切換策略時權重會保留。
限制與可見性
- 固定對話成員:同一對話儘量留在同一個成員上,保住供應商的提示快取。
- 失敗時自動切換:當前成員失敗時直接換下一個;關閉則先詢問。
- 首 Token 超時:流式請求在收到第一個位元組前等待多久;超時會嘗試下一個成員。
- 耐心等待:成員冷卻時最多等多久再放棄。
- 上下文 Token:留空時使用最小成員的視窗。
- Token 上限:按本地觀測的 token 計數,可設每天、每週或每月。
- 不在選擇器中顯示:名字仍可呼叫,但不出現在模型選擇器裡。
- 作為兜底組合:隱藏的組合,供其他路由組回退使用。
本地閘道器
閘道器是一個只監聽127.0.0.1 的 HTTP 端點。使用路由組的 Agent 會指向它,而不是直接指向廠商。它負責:
- 在成員之間排序、冷卻、重試和故障轉移。
- 在 OpenAI Chat、OpenAI Responses、Anthropic Messages 和 Gemini 之間轉換請求與流式響應。
- 按對話保持 Key 和成員選擇,儘量不丟提示快取。
- 記錄只含 token、延遲、狀態和路由決策的請求臺賬;不儲存提示詞、響應正文或 Key。
閘道器狀態
關閉閘道器不會刪除 Provider、路由組或 Key;重新開啟後會重新繫結埠並恢復路由組。
請求臺賬與重放
路由標籤記錄最近的請求:時間、請求的模型、命中的路由組、實際成員、狀態、延遲、token 和錯誤。可以按時間範圍、狀態和路由組篩選,也可以開啟一次請求檢視它的路由路徑。 重放只重建當時的候選順序和決策,不會再次向上遊傳送請求。即時路由圖只顯示閘道器當前處理的請求;直接 Provider 不經過閘道器,所以不會出現在圖裡。在會話中使用
傳送訊息前,在輸入框頂部選擇:- Agent:誰來做。
- 供應商設定:這個 Agent 用哪套配置。
- 模型:具體的模型或路由組對外模型名。
- 思考深度:由 Agent 和模型宣告決定。
安全與限制
- 閘道器只繫結迴環地址,不監聽區域網或公網;需要遠端使用時,讓執行階段跑在遠端機器上,通過 SSH 隧道或 Remote v2 訪問。
- 閘道器不儲存提示詞、響應正文、Key 或賬號密碼;臺賬只記錄 token 和路由後設資料。
- 路由組不擁有 Key,刪除 Provider 不會刪除 Key 本身。
- 沒有成本、餘額、預算或配額管理;token 上限是本地觀測計數,不是供應商賬單。
- 路由組只能在桌面端或 TUI 的管理頁編輯,行動端只讀。
- 協議轉換覆蓋文本、圖片、工具呼叫和流式響應;供應商特有的非標準欄位可能被丟棄,遇到問題時先用 測試 和請求臺賬確認。