dsh-llm-governor：DeepSeek Harness 的多模型治理插件

前言¶

DeepSeek Harness（DSH）採用插件化架構。在多模型部署場景下，開發者通常面臨模型選路策略分散、缺乏統一額度管理、請求失敗後無法自動恢復以及用量審計困難等問題。dsh-llm-governor 是一個爲 DSH 設計的插件，它在 DSH 現有的模型調用鏈上提供模型畫像、用戶訪問控制、月度 Credits、多種路由策略、失敗重路由和 Usage 審計能力。

該插件不代理模型請求，也不管理 Provider 憑證，而是作爲決策層與編排層，與 DSH 的原生組件協同工作。

核心功能¶

dsh-llm-governor 提供以下治理能力：

多模型治理與畫像：支持模型性能畫像，用於後續決策。
用戶訪問控制：基於外部 user_id 的策略表，控制模型分發。
月度 Credits：管理用戶的月度額度，支持超限攔截。
路由策略：支持 Manual（手動）、Quality First（質量優先）、Credit First（額度優先）、Auto（自動）四種模式。
失敗重路由：在模型調用失敗時，自動嘗試切換到其他可用模型或 Provider。
Usage 審計：記錄每一次決策和調用的使用情況。

安裝與啓用¶

安裝前請確保已安裝 Node.js ^22.19.0 || >=24.0.0 和 pnpm，且 DSH 版本爲 0.1.0-rc.8 或更高（截至 2026-08-21 驗證）。

克隆倉庫並構建插件。

    git clone https://github.com/young-tim/dsh-llm-governor
    cd dsh-llm-governor
    pnpm install
    pnpm build
    pnpm pack --pack-destination <臨時目錄>

將打包生成的 .tgz 文件添加到 DSH Profile 中。

    dsh plugin --profile <profile> add <臨時目錄>/dsh-llm-governor-<version>.tgz

重啓 DSH 服務以加載插件。

使用與配置¶

路由策略與模型選擇¶

模型選擇直接進入 DSH 的 Composer（支持 Auto 模式），治理配置進入 DSH 原生 Settings。決策記錄在同一 Session 的 Governor Trajectory 視圖中展示。

首次配置 Quality¶

Auto、Quality First 和 Credit First 模式依賴模型的 Quality 分數。首次安裝後，請進入 Settings → Governor → 模型 頁面。爲每個模型選擇一個快速檔位初始化：
* Lite 75：省成本檔。
* 均衡 85：Flash / 標準檔。
* Pro 95：高質量檔。

這些快速檔位會將同一個初始分數複製到七類任務。後續可通過“高級微調”針對不同任務調整具體分數。

架構與職責邊界¶

調用鏈路¶

Governor 在 DSH 調用鏈中的位置如下：

Governor (選路/額度/審計) → DSH ctx.llm → DSH Provider Adapter → DSH Credentials Service → Provider

職責邊界¶

不代理請求：Governor 不接管 HTTP 代理或 WebSocket 流量，僅提供決策邏輯。
不管理憑證：Provider 憑證由 DSH Credentials Service 管理，Governor 不讀取、保存或要求 DEEPSEEK_API_KEY（僅在特定路由選中 deepseek-official 且無保存憑證時，由 DSH 適配器使用環境變量）。
不提供登錄系統：Governor 不提供註冊、登錄、MFA、SCIM 或 IdP 生命週期管理。

身份與用戶管理¶

Governor 的 Users 不是一個賬號目錄，而是一個以外部 user_id 爲鍵的治理策略表。該表保存模型的 allow list、月度 Credits 和用量彙總。

身份提供者（Identity Provider）¶

Governor 支持 local、header、jwt 和 custom 四種身份綁定模式：
* local：將整個實例視爲一個固定用戶，適合個人或單管理員部署。
* header / jwt：適合企業環境，需配合 DSH identity bridge 或可信代理使用。
* custom：擴展點，允許第三方 Host 插件實現自定義身份驗證邏輯。

用戶策略¶

在 Settings 中維護 User 策略不會創建一個能登錄 DSH 的賬號。企業部署通常需要通過 IdP、SCIM 同步或管理插件來預配置和停用用戶。

依賴與兼容性¶

DSH 版本：需要 DSH 0.1.0-rc.8 兼容（截至 2026-08-21）。
運行環境：TypeScript ESM，Node.js ^22.19.0 || >=24.0.0，pnpm 11。

結語¶

dsh-llm-governor 爲 DeepSeek Harness 提供了從模型選路、額度控制到審計的完整治理閉環。它通過插件形式集成，不侵入 DSH 的核心請求處理流程，適合需要精細化管理和多租戶場景的部署。