前言¶
在使用 llm-pi-ai 進行模型路由配置時,官方設置頁通常僅允許編輯 contextWindow。然而,決定路由策略的關鍵參數 reasoningEfforts(思考層級)往往被隱藏,導致無法正確配置模型的強度。dsh-llm-capabilities 插件通過提供一個集中的設置面板,填補了官方 UI 在自託管網關中留下的空白。
插件介紹¶
這是一個 DSH 插件,旨在自動檢測並配置 llm-pi-ai 的模型能力,特別是 reasoningEfforts 和 capacities。它由 bamboostrip 維護。它替代了 dsh-reasoning-efforts,並處理了官方 UI 留下不可配置的字段。
核心功能¶
該插件提供以下具體能力:
* 自動檢測能力:自動檢測模型的能力(reasoningEfforts + capacities)和思考層級。
* 管理思考層級:提供 off/low/medium/high/xhigh/max 等級的管理,並支持自定義 wire spellings。
* 嚴格保留視覺設置:嚴格保留官方 UI 聲明的視覺(輸入)設置,自 0.2.0 版本起不再修改 input 字段。
* 目錄感知合併:與 llm.models() 進行目錄感知的合併,以細化等級集合。
* 安全寫入:使用 expectedRevision 和深拷貝數組進行安全寫入,防止意外覆蓋。
* 向後兼容:保留與 dsh-reasoning-efforts 端點的兼容性。
安裝與啓用¶
在安裝前,請確保環境滿足依賴要求:DHS >= 0.1.1-rc.2 且 node >= 22.13。
使用以下命令安裝插件:
dsh plugin --profile web add dsh-llm-capabilities
典型用法¶
安裝完成後,按以下步驟操作:
- 在
Settings → Models中添加提供商(route、baseURL、apiKeyEnv)。 - 打開
Settings → Model Capabilities,選擇剛纔添加的提供商(檢測會自動運行)。 - 爲每個模型切換“Offer thinking levels”(提供思考層級),並選擇所需的等級(off/low/medium/high/xhigh/max)。
- 如有需要,通過鉛筆圖標自定義 wire spellings。
- 點擊底部的“Save changes”按鈕,將配置寫入
llm-pi-ai的 providers 路由。
注意事項¶
- 隱藏設置可見化:官方
llm-pi-aiUI 僅允許編輯contextWindow,此插件會揭示隱藏的reasoningEfforts。 - 視覺設置保護:插件嚴格保留視覺(輸入)設置,從 0.2.0 版本起,保存操作不會修改
input字段。 - 會話處理:插件處理 OpenCode Go 會話頭(
x-opencode-session)以實現提示緩存親和性,並在會話親和性丟失時進行加密推理的自我修復重試。 - 源碼審查:插件使用 MIT 許可證。在安裝前,建議檢查源碼以確保符合您的安全策略。
結尾¶
dsh-llm-capabilities 修復了官方 UI 在配置模型推理能力時的盲區,提供了更細粒度的控制。更多細節可參考 GitHub 倉庫。