前言¶
DeepSeek Harness (dsh) 的核心理念是“一切皆插件”。在社區插件目錄中,lynkr-dsh-plugin 是一款用於將 Lynkr 集成到 dsh 中的工具。它的主要目的是解決多提供商模型調用時的成本與路由問題。
插件介紹¶
名稱: lynkr-dsh-plugin
維護者: Fast-Editor
定位: DeepSeek Harness (dsh) 插件,用於註冊 Lynkr 爲自定義 OpenAI 兼容提供商。
Lynkr 是一個自託管的 LLM 分層路由網關,支持 Anthropic、OpenAI、Azure、Bedrock、Ollama、DeepSeek 等 15+ 個提供商。這款插件的作用是將 Lynkr 註冊到 dsh 的配置中,讓 dsh 能夠通過 Lynkr 發起請求。
核心功能¶
- 自定義提供商註冊:在 DeepSeek Harness 中註冊 Lynkr,將其視爲一個標準的 OpenAI 兼容接口。
- 智能路由:利用 Lynkr 的能力,根據請求複雜度自動路由至 15+ 個提供商中成本最低的可用模型層級。
安裝¶
使用 dsh 的插件管理器安裝:
dsh plugin --profile <your-profile> add lynkr-dsh-plugin
使用步驟¶
安裝後,配置文件會自動更新,你需要完成以下操作:
- 配置環境變量
設置 Lynkr 的 API 密鑰環境變量:
export LYNKR_API_KEY=anything
- 啓動 Lynkr
確保 Lynkr 服務正在運行:
lynkr start
- 在 dsh 中選擇
在 DeepSeek Harness 的模型選擇器中選擇lynkr提供商。此時 dsh 實際調用的模型層級由 Lynkr 服務端根據請求難度決定。
配置詳情¶
插件會在 $DSH_HOME/settings.yaml 中寫入以下配置塊:
llm-pi-ai:
providers:
lynkr:
apiKeyEnv: LYNKR_API_KEY
api: openai-completions
baseURL: http://127.0.0.1:8081/v1
models:
- id: lynkr-auto
注意:插件邏輯設計爲“永不覆蓋”現有的 lynkr 配置項,也不會觸碰其他提供商的設置。如果自動合併失敗,它會打印出上述 YAML 代碼塊供手動添加。
適用場景與注意事項¶
- 非官方插件:該插件與 DeepSeek 無從屬關係,未獲其官方認可。
- 開發預覽狀態:DeepSeek Harness 的插件加載器 API 處於開發預覽階段,可能存在破壞性變更。
- 基於文檔編寫:插件源碼是根據 DeepSeek 發佈的文檔編寫的,未經過實際運行的 dsh 環境測試。目前無法確定 dsh 的插件加載器是否完全接受該插件的確切形狀。
- 手動降級:由於 API 的不確定性,插件內置了容錯機制。如果自動配置失敗,它會打印 YAML 代碼塊,此時可手動添加配置以保持服務可用。
總結¶
lynkr-dsh-plugin 爲 dsh 用戶提供了接入 Lynkr 網關的便捷路徑,適合希望利用 Lynkr 的分層路由能力來優化模型調用成本的開發者。