在使用 DeepSeek Harness (DSH) 進行智能體開發時,若要在本地運行大模型,通常需要手動配置適配器或調整代碼。這不僅增加了環境搭建的複雜度,還可能涉及不必要的雲端 API 調用。dsh-plugin-lmstudio 插件旨在簡化這一流程,將 LM Studio 的本地推理能力直接映射到 DSH 的對話模型層。
這是什麼¶
這是一個 DSH 插件,由 starlightzfy 維護。它通過注入 OpenAI 兼容的路由,讓 DSH 的模型選擇器能夠識別並使用 LM Studio 中加載的本地模型,從而在不消耗雲端 API 額度的情況下完成對話。
核心功能¶
- 使用 LM Studio 模型作爲 DSH 聊天模型。
- 無需雲端 API 額度。
- 通信僅發送到
127.0.0.1:1234。 - 提供默認
lm-studio提供商路由。 - 無需 API 密鑰(針對本地服務器)。
安裝與啓用¶
- 確保已安裝 DSH CLI 和 pnpm。
- 執行安裝命令:
dsh plugin --profile web add dsh-plugin-lmstudio
- 安裝完成後,重啓 DSH Web 應用(運行
dsh web),並刷新瀏覽器頁面(通常是 http://127.0.0.1:3080)。
配置與用法¶
- 啓動服務與加載模型:在 LM Studio 中進入開發者模式(Developer -> Start Server),默認端口爲
1234,並確保至少加載了一個模型。 - 獲取模型 ID:在終端執行
curl http://127.0.0.1:1234/v1/models,查看返回數據中的id字段(通常格式爲owner/name)。 - 配置模型:可以在 DSH 界面中點擊“Settings → Models”下的“ask the endpoint”按鈕自動發現模型,或直接編輯配置文件。
- 編輯配置文件:插件內置的
lm-studio路由是基礎層,可在$DSH_HOME/settings.yaml中進行覆蓋配置。
示例配置:
llm-pi-ai:
providers:
lm-studio:
models:
- id: qwen/qwen3.5-9b
name: Qwen3.5 9B (LM Studio)
contextWindow: 8192
maxTokens: 4096
配置文件支持熱重載,無需重啓 dsh web。
注意事項¶
- 需要在 LM Studio 中啓動服務器(默認端口
1234),且至少加載一個模型。 - 插件以當前 dsh 進程的權限運行,請確保環境安全。
- 如果 LM Studio 啓用了密鑰認證,需在 DSH 的設置層添加
apiKeyEnv或在請求頭中添加Authorization。 - 插件許可證爲 MIT。
結尾¶
經過上述配置,DSH 的對話模型層即可接入本地模型。該插件適合需要在本地隔離環境運行模型、避免雲端 API 限額限制的開發者。插件倉庫與目錄鏈接如下:
- GitHub 倉庫
- 插件目錄