dsh-plugin-lmstudio:DSH 插件,用於接入 LM Studio 本地模型

在使用 DeepSeek Harness (DSH) 進行智能體開發時,若要在本地運行大模型,通常需要手動配置適配器或調整代碼。這不僅增加了環境搭建的複雜度,還可能涉及不必要的雲端 API 調用。dsh-plugin-lmstudio 插件旨在簡化這一流程,將 LM Studio 的本地推理能力直接映射到 DSH 的對話模型層。

這是什麼

這是一個 DSH 插件,由 starlightzfy 維護。它通過注入 OpenAI 兼容的路由,讓 DSH 的模型選擇器能夠識別並使用 LM Studio 中加載的本地模型,從而在不消耗雲端 API 額度的情況下完成對話。

核心功能

  • 使用 LM Studio 模型作爲 DSH 聊天模型。
  • 無需雲端 API 額度。
  • 通信僅發送到 127.0.0.1:1234。
  • 提供默認 lm-studio 提供商路由。
  • 無需 API 密鑰(針對本地服務器)。

安裝與啓用

  1. 確保已安裝 DSH CLI 和 pnpm。
  2. 執行安裝命令:
    dsh plugin --profile web add dsh-plugin-lmstudio
  1. 安裝完成後,重啓 DSH Web 應用(運行 dsh web),並刷新瀏覽器頁面(通常是 http://127.0.0.1:3080)。

配置與用法

  1. 啓動服務與加載模型:在 LM Studio 中進入開發者模式(Developer -> Start Server),默認端口爲 1234,並確保至少加載了一個模型。
  2. 獲取模型 ID:在終端執行 curl http://127.0.0.1:1234/v1/models,查看返回數據中的 id 字段(通常格式爲 owner/name)。
  3. 配置模型:可以在 DSH 界面中點擊“Settings → Models”下的“ask the endpoint”按鈕自動發現模型,或直接編輯配置文件。
  4. 編輯配置文件:插件內置的 lm-studio 路由是基礎層,可在 $DSH_HOME/settings.yaml 中進行覆蓋配置。

示例配置:

llm-pi-ai:
  providers:
    lm-studio:
      models:
        - id: qwen/qwen3.5-9b
          name: Qwen3.5 9B (LM Studio)
          contextWindow: 8192
          maxTokens: 4096

配置文件支持熱重載,無需重啓 dsh web。

注意事項

  • 需要在 LM Studio 中啓動服務器(默認端口 1234),且至少加載一個模型。
  • 插件以當前 dsh 進程的權限運行,請確保環境安全。
  • 如果 LM Studio 啓用了密鑰認證,需在 DSH 的設置層添加 apiKeyEnv 或在請求頭中添加 Authorization。
  • 插件許可證爲 MIT。

結尾

經過上述配置,DSH 的對話模型層即可接入本地模型。該插件適合需要在本地隔離環境運行模型、避免雲端 API 限額限制的開發者。插件倉庫與目錄鏈接如下:
- GitHub 倉庫
- 插件目錄

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜