DeepSeek Harness 插件:dsh-wsl-vllm

前言

DeepSeek Harness (DSH) 採用“一切皆插件”的架構。當你在 WSL 中部署 vLLM 以提供 OpenAI 兼容接口時,直接在 Harness 內部進行服務狀態檢查和對話交互能減少上下文切換。dsh-wsl-vllm 插件正是爲此設計,它將本機或 Docker 中的 vLLM 實例接入 DSH 生態。

插件簡介

  • 名稱:dsh-wsl-vllm
  • 定位:模型推理
  • 維護者:173787247
  • 簡介:對接本機/Docker vLLM 的 OpenAI 兼容服務(默認端口 8000)。
  • 許可證:MIT

安裝與啓用

在 DSH 命令行執行以下命令添加插件:

dsh plugin --profile web add github:173787247/dsh-wsl-vllm

如果安裝了配套的 dsh-wsl-kit,可以通過以下命令批量鏈接插件:

bash dsh-wsl-kit/scripts/link-linux-plugins.sh

核心功能

該插件提供兩個主要工具:

  1. vllm_status
    檢查 vLLM 服務的可達性,並確認當前加載的模型。

  2. vllm_chat
    提供對話補全功能,直接向 vLLM 發送請求。

配置要點

  • 服務地址:默認連接 :8000。Windows 原生環境一般不支持 vLLM,建議優先使用 Docker 運行。
  • 環境變量:支持通過環境變量覆蓋默認配置:
  • DSH_VLLM_BASE:自定義 Base URL
  • DSH_VLLM_MODEL:指定默認模型名稱

兼容性說明

  • 插件版本:0.1.0
  • 最低 DSH 版本:≥ 0.1.2
  • 運行權限:插件以當前 DSH 進程的權限運行,請確保對 vLLM 服務有訪問權限。

參考資料

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜