前言¶
DeepSeek Harness (DSH) 採用“一切皆插件”的架構。當你在 WSL 中部署 vLLM 以提供 OpenAI 兼容接口時,直接在 Harness 內部進行服務狀態檢查和對話交互能減少上下文切換。dsh-wsl-vllm 插件正是爲此設計,它將本機或 Docker 中的 vLLM 實例接入 DSH 生態。
插件簡介¶
- 名稱:
dsh-wsl-vllm - 定位:模型推理
- 維護者:173787247
- 簡介:對接本機/Docker vLLM 的 OpenAI 兼容服務(默認端口 8000)。
- 許可證:MIT
安裝與啓用¶
在 DSH 命令行執行以下命令添加插件:
dsh plugin --profile web add github:173787247/dsh-wsl-vllm
如果安裝了配套的 dsh-wsl-kit,可以通過以下命令批量鏈接插件:
bash dsh-wsl-kit/scripts/link-linux-plugins.sh
核心功能¶
該插件提供兩個主要工具:
-
vllm_status
檢查 vLLM 服務的可達性,並確認當前加載的模型。 -
vllm_chat
提供對話補全功能,直接向 vLLM 發送請求。
配置要點¶
- 服務地址:默認連接
:8000。Windows 原生環境一般不支持 vLLM,建議優先使用 Docker 運行。 - 環境變量:支持通過環境變量覆蓋默認配置:
DSH_VLLM_BASE:自定義 Base URLDSH_VLLM_MODEL:指定默認模型名稱
兼容性說明¶
- 插件版本:0.1.0
- 最低 DSH 版本:≥ 0.1.2
- 運行權限:插件以當前 DSH 進程的權限運行,請確保對 vLLM 服務有訪問權限。