前言¶
DeepSeek Harness (DSH) 采用“一切皆插件”的架构。当你在 WSL 中部署 vLLM 以提供 OpenAI 兼容接口时,直接在 Harness 内部进行服务状态检查和对话交互能减少上下文切换。dsh-wsl-vllm 插件正是为此设计,它将本机或 Docker 中的 vLLM 实例接入 DSH 生态。
插件简介¶
- 名称:
dsh-wsl-vllm - 定位:模型推理
- 维护者:173787247
- 简介:对接本机/Docker vLLM 的 OpenAI 兼容服务(默认端口 8000)。
- 许可证:MIT
安装与启用¶
在 DSH 命令行执行以下命令添加插件:
dsh plugin --profile web add github:173787247/dsh-wsl-vllm
如果安装了配套的 dsh-wsl-kit,可以通过以下命令批量链接插件:
bash dsh-wsl-kit/scripts/link-linux-plugins.sh
核心功能¶
该插件提供两个主要工具:
-
vllm_status
检查 vLLM 服务的可达性,并确认当前加载的模型。 -
vllm_chat
提供对话补全功能,直接向 vLLM 发送请求。
配置要点¶
- 服务地址:默认连接
:8000。Windows 原生环境一般不支持 vLLM,建议优先使用 Docker 运行。 - 环境变量:支持通过环境变量覆盖默认配置:
DSH_VLLM_BASE:自定义 Base URLDSH_VLLM_MODEL:指定默认模型名称
兼容性说明¶
- 插件版本:0.1.0
- 最低 DSH 版本:≥ 0.1.2
- 运行权限:插件以当前 DSH 进程的权限运行,请确保对 vLLM 服务有访问权限。