DeepSeek Harness 插件:dsh-wsl-vllm

前言

DeepSeek Harness (DSH) 采用“一切皆插件”的架构。当你在 WSL 中部署 vLLM 以提供 OpenAI 兼容接口时,直接在 Harness 内部进行服务状态检查和对话交互能减少上下文切换。dsh-wsl-vllm 插件正是为此设计,它将本机或 Docker 中的 vLLM 实例接入 DSH 生态。

插件简介

  • 名称:dsh-wsl-vllm
  • 定位:模型推理
  • 维护者:173787247
  • 简介:对接本机/Docker vLLM 的 OpenAI 兼容服务(默认端口 8000)。
  • 许可证:MIT

安装与启用

在 DSH 命令行执行以下命令添加插件:

dsh plugin --profile web add github:173787247/dsh-wsl-vllm

如果安装了配套的 dsh-wsl-kit,可以通过以下命令批量链接插件:

bash dsh-wsl-kit/scripts/link-linux-plugins.sh

核心功能

该插件提供两个主要工具:

  1. vllm_status
    检查 vLLM 服务的可达性,并确认当前加载的模型。

  2. vllm_chat
    提供对话补全功能,直接向 vLLM 发送请求。

配置要点

  • 服务地址:默认连接 :8000。Windows 原生环境一般不支持 vLLM,建议优先使用 Docker 运行。
  • 环境变量:支持通过环境变量覆盖默认配置:
  • DSH_VLLM_BASE:自定义 Base URL
  • DSH_VLLM_MODEL:指定默认模型名称

兼容性说明

  • 插件版本:0.1.0
  • 最低 DSH 版本:≥ 0.1.2
  • 运行权限:插件以当前 DSH 进程的权限运行,请确保对 vLLM 服务有访问权限。

参考资料

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜