DeepSeek Harness 插件:dsh-wsl-vllm
`dsh-wsl-vllm` 是 DeepSeek Harness (DSH) 的一个插件,旨在简化 WSL 中 vLLM 服务的接入与交互。它将 vLLM 的 OpenAI 兼容接口(默认端口 8000)集成到 DSH 生态,支持通过 `dsh plugin` 命令安装。插件提供 `vllm_status` 检查服务状态及模型加载情况,以及 `vllm_chat` 进行对话补全功能。支持 Docker 运行及环境变量配置,需确保 DSH 版本 ≥ 0.1.2 且对服务有访问权限。
阅读全文