dsh-wsl-hostsvc:從 WSL 探測 Windows 主機本地 LLM 服務

在本地部署 LLM 環境時,從 WSL 訪問 Windows 主機上的服務通常需要手動配置網絡與端口。dsh-wsl-hostsvc 插件解決了這個問題。它從 WSL 端探測 Windows 主機上運行的 OpenAI 兼容 LLM 服務器,並直接提供可訪問的 baseURL 和配置片段。

核心功能

該插件使用工具 host_reach(默認 profile=all)探測本地服務。支持的配置文件包括:

  • ollama:探測 Ollama 默認端口(11434)
  • lmstudio:探測 LM Studio 本地服務器(通常爲 1234)
  • vllm:探測 vLLM OpenAI 服務器(通常爲 8000)
  • llama:探測 llama-server / Unsloth Desktop(通常爲 8080)

探測時會嘗試連接 127.0.0.1、localhost、host.docker.internal 以及從 /etc/resolv.conf 獲取的 Windows IP。

插件會輸出以下內容:

  • suggestedBaseURL / 每個服務的 URL
  • providerSnippets.yaml:可直接粘貼到 ~/.dsh/settings.yaml 的 llm-pi-ai.providers 下
  • ollamaModels:從 ollama list 獲取的精確模型 ID
  • connectivityPlaybook:當 HTTPS/DNS 也失敗時按順序嘗試的工具
  • hints:包含 Ollama n_ctx 與設置 contextWindow 的匹配建議、VRAM 等提示

安裝與啓用

通過 kit 安裝:

curl -fsSL https://raw.githubusercontent.com/173787247/dsh-wsl-kit/master/install.sh | KIT_SET=llm bash

或者單獨安裝:

dsh plugin --profile web add github:173787247/dsh-wsl-hostsvc

安裝完成後,重啓 dsh web 並打開一個新會話。

典型用法

在對話中要求代理執行 host_reach,指定配置文件:

  • profile: ollama
  • profile: lmstudio
  • profile: vllm
  • profile: llama
  • profile: all

如果探測不到服務,請檢查 Windows 端是否綁定在迴環地址之外(例如 OLLAMA_HOST=0.0.0.0:11434),或者啓用 WSL 鏡像網絡模式後重新探測。

注意事項

  • 依賴版本:需要 dsh >= 0.1.2(插件版本 0.4.3)。
  • 探測範圍:僅探測 Windows 主機上的本地 OpenAI 兼容服務器(host_reach)。它不配置雲端 DeepSeek;對於 V4.1 Flash,請在設置中使用模型 ID deepseek-flash。
  • API 就緒:TCP 端口開放不等於 API 就緒。
  • Ollama 上下文問題:如果 num_ctx 與設置中的 contextWindow 不匹配,可能會遇到 400 錯誤。建議設置 Ollama 的 num_ctx(例如 32768)並在設置中匹配該值。
  • Unsloth 區別:注意 Unsloth Desktop(通過 winget 安裝)與 Unsloth Studio(目錄 ~/.unsloth/studio)的區別。Desktop 通常在 8080 端口暴露 OpenAI /v1。
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜