DeepSeek Harness 插件介紹:dsh-llm-provider

DeepSeek Harness (DSH) 採用插件化架構,允許開發者通過插件擴展功能。在模型推理和配置管理方面,原有的內置條目(如 llm-pi-ai 和 llm-deepseek)存在更新滯後、缺乏配額可視化和模型選擇靈活性等問題。dsh-llm-provider 插件針對這些痛點進行了增強。

插件簡介

dsh-llm-provider 是由維護者 imchangchang 開發的插件,定位爲 DSH 的 LLM 提供商插件。它接管了 DSH 內置的多個條目,並提供自維護的 pi-ai 橋接、配額查詢以及可視化的模型選擇和設置界面。

核心功能

該插件主要提供以下能力:

  • 替換內置條目:接管 llm-pi-ai、llm-deepseek、ui-model-selection 以及 ui-settings-models 四個條目。
  • 自維護 pi-ai 橋接:獨立維護 pi-ai SDK,能夠跟隨上游更新,無需等待 DSH 的官方版本發佈。
  • 配額查詢:支持查詢每個提供商的餘額和用量窗口,並在界面中展示。
  • 模型選擇器:提供帶有提供商過濾、功能徽章和模型詳情卡片的模型選擇器。
  • 服務商設置:提供可視化的提供商管理頁面,支持添加、移除、測試和刷新服務商。

安裝與啓用

確保你的 DSH 版本爲 0.1.6-alpha.1 或更新版本(包含 0.2 系列)。

在終端中執行以下命令安裝插件:

dsh plugin --profile web add @dsh-one/dsh-llm-provider

安裝後必須重啓 dsh web 進程,因爲插件的插件樹結構發生了變化,刷新網頁無法加載新代碼。

典型用法

安裝並重啓後,進入設置頁面進行配置:

  1. 進入 設置 -> 模型服務 -> 服務商。
  2. 插件會自動聲明一個 DeepSeek 路由。新安裝時,DeepSeek 卡片默認爲空,點擊展開後填寫 API 密鑰。
  3. 對於其他提供商,點擊 + 添加供應商,選擇預設、填寫端點和密鑰,通過測試後保存。
  4. 保存後,卡片將顯示餘額信息,模型選擇器也會同步顯示該提供商的配額快照。

注意事項

  • 中文界面:目前插件僅提供中文 UI,暫無英文界面。
  • 重啓機制:升級已安裝的插件時,必須重啓 DSH 進程才能生效,單純刷新頁面是不夠的。
  • 依賴說明:發佈包中不包含 vendor 目錄。如果目錄缺失,表示插件未安裝,而非版本不兼容。
  • 路由聲明:內置的 llm-deepseek 條目已被禁用,DeepSeek 路由由該插件在配置中聲明。

總結

dsh-llm-provider 爲 DSH 用戶提供了更貼近上游的模型支持、可視化的配額管理以及更靈活的模型配置方式。相關源碼及文檔可參考項目倉庫。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜