dsh-multi-model-provider:模型目錄、畫像構建與 Agent 模型選擇

前言

在 DeepSeek Harness (DSH) 的插件化架構中,管理多模型提供商的目錄、構建模型畫像以及爲 Agent 選擇主模型是日常開發中的常見需求。dsh-multi-model-provider 插件由 AlexKaiqi 維護,旨在提供統一的模型目錄、畫像構建支持、Agent 模型選擇以及多模態運行時能力。該插件使用 MIT 許可證,屬於模型推理類別。

核心功能

該插件主要提供以下三項核心能力:

  1. 模型註冊:將語言模型和其他任務模型(如圖像、語音、視頻、Embedding 等)註冊到統一的目錄中。
  2. 畫像構建:爲已註冊或選中的模型提供基於證據的畫像,並進行八 Token 速度探測。
  3. Agent 模型選擇:從動態目錄中選擇 Agent 的主語言模型。

使用方法

Agent 模型選擇

其他插件通過注入 modelCatalog 來讀取目錄信息。要獲取當前可用的 Agent 模型候選列表,可以使用 snapshot()。隨後,通過 selectAgentModel() 指定 Agent 使用的主模型。

// 注入 modelCatalog
export const inject = ['modelCatalog']

// 獲取當前的語言模型候選列表
const snapshot = await ctx.modelCatalog.snapshot()

// 選擇指定的主模型
await ctx.modelCatalog.selectAgentModel({
  provider: 'volcengine',
  model: 'doubao-seed-1-6',
})

模型路由與任務模型管理

插件提供了命令行工具來管理模型路由和任務模型註冊。

語言模型路由

使用 configure_model_route 和 list_model_routes 來管理主語言模型。

// 配置模型路由
await ctx.modelCatalog.configure_model_route(...)

// 列出所有模型路由
await ctx.modelCatalog.list_model_routes()

任務模型註冊

對於非語言模型(如 reranking 等),使用 register_task_model 和 list_task_models 進行註冊和管理。

// 註冊任務模型
await ctx.modelCatalog.register_task_model(...)

// 列出任務模型註冊
await ctx.modelCatalog.list_task_models()

禁用路由

如果需要禁用連接上的所有路由,可以在 select_task_models 中傳入空數組。

// 禁用連接上的所有路由
await ctx.modelCatalog.select_task_models({ ids: [] })

設置界面配置

在 DSH 0.1.2-rc.1 及更高版本中,可以通過設置界面直接配置火山引擎(Volcengine Ark)。操作路徑爲:
Settings → Models → Configure Volcengine Ark。

在該頁面中,需要輸入官方按量計費的基礎 URL https://ark.cn-beijing.volces.com/api/v3,填寫 API Key,獲取賬戶目錄,選擇模型 ID,然後保存。列表中的錯誤依然可見,也可以手動輸入精確的模型 ID 或 ep-* 端點 ID。

重要說明

  1. 非語言模型調用限制:安裝此插件並不會使圖像、語音或實時模型變爲可調用狀態。實時模型的適配器由 dsh-realtime-voice 提供。
  2. 路由狀態:路由在被聲明爲“僅註冊”狀態,直到其聲明的運行時適配器和憑據可用。
  3. 已禁用的模型:OpenAI Sora 2 / Pro 和 Music 3.0 因提供者 API 爲遺留接口或新用戶不可用而保持禁用狀態。
  4. 元數據持久化:僅用於發現的 maxTokens 元數據會被驗證,但不會作爲請求默認值持久化,以防止大容量導致不兼容的 max_output_tokens 值。
  5. 憑據引用:註冊工具接受憑據引用(如 OPENAPI_KEY),而不是實際的 API Key 值。用戶僅在安全的設置憑據字段中輸入實際值。
  6. 數據真實性:插件不會編造基準測試分數、延遲範圍或 lastProbe 結果。lastProbe 僅通過 Agent 顯式調用 validate_model_portrait(liveProbe=true) 記錄。

總結

該插件是 DeepSeek Harness 中管理多模型生態的核心工具之一。通過它,開發者可以集中管理模型目錄和畫像,並通過編程方式控制 Agent 的模型選擇。更多細節和源碼可參考項目倉庫。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜