dsh-jev-adapter:將 Jev 決策模型範式接入任意 OpenAI 兼容 LLM

前言

DeepSeek Harness (dsh) 採用插件化架構。在構建智能體時,如果需要模型給出結構化的決策結果(如概率分佈、置信度),而非自由文本,直接調用大模型往往難以獲取精確數據。官方 Jev (TypeSafe) API 雖然提供此能力,但存在密鑰獲取和網絡限制。dsh-jev-adapter 插件解決了這一問題,它能在 DSH 中註冊 jev_decide 工具,將 Jev(System One)的決策模型範式套用在任何 OpenAI 兼容的 LLM 上,默認通道無需 TypeSafe API key。

這是什麼

BetterZflyee 維護的 DSH 插件。它是一個適配器,核心價值在於通過註冊 jev_decide 工具,讓任意 OpenAI 兼容模型支持類型化決策範式。你可以將其視爲一個轉換層,它將用戶的自然語言指令轉換爲 Jev 的類型化問題(choice/score/boolean),並將模型的回答解析爲結構化的概率分佈。

核心功能

  • 工具註冊:在 DeepSeek Harness 中註冊 jev_decide 工具,供 Agent 調用。
  • 問題類型支持:支持 choice(選擇)、score(評分)、boolean(布爾)三種問題類型。
  • 模型兼容:默認使用 openai 通道,支持任何 OpenAI 兼容的端點(DeepSeek API、Ollama、vLLM 等),也支持 typesafe 通道直連官方 API。
  • 特殊處理:能處理模型在 reasoning_content 中回答而 content 爲空的情況。
  • 容錯機制:支持 429/5xx 錯誤的指數退避重試(默認 3 次);概率和不爲 1 時自動重新歸一化;全零答案退化爲均勻分佈。

安裝與啓用

通過 DSH 的插件安裝命令添加:

dsh plugin --profile <profile> add github:BetterZflyee/dsh-jev-adapter

安裝後需配置環境變量或修改配置文件。對於默認的 openai 通道,無需 TypeSafe API key,僅需配置 OpenAI 兼容端點的密鑰:

# 設置 OpenAI 兼容端點的密鑰
export JEV_OPENAI_API_KEY="sk-..."

# 可選配置覆蓋
# export JEV_BASE_URL="https://api.deepseek.com/v1"
# export JEV_MODEL="deepseek-chat"

也可在 cordis.patch.yml 中進行插件配置,指定 channel(默認爲 openai)和相應的 apiKey、baseURL 等參數。

典型用法

Agent 可以直接通過對話觸發 jev_decide 工具。例如,對 12 條工單進行分類:

把這 12 條工單分類:部門 + 緊急度 + 客戶情緒

Agent 會將這組判斷作爲類型化問題,打包進一次 jev_decide 調用,並返回一張概率分佈表。基於返回的置信度,Agent 可以進行路由決策:

  • confidence ≥ 0.85 → 自動執行
  • 0.5 – 0.85 → 生成草稿,請人工確認
  • < 0.5 → 轉人工處理

適用場景與注意

  • 適用場景:當你需要模型輸出結構化的決策概率(如多選概率、打分概率)時;當你使用本地部署的模型(Ollama/vLLM)或第三方網關,無法獲取或不想使用官方 TypeSafe API 時。
  • 注意:
    • 在 openai 通道下,模型輸出的概率是“自述的估計值”,並非數學上嚴格校準的概率,每個結果都應視爲帶有此提示。
    • 插件以當前 dsh 進程的權限運行,安裝前建議檢查源碼(特別是 lib/adapter.js 中的提示詞邏輯)和許可證(MIT)。

短結尾

dsh-jev-adapter 讓開發者得以在不依賴特定 API Key 和網絡環境的前提下,利用現有的 OpenAI 兼容模型獲得類似 Jev 的結構化決策能力。它將決策範式與通用 LLM 結合,適用於需要概率化路由和結構化輸出的智能體場景。

GitHub 倉庫

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜