前言¶
DeepSeek Harness (dsh) 採用插件化架構。在構建智能體時,如果需要模型給出結構化的決策結果(如概率分佈、置信度),而非自由文本,直接調用大模型往往難以獲取精確數據。官方 Jev (TypeSafe) API 雖然提供此能力,但存在密鑰獲取和網絡限制。dsh-jev-adapter 插件解決了這一問題,它能在 DSH 中註冊 jev_decide 工具,將 Jev(System One)的決策模型範式套用在任何 OpenAI 兼容的 LLM 上,默認通道無需 TypeSafe API key。
這是什麼¶
BetterZflyee 維護的 DSH 插件。它是一個適配器,核心價值在於通過註冊 jev_decide 工具,讓任意 OpenAI 兼容模型支持類型化決策範式。你可以將其視爲一個轉換層,它將用戶的自然語言指令轉換爲 Jev 的類型化問題(choice/score/boolean),並將模型的回答解析爲結構化的概率分佈。
核心功能¶
- 工具註冊:在 DeepSeek Harness 中註冊
jev_decide工具,供 Agent 調用。 - 問題類型支持:支持
choice(選擇)、score(評分)、boolean(布爾)三種問題類型。 - 模型兼容:默認使用
openai通道,支持任何 OpenAI 兼容的端點(DeepSeek API、Ollama、vLLM 等),也支持typesafe通道直連官方 API。 - 特殊處理:能處理模型在
reasoning_content中回答而content爲空的情況。 - 容錯機制:支持 429/5xx 錯誤的指數退避重試(默認 3 次);概率和不爲 1 時自動重新歸一化;全零答案退化爲均勻分佈。
安裝與啓用¶
通過 DSH 的插件安裝命令添加:
dsh plugin --profile <profile> add github:BetterZflyee/dsh-jev-adapter
安裝後需配置環境變量或修改配置文件。對於默認的 openai 通道,無需 TypeSafe API key,僅需配置 OpenAI 兼容端點的密鑰:
# 設置 OpenAI 兼容端點的密鑰
export JEV_OPENAI_API_KEY="sk-..."
# 可選配置覆蓋
# export JEV_BASE_URL="https://api.deepseek.com/v1"
# export JEV_MODEL="deepseek-chat"
也可在 cordis.patch.yml 中進行插件配置,指定 channel(默認爲 openai)和相應的 apiKey、baseURL 等參數。
典型用法¶
Agent 可以直接通過對話觸發 jev_decide 工具。例如,對 12 條工單進行分類:
把這 12 條工單分類:部門 + 緊急度 + 客戶情緒
Agent 會將這組判斷作爲類型化問題,打包進一次 jev_decide 調用,並返回一張概率分佈表。基於返回的置信度,Agent 可以進行路由決策:
confidence ≥ 0.85→ 自動執行0.5 – 0.85→ 生成草稿,請人工確認< 0.5→ 轉人工處理
適用場景與注意¶
- 適用場景:當你需要模型輸出結構化的決策概率(如多選概率、打分概率)時;當你使用本地部署的模型(Ollama/vLLM)或第三方網關,無法獲取或不想使用官方 TypeSafe API 時。
- 注意:
- 在
openai通道下,模型輸出的概率是“自述的估計值”,並非數學上嚴格校準的概率,每個結果都應視爲帶有此提示。 - 插件以當前 dsh 進程的權限運行,安裝前建議檢查源碼(特別是
lib/adapter.js中的提示詞邏輯)和許可證(MIT)。
- 在
短結尾¶
dsh-jev-adapter 讓開發者得以在不依賴特定 API Key 和網絡環境的前提下,利用現有的 OpenAI 兼容模型獲得類似 Jev 的結構化決策能力。它將決策範式與通用 LLM 結合,適用於需要概率化路由和結構化輸出的智能體場景。