dsh-jev-thinking:自動爲 Prompt 決定思考深度

前言

在使用 DeepSeek Harness (DSH) 開發智能體時,爲每條 Prompt 設定合適的思考深度(reasoningEffort)是一項重複且容易出錯的工作。手動調整不僅效率低,還難以保證一致性。dsh-jev-thinking 插件通過接入 TypeSafe 的 Jev 模型,自動分析每條消息所需的推理強度,並將結果寫入請求,從而簡化了這一流程。

它是什麼

dsh-jev-thinking 是由 kyan001 維護的模型推理類插件,遵循 MIT 許可證。它通過詢問 Jev 模型“當前這條消息需要多少內部推理”,來動態決定模型請求的 reasoningEffort 參數。

核心功能

該插件主要實現以下邏輯:
1. 讀取路由選項:插件會讀取當前路由提供的思考層級(如 off、low、high),並將其作爲選項發送給 Jev。Jev 無法選擇不支持的層級,插件也不會在判斷後調整層級。
2. 單輪提問:無論一條消息包含多少次工具調用,插件只向 Jev 提問一次。
3. 上下文補全:爲了防止模型對簡短回覆(如僅一個“好”字)誤判爲無需推理,插件會將上一輪的助手回覆也發送給 Jev。

安裝

在終端中安裝插件,需指定 Profile 名稱(示例中使用 web):

dsh plugin --profile web add dsh-jev-thinking

或在 DSH 內部通過 Agent 執行:

plugin_manager { action: install_bundle, target: "dsh-jev-thinking" }

配置與使用

安裝後需配置 API Key。可以在 DSH 插件頁面手動配置,或直接在 ~/.dsh/.credentials.yaml 中設置。

插件默認配置項如下:

字段 默認值 說明
apiKeyRef TYPESAFE_API_KEY 憑證存儲中的名稱
endpoint https://api.typesafe.ai/v1/systemone System One 端點
model jev-latest 回答問題的模型
timeoutMs 2500 超時時間,超時後觸發降級
level 空 失敗時的降級層級,需路由支持
verbose false 是否記錄每次決策的日誌

注意事項

使用該插件時需注意以下限制:
* 上下文依賴:插件只使用最後一條消息,引用舊消息(如“照你說的做”)可能被誤判。
* Token 消耗:前一條助手回合會被髮送給 TypeSafe,消耗約 750-9600 個 token。
* 路由支持:提供 xhigh 或 max 路由會將其添加到選項中,模型可能選擇最高檔位,導致成本增加。
* 降級策略:額度不足時不降級,每個 Prompt 都會嘗試付費。
* 無限制選項:沒有設置可排除或限制級別的選項。

結尾

該插件通過自動化決策減少了手動調優的工作量,適合需要精細控制模型推理深度的 DSH 用戶。相關代碼與目錄可參考 GitHub。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜