前言¶
DeepSeek Harness (dsh) 采用插件化架构。在构建智能体时,如果需要模型给出结构化的决策结果(如概率分布、置信度),而非自由文本,直接调用大模型往往难以获取精确数据。官方 Jev (TypeSafe) API 虽然提供此能力,但存在密钥获取和网络限制。dsh-jev-adapter 插件解决了这一问题,它能在 DSH 中注册 jev_decide 工具,将 Jev(System One)的决策模型范式套用在任何 OpenAI 兼容的 LLM 上,默认通道无需 TypeSafe API key。
这是什么¶
BetterZflyee 维护的 DSH 插件。它是一个适配器,核心价值在于通过注册 jev_decide 工具,让任意 OpenAI 兼容模型支持类型化决策范式。你可以将其视为一个转换层,它将用户的自然语言指令转换为 Jev 的类型化问题(choice/score/boolean),并将模型的回答解析为结构化的概率分布。
核心功能¶
- 工具注册:在 DeepSeek Harness 中注册
jev_decide工具,供 Agent 调用。 - 问题类型支持:支持
choice(选择)、score(评分)、boolean(布尔)三种问题类型。 - 模型兼容:默认使用
openai通道,支持任何 OpenAI 兼容的端点(DeepSeek API、Ollama、vLLM 等),也支持typesafe通道直连官方 API。 - 特殊处理:能处理模型在
reasoning_content中回答而content为空的情况。 - 容错机制:支持 429/5xx 错误的指数退避重试(默认 3 次);概率和不为 1 时自动重新归一化;全零答案退化为均匀分布。
安装与启用¶
通过 DSH 的插件安装命令添加:
dsh plugin --profile <profile> add github:BetterZflyee/dsh-jev-adapter
安装后需配置环境变量或修改配置文件。对于默认的 openai 通道,无需 TypeSafe API key,仅需配置 OpenAI 兼容端点的密钥:
# 设置 OpenAI 兼容端点的密钥
export JEV_OPENAI_API_KEY="sk-..."
# 可选配置覆盖
# export JEV_BASE_URL="https://api.deepseek.com/v1"
# export JEV_MODEL="deepseek-chat"
也可在 cordis.patch.yml 中进行插件配置,指定 channel(默认为 openai)和相应的 apiKey、baseURL 等参数。
典型用法¶
Agent 可以直接通过对话触发 jev_decide 工具。例如,对 12 条工单进行分类:
把这 12 条工单分类:部门 + 紧急度 + 客户情绪
Agent 会将这组判断作为类型化问题,打包进一次 jev_decide 调用,并返回一张概率分布表。基于返回的置信度,Agent 可以进行路由决策:
confidence ≥ 0.85→ 自动执行0.5 – 0.85→ 生成草稿,请人工确认< 0.5→ 转人工处理
适用场景与注意¶
- 适用场景:当你需要模型输出结构化的决策概率(如多选概率、打分概率)时;当你使用本地部署的模型(Ollama/vLLM)或第三方网关,无法获取或不想使用官方 TypeSafe API 时。
- 注意:
- 在
openai通道下,模型输出的概率是“自述的估计值”,并非数学上严格校准的概率,每个结果都应视为带有此提示。 - 插件以当前 dsh 进程的权限运行,安装前建议检查源码(特别是
lib/adapter.js中的提示词逻辑)和许可证(MIT)。
- 在
短结尾¶
dsh-jev-adapter 让开发者得以在不依赖特定 API Key 和网络环境的前提下,利用现有的 OpenAI 兼容模型获得类似 Jev 的结构化决策能力。它将决策范式与通用 LLM 结合,适用于需要概率化路由和结构化输出的智能体场景。