dsh-jev-adapter:将 Jev 决策模型范式接入任意 OpenAI 兼容 LLM

前言

DeepSeek Harness (dsh) 采用插件化架构。在构建智能体时,如果需要模型给出结构化的决策结果(如概率分布、置信度),而非自由文本,直接调用大模型往往难以获取精确数据。官方 Jev (TypeSafe) API 虽然提供此能力,但存在密钥获取和网络限制。dsh-jev-adapter 插件解决了这一问题,它能在 DSH 中注册 jev_decide 工具,将 Jev(System One)的决策模型范式套用在任何 OpenAI 兼容的 LLM 上,默认通道无需 TypeSafe API key。

这是什么

BetterZflyee 维护的 DSH 插件。它是一个适配器,核心价值在于通过注册 jev_decide 工具,让任意 OpenAI 兼容模型支持类型化决策范式。你可以将其视为一个转换层,它将用户的自然语言指令转换为 Jev 的类型化问题(choice/score/boolean),并将模型的回答解析为结构化的概率分布。

核心功能

  • 工具注册:在 DeepSeek Harness 中注册 jev_decide 工具,供 Agent 调用。
  • 问题类型支持:支持 choice(选择)、score(评分)、boolean(布尔)三种问题类型。
  • 模型兼容:默认使用 openai 通道,支持任何 OpenAI 兼容的端点(DeepSeek API、Ollama、vLLM 等),也支持 typesafe 通道直连官方 API。
  • 特殊处理:能处理模型在 reasoning_content 中回答而 content 为空的情况。
  • 容错机制:支持 429/5xx 错误的指数退避重试(默认 3 次);概率和不为 1 时自动重新归一化;全零答案退化为均匀分布。

安装与启用

通过 DSH 的插件安装命令添加:

dsh plugin --profile <profile> add github:BetterZflyee/dsh-jev-adapter

安装后需配置环境变量或修改配置文件。对于默认的 openai 通道,无需 TypeSafe API key,仅需配置 OpenAI 兼容端点的密钥:

# 设置 OpenAI 兼容端点的密钥
export JEV_OPENAI_API_KEY="sk-..."

# 可选配置覆盖
# export JEV_BASE_URL="https://api.deepseek.com/v1"
# export JEV_MODEL="deepseek-chat"

也可在 cordis.patch.yml 中进行插件配置,指定 channel(默认为 openai)和相应的 apiKey、baseURL 等参数。

典型用法

Agent 可以直接通过对话触发 jev_decide 工具。例如,对 12 条工单进行分类:

把这 12 条工单分类:部门 + 紧急度 + 客户情绪

Agent 会将这组判断作为类型化问题,打包进一次 jev_decide 调用,并返回一张概率分布表。基于返回的置信度,Agent 可以进行路由决策:

  • confidence ≥ 0.85 → 自动执行
  • 0.5 – 0.85 → 生成草稿,请人工确认
  • < 0.5 → 转人工处理

适用场景与注意

  • 适用场景:当你需要模型输出结构化的决策概率(如多选概率、打分概率)时;当你使用本地部署的模型(Ollama/vLLM)或第三方网关,无法获取或不想使用官方 TypeSafe API 时。
  • 注意:
    • 在 openai 通道下,模型输出的概率是“自述的估计值”,并非数学上严格校准的概率,每个结果都应视为带有此提示。
    • 插件以当前 dsh 进程的权限运行,安装前建议检查源码(特别是 lib/adapter.js 中的提示词逻辑)和许可证(MIT)。

短结尾

dsh-jev-adapter 让开发者得以在不依赖特定 API Key 和网络环境的前提下,利用现有的 OpenAI 兼容模型获得类似 Jev 的结构化决策能力。它将决策范式与通用 LLM 结合,适用于需要概率化路由和结构化输出的智能体场景。

GitHub 仓库

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜