DSH Architecture Lab:在隔离沙箱中对照比较智能体记忆与规划架构

前言

在 DSH 里尝试不同记忆与规划方案时,常见问题是试验不可比:提示词漂移、多次试验共享上下文、API 花费没有上限,最终很难判断是架构本身有效还是实验条件不干净。若你需要在同一编码任务上,用可控条件对比「原生对话」「长期记忆」「分步规划」等组合,并依赖外部测试而非智能体自述来打分,可以了解 Chih-Kai-Wang 维护的 DSH Architecture Lab(chih-kai-wang/dsh-architecture-lab)。项目在 SkillHub 社区目录中归类为「记忆」;当前 GitHub 星标为 0,版本为开发预览 0.1.0-dev.9,许可证 MIT。

这是什么

DSH Architecture Lab 是一个无图形界面的 DSH 插件与 CLI。它在相同的软件工程任务上运行不同的 AI 智能体架构配方,比较成功率、耗时与成本。每次试验在独立沙箱中执行,计费代理对每次 API 调用记账并执行预算上限(默认 NT$300),独立评判子进程运行外部测试,避免分数依赖智能体自己的报告。

维护者:Chih-Kai-Wang。源码与文档:GitHub;社区目录页:SkillHub。DeepSeek Harness 的生态思路是「一切皆插件」;SkillHub 为独立社区站点,与 DeepSeek / 幻方无官方从属关系。

核心功能

资料中已明确的能力如下。

沙箱隔离

试验在隔离环境中运行:Lima Linux 虚拟机容器,或 macOS Seatbelt 沙箱,各自拥有独立的内存、文件系统与进程。

预算计量

通过带 SQLite 事务锁的计费代理(Broker proxy)实时计量每次 API 派发,并强制执行预算上限。

外部评判

外部测试在独立子进程中运行,评分不依赖智能体自行汇报的结果。

四种对照配方

配方 记忆机制 规划机制 特征
A 原生 DSH Context 原生 DSH 直接执行 基线:极简单智能体对话推理
B Engram 长期记忆 原生 DSH 直接执行 记忆增强:向量嵌入检索历史上下文
C 原生 DSH Context Plan-and-Execute 规划增强:显式步骤分解与顺序验证
D Engram 长期记忆 Plan-and-Execute 全混合:历史经验检索与结构化执行结合

无头插件形态

没有 Web 前端,面向 CLI 批量运行与结构化报告。package.json 中通过 exports 暴露 ./src/plugin.mjs,并在 dsh.bundle.patch 指向 cordis.patch.yml,作为 DSH 插件 bundle 的一部分。

已公开的一次实况结果(仅供参考)

在冻结研究协议下,项目曾用 DeepSeek-V4.1-Flash 对任务 stale-fee(费用计算修复)各配方各跑一轮。四轮均通过 7 项外部测试;资料中记载 B(Engram 记忆)请求数、墙钟时间与 TWD 成本相对最低。README 明确说明这只是单一任务上的一次四轮运行,尚不能据此对所有架构做普遍排序;完整数字写在本地 state/comparison-v2.json,未提交到仓库,无法仅通过 GitHub 复现核对表中数值。

付费相关的 daily-mode 任务在资料中标注为暂缓,直至产品冒烟验收通过。

环境与准备

运行前请满足 README 列出的依赖:

  • Node.js:v24 或更高
  • Python:3.10 或更高
  • 虚拟化:macOS 原生 Seatbelt,或 Lima Linux VM(Docker)

在已获得项目源码的前提下(例如从上述 GitHub 或 SkillHub 页面获取),可在不配置 API 密钥的情况下先做本地检查。

安装与启用

已抓取资料中未出现 dsh plugin add github:owner/repo 一类安装命令;请以仓库内 package.json 与 DSH bundle 配置为准,将插件集成到本地 DSH 工作流。下列命令来自 README 的 Quick start,用于验证环境与进入 lab CLI。

先做依赖与测试:

# 运行全部 85 个单元与集成测试(资料称约 1.7s)
npm test

再检查运行环境、虚拟机、Docker 镜像与定价状态:

npm run lab -- doctor

查看当前选中配方、剩余预算与试验历史:

npm run lab -- status

安装或启用前,请自行阅读源码与 MIT 许可证;插件以当前 dsh 进程权限运行,沙箱与代理会访问文件系统和网络,适合在可信环境中使用。

典型用法

研究试验管理

选定配方、离线合规检查、在协议保护下执行实况试验、生成对比报告:

npm run lab -- select B               # 选择当前配方 A/B/C/D
npm run lab -- check-one              # 离线合规检查
npm run lab -- run-one stale-fee 1 B  # 执行任务 stale-fee 的第 1 次实况试验,配方 B
npm run lab -- report                 # 生成对比报告 comparison-v2.json
npm run lab -- stop                   # 优雅终止进行中的试验

对比报告默认写入 state/comparison-v2.json。

日常工作区任务

资料中还提供与项目快照、任务起草、预览 diff、采纳变更、导出相关的 CLI(daily 模式;付费试验暂缓):

npm run lab -- daily-import project.json
npm run lab -- daily-task task.json
npm run lab -- daily-preview <runId>
npm run lab -- daily-adopt <runId>
npm run lab -- daily-export <runId> <dir>

项目结构(便于定位代码)

├── src/                # 核心引擎(Broker 代理、Judge 沙箱、Manager 协调)
├── tasks/              # 受控任务规格
├── test/               # 85 套自动化测试
├── state/              # 持久化试验账本(SQLite、预算、协议)
├── docs/               # 架构说明与实证报告
├── containers/         # Linux VM Docker 与进程监督
└── package.json        # 元数据与脚本入口

完整研究计划在资料中描述为六项任务、每项每配方三次尝试(共 72 次),目前仅完成首轮四轮;其余协议见仓库 docs/acceptance-status.md。

适用场景与注意

适合谁:需要在 DSH 上系统比较记忆与规划架构、愿意维护 Node/Python 与 Lima/Seatbelt 环境、并接受开发预览阶段协议与报告尚不完整的开发者或研究人员。

不适合或需等待:若只需单个智能体日常编码、不希望搭建沙箱与计费代理,或依赖已稳定的付费 daily 流水线,当前 0.1.0-dev.9 预览版可能过重;v0.1 仍待独立终审与稳定产品验收,资料未宣称任一架构「胜出」或 continual learning 结论。

安全与合规:试验隔离是为减少试验间串扰;不等同于替你审查第三方模型与 API 合约。启用插件前检查 cordis.patch.yml 与 src/plugin.mjs 等行为是否符合你的策略。

结尾

DSH Architecture Lab 把「同一任务、四种配方、隔离沙箱、预算上限、外部测试评判」捆成一条可重复的 CLI 路径,用来观察记忆与规划组件在真实编码任务上的差异,而不是靠单次对话印象做判断。进一步细节与简体中文 README 见 GitHub 仓库,社区条目见 SkillHub 目录页。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye