前言¶
在 DSH 裏嘗試不同記憶與規劃方案時,常見問題是試驗不可比:提示詞漂移、多次試驗共享上下文、API 花費沒有上限,最終很難判斷是架構本身有效還是實驗條件不乾淨。若你需要在同一編碼任務上,用可控條件對比「原生對話」「長期記憶」「分步規劃」等組合,並依賴外部測試而非智能體自述來打分,可以瞭解 Chih-Kai-Wang 維護的 DSH Architecture Lab(chih-kai-wang/dsh-architecture-lab)。項目在 SkillHub 社區目錄中歸類爲「記憶」;當前 GitHub 星標爲 0,版本爲開發預覽 0.1.0-dev.9,許可證 MIT。
這是什麼¶
DSH Architecture Lab 是一個無圖形界面的 DSH 插件與 CLI。它在相同的軟件工程任務上運行不同的 AI 智能體架構配方,比較成功率、耗時與成本。每次試驗在獨立沙箱中執行,計費代理對每次 API 調用記賬並執行預算上限(默認 NT$300),獨立評判子進程運行外部測試,避免分數依賴智能體自己的報告。
維護者:Chih-Kai-Wang。源碼與文檔:GitHub;社區目錄頁:SkillHub。DeepSeek Harness 的生態思路是「一切皆插件」;SkillHub 爲獨立社區站點,與 DeepSeek / 幻方無官方從屬關係。
核心功能¶
資料中已明確的能力如下。
沙箱隔離¶
試驗在隔離環境中運行:Lima Linux 虛擬機容器,或 macOS Seatbelt 沙箱,各自擁有獨立的內存、文件系統與進程。
預算計量¶
通過帶 SQLite 事務鎖的計費代理(Broker proxy)實時計量每次 API 派發,並強制執行預算上限。
外部評判¶
外部測試在獨立子進程中運行,評分不依賴智能體自行彙報的結果。
四種對照配方¶
| 配方 | 記憶機制 | 規劃機制 | 特徵 |
|---|---|---|---|
| A | 原生 DSH Context | 原生 DSH 直接執行 | 基線:極簡單智能體對話推理 |
| B | Engram 長期記憶 | 原生 DSH 直接執行 | 記憶增強:向量嵌入檢索歷史上下文 |
| C | 原生 DSH Context | Plan-and-Execute | 規劃增強:顯式步驟分解與順序驗證 |
| D | Engram 長期記憶 | Plan-and-Execute | 全混合:歷史經驗檢索與結構化執行結合 |
無頭插件形態¶
沒有 Web 前端,面向 CLI 批量運行與結構化報告。package.json 中通過 exports 暴露 ./src/plugin.mjs,並在 dsh.bundle.patch 指向 cordis.patch.yml,作爲 DSH 插件 bundle 的一部分。
已公開的一次實況結果(僅供參考)¶
在凍結研究協議下,項目曾用 DeepSeek-V4.1-Flash 對任務 stale-fee(費用計算修復)各配方各跑一輪。四輪均通過 7 項外部測試;資料中記載 B(Engram 記憶)請求數、牆鍾時間與 TWD 成本相對最低。README 明確說明這只是單一任務上的一次四輪運行,尚不能據此對所有架構做普遍排序;完整數字寫在本地 state/comparison-v2.json,未提交到倉庫,無法僅通過 GitHub 復現覈對表中數值。
付費相關的 daily-mode 任務在資料中標註爲暫緩,直至產品冒煙驗收通過。
環境與準備¶
運行前請滿足 README 列出的依賴:
- Node.js:v24 或更高
- Python:3.10 或更高
- 虛擬化:macOS 原生 Seatbelt,或 Lima Linux VM(Docker)
在已獲得項目源碼的前提下(例如從上述 GitHub 或 SkillHub 頁面獲取),可在不配置 API 密鑰的情況下先做本地檢查。
安裝與啓用¶
已抓取資料中未出現 dsh plugin add github:owner/repo 一類安裝命令;請以倉庫內 package.json 與 DSH bundle 配置爲準,將插件集成到本地 DSH 工作流。下列命令來自 README 的 Quick start,用於驗證環境與進入 lab CLI。
先做依賴與測試:
# 運行全部 85 個單元與集成測試(資料稱約 1.7s)
npm test
再檢查運行環境、虛擬機、Docker 鏡像與定價狀態:
npm run lab -- doctor
查看當前選中配方、剩餘預算與試驗歷史:
npm run lab -- status
安裝或啓用前,請自行閱讀源碼與 MIT 許可證;插件以當前 dsh 進程權限運行,沙箱與代理會訪問文件系統和網絡,適合在可信環境中使用。
典型用法¶
研究試驗管理¶
選定配方、離線合規檢查、在協議保護下執行實況試驗、生成對比報告:
npm run lab -- select B # 選擇當前配方 A/B/C/D
npm run lab -- check-one # 離線合規檢查
npm run lab -- run-one stale-fee 1 B # 執行任務 stale-fee 的第 1 次實況試驗,配方 B
npm run lab -- report # 生成對比報告 comparison-v2.json
npm run lab -- stop # 優雅終止進行中的試驗
對比報告默認寫入 state/comparison-v2.json。
日常工作區任務¶
資料中還提供與項目快照、任務起草、預覽 diff、採納變更、導出相關的 CLI(daily 模式;付費試驗暫緩):
npm run lab -- daily-import project.json
npm run lab -- daily-task task.json
npm run lab -- daily-preview <runId>
npm run lab -- daily-adopt <runId>
npm run lab -- daily-export <runId> <dir>
項目結構(便於定位代碼)¶
├── src/ # 核心引擎(Broker 代理、Judge 沙箱、Manager 協調)
├── tasks/ # 受控任務規格
├── test/ # 85 套自動化測試
├── state/ # 持久化試驗賬本(SQLite、預算、協議)
├── docs/ # 架構說明與實證報告
├── containers/ # Linux VM Docker 與進程監督
└── package.json # 元數據與腳本入口
完整研究計劃在資料中描述爲六項任務、每項每配方三次嘗試(共 72 次),目前僅完成首輪四輪;其餘協議見倉庫 docs/acceptance-status.md。
適用場景與注意¶
適合誰:需要在 DSH 上系統比較記憶與規劃架構、願意維護 Node/Python 與 Lima/Seatbelt 環境、並接受開發預覽階段協議與報告尚不完整的開發者或研究人員。
不適合或需等待:若只需單個智能體日常編碼、不希望搭建沙箱與計費代理,或依賴已穩定的付費 daily 流水線,當前 0.1.0-dev.9 預覽版可能過重;v0.1 仍待獨立終審與穩定產品驗收,資料未宣稱任一架構「勝出」或 continual learning 結論。
安全與合規:試驗隔離是爲減少試驗間串擾;不等同於替你審查第三方模型與 API 合約。啓用插件前檢查 cordis.patch.yml 與 src/plugin.mjs 等行爲是否符合你的策略。
結尾¶
DSH Architecture Lab 把「同一任務、四種配方、隔離沙箱、預算上限、外部測試評判」捆成一條可重複的 CLI 路徑,用來觀察記憶與規劃組件在真實編碼任務上的差異,而不是靠單次對話印象做判斷。進一步細節與簡體中文 README 見 GitHub 倉庫,社區條目見 SkillHub 目錄頁。