前言¶
DeepSeek Harness (DSH) 採用插件化架構,社區開發者可以通過插件擴展能力。在模型訓練與科研場景中,超參數調參往往面臨搜索空間大、實驗記錄混亂、難以撰寫論文表格等問題。
quick-research-campaign 是一個針對科研流水線的 DSH 插件。它不直接執行實驗訓練,而是專注於規劃搜索空間、記錄實驗狀態、對比基線與 SOTA,並生成可直接用於論文的材料。插件將超參數搜索轉化爲有界、去混雜的試驗矩陣,並自動計算邊際效應與混雜情況。
插件信息¶
- 名稱:quick-research-campaign
- 維護者:wswbx
- 許可證:MIT
- 定位:科研流水線、超參數調參、實驗歸檔
安裝與配置¶
安裝插件需要通過 DSH 的插件管理命令執行。安裝後需重啓對應的 profile 才能生效。
安裝¶
dsh plugin --profile web add quick-research-campaign
如果需要在本地開發或未發佈環境下安裝,可以使用本地文件路徑:
dsh plugin --profile web add "file:C:/path/to/quick-research-campaign"
卸載¶
dsh plugin --profile web remove quick-research-campaign
配置¶
插件通過 cordis.patch.yml 注入配置,用戶也可以覆蓋整段 config。
- id: tool-research-campaign
config:
maxTrialsPerCampaign: 64
| 字段 | 默認值 | 含義 |
|---|---|---|
maxTrialsPerCampaign |
包內默認 24 | 一次 campaign 可計劃的 trial 上限;超過上限的調用會被拒絕 |
核心功能¶
插件提供三個工具和一個技能。
1. research_sweep_plan:搜索空間規劃¶
將搜索空間展開爲有界、去混雜的試驗矩陣。
- 網格枚舉與採樣:預算足夠時枚舉完整笛卡爾積;預算不足時使用均勻採樣,避免固定步長截斷導致的參數共振(即相鄰維度系統性相關)。
- 排查缺失與混雜:報告哪些參數取值一次都沒被測到,以及哪些參數對被混雜(取值一一對應,貢獻無法分離)。
參數定義示例:
space: {
lr: {min:1e-5, max:1e-3, steps:4, log:true},
window: [4096, 8192, 32768],
gate_type: ["sigmoid","silu","none"]
}
2. research_sweep_record:實驗記賬¶
記錄 trial 的狀態及指標。
- 狀態記錄:記錄
ok(成功)、failed(失敗)、pruned(被剪枝)的狀態。 - 全量記錄:失敗的、被剪枝的也必須記錄,否則無法判斷搜索空間邊界。
- 數據校驗:狀態爲
ok但沒有任何指標的運行會被拒絕。
3. research_sweep_report:結果報告與歸因¶
按指標排名,生成對比報告。
- 對比分析:對比基線與 SOTA,計算相對差距。
- 邊際效應:計算每個參數的邊際效應,識別論文主角組件。
- 混雜檢查:檢查參數間的混雜情況。
- 材料清單:生成論文材料清單,未勾選項即爲實驗章節的欠缺內容。
報告輸出示例:
| # | trial | acc_32k | vs baseline | vs SOTA | gate_type | lr | window |
| 1 | t0011 | 72.7 | +4.6 WIN | +1.5 WIN | silu | 0.001 | 32768 |
- best over sota target: +1.5 (target beaten)
### gate_type
| value | mean acc_32k | trials |
| silu | 71.625 | 4 |
| sigmoid | 70.7333 | 3 |
| none | 68.9 | 3 |
4. 技能 research-campaign:流水線手冊¶
包含八階段流水線手冊的技能。
- 單組件單開關:核心設計原則,默認組件開關關閉,通過逐個開啓來驗證效果。
- 漸進式驗證:默認先跑通單個 trial,再進行大規模併發,避免管線未通時浪費算力。
使用限制與注意事項¶
- 進程狀態賬本:賬本是進程狀態,按調用方會話索引,進程結束即消失。若需跨天搜索,需手動將記錄寫入
research/runs.jsonl以便重建賬本。 - 不執行實驗:插件不負責運行訓練任務,只負責規劃、記賬和排名。因此,賬本可以記錄從未發生過的 trial。
- 報告真實性:報告檢查完整性(是否包含論文材料),不檢查真實性(無法發現指標記錯來源)。
- 不做調度:插件的工具不負責排隊、重試、搶佔等調度邏輯,這些屬於 DSH 的
job/schedule能力。 - 環境要求:需要 Node.js 版本
^22.19.0 || >=24.0.0。 - 無界面交互:插件無界面、不發 HTTP 請求、不執行實驗任務。
總結¶
quick-research-campaign 是一個專注於科研流程的工具集,它解決了調參過程中的混亂與不確定性問題,通過自動化的矩陣規劃與歸因分析,幫助開發者快速產出論文級的數據表格。
- GitHub 倉庫:https://github.com/wswbx/quick-research-campaign
- 技能目錄:https://www.skillhub.cn/plugins/wswbx/quick-research-campaign