quick-research-campaign:DeepSeek Harness 科研流水線

前言

DeepSeek Harness (DSH) 採用插件化架構,社區開發者可以通過插件擴展能力。在模型訓練與科研場景中,超參數調參往往面臨搜索空間大、實驗記錄混亂、難以撰寫論文表格等問題。

quick-research-campaign 是一個針對科研流水線的 DSH 插件。它不直接執行實驗訓練,而是專注於規劃搜索空間、記錄實驗狀態、對比基線與 SOTA,並生成可直接用於論文的材料。插件將超參數搜索轉化爲有界、去混雜的試驗矩陣,並自動計算邊際效應與混雜情況。

插件信息

  • 名稱:quick-research-campaign
  • 維護者:wswbx
  • 許可證:MIT
  • 定位:科研流水線、超參數調參、實驗歸檔

安裝與配置

安裝插件需要通過 DSH 的插件管理命令執行。安裝後需重啓對應的 profile 才能生效。

安裝

dsh plugin --profile web add quick-research-campaign

如果需要在本地開發或未發佈環境下安裝,可以使用本地文件路徑:

dsh plugin --profile web add "file:C:/path/to/quick-research-campaign"

卸載

dsh plugin --profile web remove quick-research-campaign

配置

插件通過 cordis.patch.yml 注入配置,用戶也可以覆蓋整段 config。

- id: tool-research-campaign
  config:
    maxTrialsPerCampaign: 64
字段 默認值 含義
maxTrialsPerCampaign 包內默認 24 一次 campaign 可計劃的 trial 上限;超過上限的調用會被拒絕

核心功能

插件提供三個工具和一個技能。

1. research_sweep_plan:搜索空間規劃

將搜索空間展開爲有界、去混雜的試驗矩陣。

  • 網格枚舉與採樣:預算足夠時枚舉完整笛卡爾積;預算不足時使用均勻採樣,避免固定步長截斷導致的參數共振(即相鄰維度系統性相關)。
  • 排查缺失與混雜:報告哪些參數取值一次都沒被測到,以及哪些參數對被混雜(取值一一對應,貢獻無法分離)。

參數定義示例:

space: { 
  lr: {min:1e-5, max:1e-3, steps:4, log:true}, 
  window: [4096, 8192, 32768], 
  gate_type: ["sigmoid","silu","none"] 
}

2. research_sweep_record:實驗記賬

記錄 trial 的狀態及指標。

  • 狀態記錄:記錄 ok(成功)、failed(失敗)、pruned(被剪枝)的狀態。
  • 全量記錄:失敗的、被剪枝的也必須記錄,否則無法判斷搜索空間邊界。
  • 數據校驗:狀態爲 ok 但沒有任何指標的運行會被拒絕。

3. research_sweep_report:結果報告與歸因

按指標排名,生成對比報告。

  • 對比分析:對比基線與 SOTA,計算相對差距。
  • 邊際效應:計算每個參數的邊際效應,識別論文主角組件。
  • 混雜檢查:檢查參數間的混雜情況。
  • 材料清單:生成論文材料清單,未勾選項即爲實驗章節的欠缺內容。

報告輸出示例:

| # | trial | acc_32k | vs baseline | vs SOTA | gate_type | lr | window |
| 1 | t0011 | 72.7 | +4.6 WIN | +1.5 WIN | silu | 0.001 | 32768 |

- best over sota target: +1.5 (target beaten)

### gate_type
| value | mean acc_32k | trials |
| silu    | 71.625 | 4 |
| sigmoid | 70.7333 | 3 |
| none    | 68.9 | 3 |

4. 技能 research-campaign:流水線手冊

包含八階段流水線手冊的技能。

  • 單組件單開關:核心設計原則,默認組件開關關閉,通過逐個開啓來驗證效果。
  • 漸進式驗證:默認先跑通單個 trial,再進行大規模併發,避免管線未通時浪費算力。

使用限制與注意事項

  • 進程狀態賬本:賬本是進程狀態,按調用方會話索引,進程結束即消失。若需跨天搜索,需手動將記錄寫入 research/runs.jsonl 以便重建賬本。
  • 不執行實驗:插件不負責運行訓練任務,只負責規劃、記賬和排名。因此,賬本可以記錄從未發生過的 trial。
  • 報告真實性:報告檢查完整性(是否包含論文材料),不檢查真實性(無法發現指標記錯來源)。
  • 不做調度:插件的工具不負責排隊、重試、搶佔等調度邏輯,這些屬於 DSH 的 job / schedule 能力。
  • 環境要求:需要 Node.js 版本 ^22.19.0 || >=24.0.0。
  • 無界面交互:插件無界面、不發 HTTP 請求、不執行實驗任務。

總結

quick-research-campaign 是一個專注於科研流程的工具集,它解決了調參過程中的混亂與不確定性問題,通過自動化的矩陣規劃與歸因分析,幫助開發者快速產出論文級的數據表格。

  • GitHub 倉庫:https://github.com/wswbx/quick-research-campaign
  • 技能目錄:https://www.skillhub.cn/plugins/wswbx/quick-research-campaign
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜