前言¶
讀一篇新的大模型論文,往往要先在腦子裏把「這一層到底是 MLA、DSA 還是 MoE」拼起來,再對照公式查張量維度。表格和示意圖分散在 PDF 裏,層與層之間的變體(例如每 N 層換一種注意力)也不容易一眼對齊。DeepSeek Harness(DSH)把能力拆成可安裝插件;若你已經在用 DSH 做推理或智能體開發,把「架構理解」放進同一套 Web 界面,比單獨開看圖工具更順手。
下面介紹社區插件 Arch Lab(npm 包 @powehig/dsh-arch-lab,倉庫 PowehiG/dsh-arch-lab),維護者爲 PowehiG。它在 DSH 側邊欄提供「架構顯微鏡」:把論文裏的每一層展開成可旋轉、可點擊的 3D 結構剖視,並保留原有的 2D 宏觀與層內視圖;張量形狀、LaTeX 公式與符號解釋與模塊一一對應。分類上可歸入模型推理相關工具——側重結構可視化與參數量估算,而非直接跑 forward。
這是什麼¶
Arch Lab 的定位是:面向 2025–2026 前沿 LLM 論文的逐層 3D 架構顯微鏡。殘差主幹、Q/KV 投影、MLA latent cache、DSA indexer / top-k、稀疏注意力、MoE 路由與專家等,以帶 shape 標註的 3D 模塊呈現;點擊模塊可在右側檢查器查看公式與逐符號說明。語言跟隨 DSH locale(中文 / English),主題跟隨 DSH 深/淺色;默認視圖爲 3D 逐層結構,工具欄可隨時切 3D / 2D,選擇記在 localStorage。
內置約 16 個模型的結構化數據(如 DeepSeek-V3.2、GLM-5、Kimi K3 等),並附帶設計要點卡片、參數 / KV 計算器、最多 4 路模型對比,以及從 arXiv 頁面解析並導入草稿的能力。許可爲 MIT(Three.js r128 內嵌於 vendor/,見 vendor/THREE-LICENSE)。
核心功能¶
3D 逐層結構剖視¶
中間畫布展示的是當前層的 3D 架構圖,而非一疊層片。左側層軌與底部滑桿覆蓋 1..N 層;切換層時,場景中的模塊、連線、張量形狀與公式同步替換。
- 模塊爲真實 3D 幾何體(投影/注意力爲發光 box,KV cache 爲圓柱,專家爲 3×3 網格等),類型對應固定色板。
- 數據流以不同曲率與顏色的管道表示主幹、分支、殘差 skip、top-k、狀態更新;主路徑上可有粒子動畫(可暫停)。
- 每個模塊 label 顯示 shape;點擊後在檢查器展示完整輸入/輸出形狀、說明、公式與符號表。
- 支持拖拽旋轉、滾輪縮放、
fit重置取景;不支持 WebGL 時降級爲縱向模塊列表,2D 視圖仍可用。
層內變體由 src/03-data.js 按模型標籤推導(例如 Kimi K3 每 4 層 1 層 MLA、其餘 KDA;DeepSeek-V3.2 / GLM-5 全層 DSA 等),張量形狀由 config 計算而非硬編碼文案。
2D 視圖(與 3D 共享狀態)¶
工具欄切到 2D 後:
- 宏觀結構:embedding → N×Transformer Block → final norm → LM head。
- 層內結構:雙擊帶
×N的重複塊下鑽,查看 pre-norm、注意力變體、MoE、殘差等數據流。
2D 與 3D 共用模型數據、檢查器、對比、計算器與論文解析,不會維護兩套狀態。
論文與 Agent 側擴展¶
- 論文解析:粘貼 arXiv HTML / abs URL 或正文,抽取標題、hidden size、層數、專家數、top-k、上下文與公式,生成可導入草稿(可存
localStorage,帶IMPORT標記)。 paper_lab工具(Host 半註冊):Agent 可fetch論文 URL、publish結構化 spec 到面板,或list/clear。publish的stack可省略,客戶端會據config生成宏觀結構,3D 場景從config、tags、stack推導。
支持的 LaTeX 子集爲插件自帶小型解析器(不依賴 KaTeX/MathJax);不支持 \begin{aligned}、\tag、TikZ 等。
安裝與啓用¶
在 DSH 環境中安裝官方 bundle(命令來自項目 README,勿自行拼接 github:owner/repo):
plugin_manager install_bundle @powehig/dsh-arch-lab
安裝完成後,在 DSH Web 側邊欄找到 「架構顯微鏡」 入口(order: 12)。當前 npm 版本爲 2.0.0(見 package.json)。發佈渠道:GitHub PowehiG/dsh-arch-lab 與 npm @powehig/dsh-arch-lab。
插件以 DSH 進程權限運行。安裝前應自行審閱源碼與 MIT 許可證;社區目錄頁 skillhub.cn 上的 dsh-arch-lab 爲獨立生態站點,與 DeepSeek / 幻方無官方從屬關係。
典型用法¶
從 UI 瀏覽 DeepSeek-V3.2 的 DSA 層¶
- 點擊左側模型卡選中
DeepSeek-V3.2。 - 默認進入 3D 視圖;用層軌或
←→切換層號。 - 點擊例如「DSA Indexer」「Top-k 選擇」「MLA + DSA」等模塊,在右側查看形狀與公式(如稀疏注意力
y_t = softmax(q_t K_{I_t}^T / sqrt(d_h)) V_{I_t})。 - 需要宏觀圖時,工具欄切
2D;需要參數量時,點頂部計算器圖標調整層數、hidden size、專家數等。
Agent 推送自定義 spec(可選)¶
若 Host 已暴露 paper_lab,可向面板發佈草稿,例如:
{"action":"fetch","url":"https://arxiv.org/abs/2606.xxxxx","maxChars":80000}
{"action":"publish","spec":{"name":"...","summary":"...","config":{...},"ideas":[...],"stack":[...]}}
fetch 會嘗試 arXiv HTML 全文並轉換 MathML / LaTeX 註解;publish 寫入 Host 內存,面板約每 4.2 秒輪詢 /paper-lab/api/custom,幾秒內出現並帶 AGENT 標記。
適用場景與注意¶
適合:需要在同一界面裏對照論文理解 MLA / DSA / MoE / 混合注意力層序的開發者;寫技術筆記或做模型選型時,用內置計算器與對比視圖估算參數量與 KV 成本。
注意:
- 展示的層序與張量形狀據公開配置與標籤推導;論文未給出的字段可能用
?或默認值,UI 不冒充官方逐層表。DSA indexer 等細節因論文版本而異,插件展示的是公開結構脈絡而非某篇的逐行僞代碼。 - 無 WebGL 時自動降級列表視圖,結構信息仍保留。
- 導入的 Agent / 本地模型草稿需自行覈對與論文一致性。
結尾¶
Arch Lab 把「讀論文時的結構拼圖」收進 DSH:默認 3D 逐層剖視,兼顧 2D 下鑽、公式檢查器、計算與對比,並預留 paper_lab 供 Agent 灌入 spec。若你要在 Harness 裏系統看前沿 LLM 架構,可先執行上面的 install_bundle,再從側邊欄「架構顯微鏡」進入。