dsh-gpu-cleanup:DSH Web UI 一鍵釋放 GPU 顯存
fataldeity-lab 維護的 DSH Web 插件 dsh-gpu-cleanup(0.2.1,對齊 DSH 0.2.0-rc.2)在設置頁或對話頁一鍵調用本機 11436 控制服務:通過 llama-swap 卸載全部已加載模型並清掃啓動超過 90 秒的 llama-server/ninfer-serve/strata 殘留進程,保留 llama-swap,複覈後輸出逐步日誌。安裝命令爲 dsh plugin --profile web add github:fataldeity-lab/dsh-gpu-cleanup,需重啓宿主並強刷頁面。0.2.1 起限制 loopback 與 X-DSH-Plugin 頭。適用於本地 llama-swap 推理場景;插件以 DSH 進程權限運行,安裝前應審閱源碼與 MIT 許可證。
閱讀全文