dsh-live-token-stats:DSH 實時 Token 統計與溺水檢測插件
dsh-live-token-stats 插件旨在解決 DeepSeek Harness 開發中模型卡頓無提示的問題。該插件通過實時分詞與計算,在界面展示 Token 狀態、TPS 及首字延遲(TTFT),幫助開發者判斷模型是否“溺水”。支持 BPE 真實分詞及偏差對賬,可自動掛載,無需修改源碼。依賴 dsh 0.1.5-rc.2 以上版本,適用於需要精確監控流式輸出透明度的開發者。
閱讀全文dsh-live-token-stats 插件旨在解決 DeepSeek Harness 開發中模型卡頓無提示的問題。該插件通過實時分詞與計算,在界面展示 Token 狀態、TPS 及首字延遲(TTFT),幫助開發者判斷模型是否“溺水”。支持 BPE 真實分詞及偏差對賬,可自動掛載,無需修改源碼。依賴 dsh 0.1.5-rc.2 以上版本,適用於需要精確監控流式輸出透明度的開發者。
閱讀全文