dsh-model-fix:DSH 模型參數自動填充與兼容性優化

前言
在 DSH 中使用非官方(自定義)提供方時,手動配置推理級別、最大上下文、輸出上限等參數較爲繁瑣。dsh-model-fix 插件通過讀取 models.dev 的數據,自動填充這些參數,並提供兼容性提升、記憶推理級別等用戶體驗優化。

插件簡介
該插件由 TikaFlow 維護,主要功能是給非官方提供方的模型自動填充推理級別、最大上下文、輸出上限與圖片模態等參數(數據來自 models.dev),並提供兼容性提升、記住推理級別等用戶體驗優化。

安裝
使用官方安裝命令即可:

dsh plugin --profile web add https://github.com/TikaFlow/dsh-model-fix/releases/latest/download/dsh-model-fix.tgz

核心功能
1. 自動填充與更新
- 自動填充缺失的模型參數(推理級別、上下文、輸出上限、圖片模態)。
- 允許更新已有模型的字段,以 models.dev 數據爲準。

  1. 兼容性寫入
    - 爲所有 api: openai-completions 的提供方路由寫入 compat.supportsDeveloperRole: false(禁用 developer 角色)。
    - 關閉該開關即移除此字段,由用戶自行管理。

  2. 記憶與恢復
    - 記住每模型的推理級別,切換模型時自動恢復。
    - 默認使用 high 檔位(當沒有記憶且模型提供 high 檔位時)。
    - 模型刪除時自動清除記憶。

  3. 管理與維護
    - 支持排除特定提供方(填充、更新、兼容性寫入均跳過)。
    - 支持強制更新、重置推理級別、恢復備份。
    - 提供可視化設置及內置緩存(離線可用)。

使用說明
- 進入 DSH 後插件自動生效,無需任何操作。
- 排除提供方:在“設置”->“模型”->“模型參數填充”卡片中,輸入提供方 ID 並回車添加,保存後生效。
- 可視化設置:在上述卡片中查看和調整參數填充選項。

注意事項
- 依賴 DSH 版本 0.1.7-rc.2 ~ 0.2.0-rc.2。
- 排除提供方設置需保存後生效。
- 記住推理級別功能對所有提供方生效,無法排除。
- 兼容性寫入時禁用 developer 角色。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜