前言
在 DSH 中使用非官方(自定义)提供方时,手动配置推理级别、最大上下文、输出上限等参数较为繁琐。dsh-model-fix 插件通过读取 models.dev 的数据,自动填充这些参数,并提供兼容性提升、记忆推理级别等用户体验优化。
插件简介
该插件由 TikaFlow 维护,主要功能是给非官方提供方的模型自动填充推理级别、最大上下文、输出上限与图片模态等参数(数据来自 models.dev),并提供兼容性提升、记住推理级别等用户体验优化。
安装
使用官方安装命令即可:
dsh plugin --profile web add https://github.com/TikaFlow/dsh-model-fix/releases/latest/download/dsh-model-fix.tgz
核心功能
1. 自动填充与更新
- 自动填充缺失的模型参数(推理级别、上下文、输出上限、图片模态)。
- 允许更新已有模型的字段,以 models.dev 数据为准。
-
兼容性写入
- 为所有api: openai-completions的提供方路由写入compat.supportsDeveloperRole: false(禁用 developer 角色)。
- 关闭该开关即移除此字段,由用户自行管理。 -
记忆与恢复
- 记住每模型的推理级别,切换模型时自动恢复。
- 默认使用 high 档位(当没有记忆且模型提供 high 档位时)。
- 模型删除时自动清除记忆。 -
管理与维护
- 支持排除特定提供方(填充、更新、兼容性写入均跳过)。
- 支持强制更新、重置推理级别、恢复备份。
- 提供可视化设置及内置缓存(离线可用)。
使用说明
- 进入 DSH 后插件自动生效,无需任何操作。
- 排除提供方:在“设置”->“模型”->“模型参数填充”卡片中,输入提供方 ID 并回车添加,保存后生效。
- 可视化设置:在上述卡片中查看和调整参数填充选项。
注意事项
- 依赖 DSH 版本 0.1.7-rc.2 ~ 0.2.0-rc.2。
- 排除提供方设置需保存后生效。
- 记住推理级别功能对所有提供方生效,无法排除。
- 兼容性写入时禁用 developer 角色。