前言¶
在模型推理的监控与评估中,平均数往往掩盖了数据的分布细节。为了更准确地评估性能瓶颈或Token消耗的极端情况,计算百分位数是必要的手段。DeepSeek Harness(DSH)作为插件化架构,允许社区开发者扩展基础能力。dsh-percentile 专注于在本地进行百分位数的计算,无需额外的网络请求。
是什么¶
dsh-percentile 是一个针对 DeepSeek Harness 的插件,用于在模型推理流程中计算数据的百分位数值。该插件由开发者 uckkk 维护。其核心定位是提供轻量级的统计计算能力,不依赖外部网络服务,确保在离线或内网环境下也能稳定运行。
安装与启用¶
安装该插件需要具备 DeepSeek Harness 的运行环境,并且环境内必须满足其依赖的 peer dependencies。
1、在终端中执行以下命令安装插件:
dsh plugin add github:uckkk/dsh-percentile
2、确保当前 DSH 进程依赖的库版本符合要求:
* @deepseek-ai/cordis 版本需在 ^4.0.1 以上
* @deepseek-ai/dsh-tools 版本需大于或等于 0.1.0-rc.6
核心功能¶
- 纯 Node 实现:插件底层逻辑完全使用 Node.js 原生编写,运行效率高。
- 无网络依赖:所有的计算逻辑都在本地进程内完成,不会向外部 API 发起请求,降低了延迟并避免了网络故障的影响。
适用场景与注意¶
- 适用对象:需要深入分析推理链路中各项指标(如耗时、Token 数量)分布情况的开发者或运维人员。
- 运行权限:插件以当前 DSH 进程的权限运行,在安装前建议查阅 GitHub 仓库的源码与 LICENSE(MIT),确认其行为符合你的安全与合规要求。
结尾¶
dsh-percentile 为 DSH 生态提供了一个轻量、本地的百分位计算方案,适合对数据分布敏感的监控场景。更多细节与源码,请参考 GitHub 仓库 或 DSH 插件目录。