meow-cachebilling:把实时账单装进上下文圆环的 DSH 插件

# 前言 用 DSH 跑长上下文任务时,缓存命中率往往很漂亮,但总花费并不会因此停下:上下文越长,每一步请求里带着的缓存 token 越多,账单也就越滚越大。「缓存命中率 100% 却越用越贵」说的就是这种情况。光知道 token 用量不够,还得知道这些 token 折成钱是多少,才好判断什么时候该开新会话、什么时候该压缩上下文。 下面介绍 meow-cachebilling(喵账单),一个把实时账单放进上下文圆环弹层的 DSH web 插件。 # 这是什么 meow-cachebilling 是由 Phant0Meow 维护的 DSH 插件,MIT 许

阅读全文