dsh-touchstone:给 DSH 自改造补上评测这一环
DSH 支持插件化替换 prompt 与预设,但缺少「改完是否真的更好」的评测闭环。dsh-touchstone(试金石)用同一套 golden cases 并排跑 current 与 candidate,以 must contain、regex、LLM judge 等检查加权打分,输出 before→after 报告与留撤建议。仅通过 ctx.llm.stream() 调用模型,不 patch harness,支持 desktop 与 web 安装。数据存于 ~/.dsh/touchstone/bench.json。适合 prompt 与 house rule 的文本层回归,不适合需真实副作用的工具改动验证。
阅读全文oh-my-knowledge:为 prompt、RAG 与智能体提供可验证的知识变更评估
OMK(oh-my-knowledge)是 lizhiyao 维护的 MIT 许可 CLI 与 DSH 插件,面向 prompt、RAG、skill、agent 与工作流的知识维护者。通过 doctor、eval、observe 闭环,在相同模型与样本下对比知识产物版本,输出可复查的发布结论、失败样本与成本,并支持在 Studio 查看 DSH 任务轨迹。DSH 用户可用 dsh plugin --profile web add oh-my-knowledge 装入 web profile,在会话内执行 /omk eval 与 /omk observe。
阅读全文