前言¶
长对话、大段上下文和反复把资料塞进提示词,都会直接抬高云端模型的 Token 账单。常见做法是整段原文交给大模型,或者自己手写摘要,前者费钱,后者费人工。下面介绍 SkillHub 社区 Skill「token秘书就一个字省token」,它把「本地知识检索 → 情报压缩 → 云端精加工」写成可挂载的 SKILL.md 流程,目标是在回答仍依托本地资料的前提下,减少送进云端的字数。
这是什么¶
- 定位:面向 AI Agent 的
ai-agent类 Skill,坐标@user_5b2fc4e3/token-sheng,当前版本 1.0.0,来源为 community,发布者 user_5b2fc4e3。 - 一句话:官方简介为「就一个字省token」;包内
SKILL.md将其命名为 Token秘书 (Token Secretary),并说明是对 GLOBAL_RULES.md vFinal Agentic RAG 架构 的具名封装,复用已有脚本、不重复实现逻辑。 - 依赖 API Key:SkillHub 标签为
requires_api_key=false(安装 Skill 本身不要求配置密钥;流程里若调用云端模型,仍取决于你本地的 GLOBAL_RULES 与模型配置)。
SkillHub 页面:https://www.skillhub.cn/skills/user_5b2fc4e3/token-sheng
API 条目:https://api.skillhub.cn/user_5b2fc4e3/token-sheng
(截至抓取:评分 100000,下载 973,安装 0。)
核心功能¶
以下均来自 Skill 包内的 SKILL.md 与 README.md,二者侧重点不同,一并说明。
Agent 侧:五步 RAG 流程(SKILL.md)¶
- 意图分类:寒暄类直接回复;技术/工艺/报价类进入后续步骤(规则引用 GLOBAL_RULES.md §2)。
- 实体提取:从问题中用正则抽取材料、工艺、参数、问题类型等。
- 双路知识检索(并行):关键词查询与语义检索各取最多 10 条,合并去重后保留最多 20 条。文档中给出的示例命令路径为作者环境(
knowledge_querier.py、rag_semantic_search.py),迁移时需改为你自己的脚本路径。 - 知识情报压缩:经
compress_knowledge.sh用本地小模型(文档写明 llama3.2:1b,目标 ≤500 字,超时 60s 则降级为前 3 条原文截断;并注明约 15% 杂质率)。 - 云端精加工:将「本地情报块 + 用户问题 + 任务指令」发给云端模型(文档示例为 DeepSeek),要求区分「基于本地知识库」与「基于云端通用知识」,并过滤情报块中的杂质模式。
- 可观测性:回复开头需带路由与检索统计标记,例如
[路由: Token秘书]、[本地知识: 检索 X 条 | 压缩为 Y 字 | 耗时 Zs]、[情报: K1, K2, K3]。
触发方式(同文件):
- 直接提及:
@Token秘书 - 关键词:
情报压缩、省token、本地知识分析、RAG增强 - 若 GLOBAL_RULES 已将此流程设为技术问题默认行为,可不显式调用
降级策略(摘要):FAISS 损坏则仅关键词检索;Ollama 不可用则跳过压缩;压缩超时取前 3 条原文;检索无结果则情报块为「本地无匹配」并走纯云端推理。
工程侧:本地压缩引擎(README.md)¶
同目录 README.md 将 Token Secretary 描述为「本地小模型预处理引擎」:在 3000 字以上 长输入到达云端前,用约 1B 级本地模型压成结构化摘要(README 称可节省约 50%–80% 推理 Token,并给出若干场景的 Token 对比表)。配置项见 config/config.example.yaml(Ollama 地址、压缩模型、超时、输出格式等)。
注意:当前从 SkillHub 拉取的包仅含 SKILL.md、README.md、config/config.example.yaml,不含 README 目录树中的 scripts/compress_knowledge.sh;SKILL.md 中的 Python/Shell 路径指向作者本机 ~/projects 等目录。落地前需要自备脚本与知识库,或按 README 指向的 GitHub 项目补齐实现。
安装与启用¶
先做 CLI 检查,再安装到当前 Agent 的 skills 目录(装错目录 Agent 不会加载)。
1、检查 SkillHub CLI
command -v skillhub && skillhub --version
未安装时可按 SkillHub 官方说明执行(完整安装或仅 CLI):
curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash
2、安装本 Skill
搜索索引中的安装命令为:
skillhub install token-sheng --namespace user_5b2fc4e3 --dir <你的 Agent skills 目录>
也可用页面提示,让 Agent 参照 https://skillhub.cn/install/skillhub.md 安装 @user_5b2fc4e3/token-sheng。
3、常见 skills 目录(摘自 SkillHub 安装文档)
- Cursor:
~/.cursor/skills/ - Claude Code:
~/.claude/skills/ - Codex:
~/.codex/skills/或项目下.agents/skills/
安装后按你所用客户端要求重启或刷新 Skill 列表。
4、本地压缩相关配置(可选)
若走 README 中的 Ollama 压缩路径,可复制配置模板再改模型与超时:
cp config/config.example.yaml config/config.yaml
示例字段包括 OLLAMA_BASE_URL、COMPRESS_MODEL(如 llama3.2:1b)、MAX_INPUT_LENGTH、COMPRESS_RATIO、TIMEOUT_SECONDS、OUTPUT_FORMAT 等。
典型用法¶
在对话里触发(SKILL.md 示例)¶
用户输入:
@Token秘书 6061铝合金薄壁件铣削用什么夹持?
系统侧期望的输出形态(节选):
[路由: Token秘书]
[本地知识: 检索 8 条 | 压缩为 213 字 | 耗时 18s]
[情报: 6061铝合金, 软爪, 热处理]
基于本地知识库:6061铝合金是常用薄壁结构材料...
基于云端通用知识:推荐软爪全包夹持,面积≥60%...
复现依赖你已部署的检索脚本、FAISS 索引、Ollama 与 GLOBAL_RULES.md 中的正则与路由,而非 Skill 包内的独立可执行文件。
与其他 Skill 的关系(SKILL.md)¶
文档写明:quote-ptuning 可嵌入报价流程(检索→压缩→报价);step-factory 可消费压缩后的材料工艺建议;不依赖 orchestrator,本 Skill 可独立执行。
适用场景与注意¶
适合谁
- 已在 OpenClaw / 兼容 GLOBAL_RULES 的 Agent 环境里做 本地知识库 + 云端推理 的团队。
- 希望用 极短触发词或 @Token秘书 统一走「检索—压缩—上云」流水线,并在回复里 标明本地与云端依据 的场景。
- 有 Ollama 或同类本地小模型,愿意用 README 思路做长文预压缩以控 Token 的开发者。
限制与坑
- Skill 包是 流程与约定,不是开箱即用的全栈 RAG 产品;路径、脚本、GLOBAL_RULES 需自行对齐。
SKILL.md与README.md描述同一品牌的不同切面(Agentic RAG vs 通用长文压缩),部署时不要混用未改路径的示例命令。- README 中的实测比例与耗时来自作者文档,你的语料与模型不同,结果会变化。
- 压缩情报块可能含杂质,云端指令里已要求丢弃特定类型的噪声,仍需人工抽检关键数字与牌号。
结尾¶
「token秘书就一个字省token」在 SkillHub 上把省 Token 的目标写进 Agent Skill:用本地检索和小模型压缩先把上下文压薄,再让云端模型做精加工,并用固定前缀标记路由与情报来源。若你要试用或查看元数据,可打开官方页面:https://www.skillhub.cn/skills/user_5b2fc4e3/token-sheng 。