token秘书就一个字省token:把本地检索与压缩接到 Agent 流程里

前言

长对话、大段上下文和反复把资料塞进提示词,都会直接抬高云端模型的 Token 账单。常见做法是整段原文交给大模型,或者自己手写摘要,前者费钱,后者费人工。下面介绍 SkillHub 社区 Skill「token秘书就一个字省token」,它把「本地知识检索 → 情报压缩 → 云端精加工」写成可挂载的 SKILL.md 流程,目标是在回答仍依托本地资料的前提下,减少送进云端的字数。

这是什么

  • 定位:面向 AI Agent 的 ai-agent 类 Skill,坐标 @user_5b2fc4e3/token-sheng,当前版本 1.0.0,来源为 community,发布者 user_5b2fc4e3。
  • 一句话:官方简介为「就一个字省token」;包内 SKILL.md 将其命名为 Token秘书 (Token Secretary),并说明是对 GLOBAL_RULES.md vFinal Agentic RAG 架构 的具名封装,复用已有脚本、不重复实现逻辑。
  • 依赖 API Key:SkillHub 标签为 requires_api_key=false(安装 Skill 本身不要求配置密钥;流程里若调用云端模型,仍取决于你本地的 GLOBAL_RULES 与模型配置)。

SkillHub 页面:https://www.skillhub.cn/skills/user_5b2fc4e3/token-sheng
API 条目:https://api.skillhub.cn/user_5b2fc4e3/token-sheng

(截至抓取:评分 100000,下载 973,安装 0。)

核心功能

以下均来自 Skill 包内的 SKILL.md 与 README.md,二者侧重点不同,一并说明。

Agent 侧:五步 RAG 流程(SKILL.md)

  1. 意图分类:寒暄类直接回复;技术/工艺/报价类进入后续步骤(规则引用 GLOBAL_RULES.md §2)。
  2. 实体提取:从问题中用正则抽取材料、工艺、参数、问题类型等。
  3. 双路知识检索(并行):关键词查询与语义检索各取最多 10 条,合并去重后保留最多 20 条。文档中给出的示例命令路径为作者环境(knowledge_querier.py、rag_semantic_search.py),迁移时需改为你自己的脚本路径。
  4. 知识情报压缩:经 compress_knowledge.sh 用本地小模型(文档写明 llama3.2:1b,目标 ≤500 字,超时 60s 则降级为前 3 条原文截断;并注明约 15% 杂质率)。
  5. 云端精加工:将「本地情报块 + 用户问题 + 任务指令」发给云端模型(文档示例为 DeepSeek),要求区分「基于本地知识库」与「基于云端通用知识」,并过滤情报块中的杂质模式。
  6. 可观测性:回复开头需带路由与检索统计标记,例如 [路由: Token秘书]、[本地知识: 检索 X 条 | 压缩为 Y 字 | 耗时 Zs]、[情报: K1, K2, K3]。

触发方式(同文件):

  • 直接提及:@Token秘书
  • 关键词:情报压缩、省token、本地知识分析、RAG增强
  • 若 GLOBAL_RULES 已将此流程设为技术问题默认行为,可不显式调用

降级策略(摘要):FAISS 损坏则仅关键词检索;Ollama 不可用则跳过压缩;压缩超时取前 3 条原文;检索无结果则情报块为「本地无匹配」并走纯云端推理。

工程侧:本地压缩引擎(README.md)

同目录 README.md 将 Token Secretary 描述为「本地小模型预处理引擎」:在 3000 字以上 长输入到达云端前,用约 1B 级本地模型压成结构化摘要(README 称可节省约 50%–80% 推理 Token,并给出若干场景的 Token 对比表)。配置项见 config/config.example.yaml(Ollama 地址、压缩模型、超时、输出格式等)。

注意:当前从 SkillHub 拉取的包仅含 SKILL.md、README.md、config/config.example.yaml,不含 README 目录树中的 scripts/compress_knowledge.sh;SKILL.md 中的 Python/Shell 路径指向作者本机 ~/projects 等目录。落地前需要自备脚本与知识库,或按 README 指向的 GitHub 项目补齐实现。

安装与启用

先做 CLI 检查,再安装到当前 Agent 的 skills 目录(装错目录 Agent 不会加载)。

1、检查 SkillHub CLI

command -v skillhub && skillhub --version

未安装时可按 SkillHub 官方说明执行(完整安装或仅 CLI):

curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash

2、安装本 Skill

搜索索引中的安装命令为:

skillhub install token-sheng --namespace user_5b2fc4e3 --dir <你的 Agent skills 目录>

也可用页面提示,让 Agent 参照 https://skillhub.cn/install/skillhub.md 安装 @user_5b2fc4e3/token-sheng。

3、常见 skills 目录(摘自 SkillHub 安装文档)

  • Cursor:~/.cursor/skills/
  • Claude Code:~/.claude/skills/
  • Codex:~/.codex/skills/ 或项目下 .agents/skills/

安装后按你所用客户端要求重启或刷新 Skill 列表。

4、本地压缩相关配置(可选)

若走 README 中的 Ollama 压缩路径,可复制配置模板再改模型与超时:

cp config/config.example.yaml config/config.yaml

示例字段包括 OLLAMA_BASE_URL、COMPRESS_MODEL(如 llama3.2:1b)、MAX_INPUT_LENGTH、COMPRESS_RATIO、TIMEOUT_SECONDS、OUTPUT_FORMAT 等。

典型用法

在对话里触发(SKILL.md 示例)

用户输入:

@Token秘书 6061铝合金薄壁件铣削用什么夹持?

系统侧期望的输出形态(节选):

[路由: Token秘书]
[本地知识: 检索 8 条 | 压缩为 213 字 | 耗时 18s]
[情报: 6061铝合金, 软爪, 热处理]

基于本地知识库:6061铝合金是常用薄壁结构材料...
基于云端通用知识:推荐软爪全包夹持,面积≥60%...

复现依赖你已部署的检索脚本、FAISS 索引、Ollama 与 GLOBAL_RULES.md 中的正则与路由,而非 Skill 包内的独立可执行文件。

与其他 Skill 的关系(SKILL.md)

文档写明:quote-ptuning 可嵌入报价流程(检索→压缩→报价);step-factory 可消费压缩后的材料工艺建议;不依赖 orchestrator,本 Skill 可独立执行。

适用场景与注意

适合谁

  • 已在 OpenClaw / 兼容 GLOBAL_RULES 的 Agent 环境里做 本地知识库 + 云端推理 的团队。
  • 希望用 极短触发词或 @Token秘书 统一走「检索—压缩—上云」流水线,并在回复里 标明本地与云端依据 的场景。
  • 有 Ollama 或同类本地小模型,愿意用 README 思路做长文预压缩以控 Token 的开发者。

限制与坑

  • Skill 包是 流程与约定,不是开箱即用的全栈 RAG 产品;路径、脚本、GLOBAL_RULES 需自行对齐。
  • SKILL.md 与 README.md 描述同一品牌的不同切面(Agentic RAG vs 通用长文压缩),部署时不要混用未改路径的示例命令。
  • README 中的实测比例与耗时来自作者文档,你的语料与模型不同,结果会变化。
  • 压缩情报块可能含杂质,云端指令里已要求丢弃特定类型的噪声,仍需人工抽检关键数字与牌号。

结尾

「token秘书就一个字省token」在 SkillHub 上把省 Token 的目标写进 Agent Skill:用本地检索和小模型压缩先把上下文压薄,再让云端模型做精加工,并用固定前缀标记路由与情报来源。若你要试用或查看元数据,可打开官方页面:https://www.skillhub.cn/skills/user_5b2fc4e3/token-sheng 。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜