前言¶
业务侧导出的 Excel、CRM 导出、剪贴板表格往往格式不一:列名不统一、重复行、手机号和日期写法杂乱。手工在表格里筛、填、VLOOKUP 合并,耗时长且难复现。若希望对话式 Agent 按固定流程处理这类任务,需要一份写清触发词、脚本入口和订阅档位的 Skill 说明。下面介绍 SkillHub 社区技能 多源数据清洗器(@user_26bdbd50/multi-source-data-cleaner)的定位与用法。
这是什么¶
多源数据清洗器(包内标识 multi-source-data-cleaner)是一份基于通用 SKILL.md 格式的 Agent Skill,由社区发布者 user_26bdbd50 维护,在 SkillHub 上归类为 data-analysis,当前页面版本为 v1.0.2,来源为 community。技能通过 Python 子进程运行 scripts/main.py,面向「上传杂乱数据、得到结构化干净结果」的场景,文档中列举的用途包括电商订单整理、CRM 客户清洗、流水对账、名册去重、多系统数据合并等。
SkillHub 元数据标注 requires_api_key=true:启用 AI 字段识别、分类等能力时需要配置 API Key;基础解析与去重等能力按文档中的档位矩阵区分。
核心功能¶
以下能力来自技能包内 SKILL.md / README.md,按模块编号归纳。
多格式解析(F1)¶
支持 Excel(.xlsx / .xls)、CSV / TSV、JSON,以及剪贴板粘贴文本。
智能字段识别(F2)¶
可自动识别姓名、手机、邮箱、地址、金额、日期、SKU、订单号、身份证号、性别等字段类型;支持用户自定义字段映射覆盖。
数据清洗(F3)¶
- 去重:精确匹配 + 模糊去重(FuzzyWuzzy,阈值 88%)。
- 缺失值:均值 / 众数 / 语义推断 / 留空等策略。
- 格式统一:手机
1xx-xxxx-xxxx、日期YYYY-MM-DD、金额两位小数、地址省市区街道规范化。
分类打标(F4,Pro)¶
内置 8 条业务规则(高价值客户、沉睡用户、VIP、企业客户等),支持自定义 JSON 规则;AI 自动打标需 Pro 档且配置 AI API Key。
多源关联合并(F5,Pro)¶
跨文件按关键字段关联;无精确键时可用模糊关联;冲突字段可按来源优先级或最新时间戳解决。
输出(F6)¶
可导出 Excel / CSV;Pro 档支持写回飞书多维表格(Bitable),并生成数据质量报告(Markdown,可落成飞书文档)。
订阅档位(文档中的功能矩阵)¶
| 能力 | Free | Basic | Standard | Pro |
|---|---|---|---|---|
| 多格式解析 | ✅ | ✅ | ✅ | ✅ |
| 基础去重 | ✅ | ✅ | ✅ | ✅ |
| 每月行数上限 | 50 | 500 | 3,000 | 不限 |
| 数据源数量 | 1 | 3 | 不限 | 不限 |
| 智能填充 / 格式统一 / 模糊去重 | ❌ | ❌ | ✅ | ✅ |
| 多源合并 / AI 分类 / 质量报告 / Bitable | ❌ | ❌ | ❌ | ✅ |
文档中的标价(供选型参考):Free ¥0,Basic ¥29/月,Standard ¥99/月,Pro ¥299/月;付费说明指向 YK-Global.com。
安装与启用¶
1. 安装 SkillHub CLI(若尚未安装)¶
按 SkillHub 安装说明 检查或安装 CLI:
command -v skillhub && skillhub --version
未安装时可执行完整安装脚本(节选):
curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash
2. 安装本技能到当前 Agent 的 skills 目录¶
安装时必须用 --dir 指向当前客户端识别的 skills 目录,否则默认落在 ./skills/ 可能不会被加载。SkillHub 文档中的示例路径包括:
- Cursor:
~/.cursor/skills/ - Claude Code:
~/.claude/skills/ - Codex:
~/.codex/skills/或项目下.agents/skills/
安装命令(与 skillhub search 结果一致):
skillhub install multi-source-data-cleaner --namespace user_26bdbd50 --dir ~/.cursor/skills/
也可让 Agent 按官方提示安装:
请根据 https://skillhub.cn/install/skillhub.md,安装 `@user_26bdbd50/multi-source-data-cleaner`。
3. Python 依赖¶
本地执行脚本前,README 建议安装:
pip install pandas openpyxl xlrd fuzzywuzzy python-Levenshtein
4. 环境变量¶
| 变量 | 是否必填 | 说明 |
|---|---|---|
DATA_CLEANER_API_KEY |
AI 相关功能需要 | MiniMax 或 DeepSeek API Key |
DATA_CLEANER_TIER |
建议设置 | 订阅档位:free / basic / std / pro |
AI Key 获取地址见 README:MiniMax(https://platform.minimax.chat/)、DeepSeek(https://platform.deepseek.com/)。
典型用法¶
在对话中触发¶
技能 frontmatter 中的触发词包括:data cleaning、deduplication、spreadsheet cleanup、data merge、CRM data cleanup、Excel cleaning、clean data、remove duplicates、merge data 等。在飞书等集成场景下,也可用 README 中的英文短语触发清洗流程。
命令行¶
进入技能目录下的 scripts 后执行(示例来自官方文档):
python scripts/main.py clean -i data.xlsx -o cleaned.xlsx
python scripts/main.py clean -t "name,phone\nJohn,13800138000" -f csv -o cleaned.csv
python scripts/main.py merge --sources customers.xlsx orders.csv --on phone -o merged.xlsx
Python 调用¶
from main import run_clean_pipeline
result = run_clean_pipeline(
sources=["orders.xlsx"],
output_format="xlsx",
output_path="/tmp/cleaned.xlsx",
dedup_strategy="auto",
fill_strategy="auto",
classify=True,
ai_model="deepseek",
generate_report=True,
)
清洗完成后,文档说明可得到输出文件路径、清洗行数,以及质量报告中的总分等字段(见 README 示例)。
适用场景与注意¶
适合谁: 需要把多来源表格交给 Agent 做标准化清洗、去重,或在 Pro 档下做多表关联、质量报告与飞书回写的数据分析 / 运营 / 实施同学。
使用注意:
- API Key 与档位:SkillHub 标签要求 API Key;未配置时 AI 识别、分类等能力不可用,且各档位的行数、数据源数量、高级功能受
tier_limits约束。 - 配额状态:README 写明月度用量记录在
/tmp/data_cleaner_state.json,必要时可手动清理以重置计数(需自行评估是否符合团队合规要求)。 - 编码与格式:优先 UTF-8,兼容 GBK;日期支持
YYYY-MM-DD、YYYY/MM/DD、YYYYMMDD、Unix 时间戳等;手机号按 11 位中国大陆移动号格式化。 - 数据安全表述:README 称处理在本地完成、不上传第三方;但启用云端大模型 API 时,仍须按各厂商协议理解数据出境与留存策略。
- 版本信息:SkillHub 页面显示 v1.0.2;技能包内
SKILL.mdfrontmatter 仍为 1.0.0,以平台发布版本为准做升级与排查。
SkillHub 上该技能评分 100000(平台展示口径),截至资料抓取时 下载 798 次、安装 7 次。
结尾¶
多源数据清洗器把「解析 → 识字段 → 清洗 →(可选)合并与报告 → 导出」写进一份可安装的 Agent Skill,并用手动档位矩阵区分免费与付费能力。若你的日常工作流里频繁出现多表脏数据,可按上文命令装入 Cursor 等客户端,再配置 DATA_CLEANER_TIER 与可选的 DATA_CLEANER_API_KEY 后试用。
- SkillHub 页面:https://www.skillhub.cn/skills/user_26bdbd50/multi-source-data-cleaner
- 官方 API 坐标页:https://api.skillhub.cn/user_26bdbd50/multi-source-data-cleaner