多源数据清洗器:把多格式脏表交给 Agent 做解析、去重与合并

前言

业务侧导出的 Excel、CRM 导出、剪贴板表格往往格式不一:列名不统一、重复行、手机号和日期写法杂乱。手工在表格里筛、填、VLOOKUP 合并,耗时长且难复现。若希望对话式 Agent 按固定流程处理这类任务,需要一份写清触发词、脚本入口和订阅档位的 Skill 说明。下面介绍 SkillHub 社区技能 多源数据清洗器(@user_26bdbd50/multi-source-data-cleaner)的定位与用法。

这是什么

多源数据清洗器(包内标识 multi-source-data-cleaner)是一份基于通用 SKILL.md 格式的 Agent Skill,由社区发布者 user_26bdbd50 维护,在 SkillHub 上归类为 data-analysis,当前页面版本为 v1.0.2,来源为 community。技能通过 Python 子进程运行 scripts/main.py,面向「上传杂乱数据、得到结构化干净结果」的场景,文档中列举的用途包括电商订单整理、CRM 客户清洗、流水对账、名册去重、多系统数据合并等。

SkillHub 元数据标注 requires_api_key=true:启用 AI 字段识别、分类等能力时需要配置 API Key;基础解析与去重等能力按文档中的档位矩阵区分。

核心功能

以下能力来自技能包内 SKILL.md / README.md,按模块编号归纳。

多格式解析(F1)

支持 Excel(.xlsx / .xls)、CSV / TSV、JSON,以及剪贴板粘贴文本。

智能字段识别(F2)

可自动识别姓名、手机、邮箱、地址、金额、日期、SKU、订单号、身份证号、性别等字段类型;支持用户自定义字段映射覆盖。

数据清洗(F3)

  • 去重:精确匹配 + 模糊去重(FuzzyWuzzy,阈值 88%)。
  • 缺失值:均值 / 众数 / 语义推断 / 留空等策略。
  • 格式统一:手机 1xx-xxxx-xxxx、日期 YYYY-MM-DD、金额两位小数、地址省市区街道规范化。

分类打标(F4,Pro)

内置 8 条业务规则(高价值客户、沉睡用户、VIP、企业客户等),支持自定义 JSON 规则;AI 自动打标需 Pro 档且配置 AI API Key。

多源关联合并(F5,Pro)

跨文件按关键字段关联;无精确键时可用模糊关联;冲突字段可按来源优先级或最新时间戳解决。

输出(F6)

可导出 Excel / CSV;Pro 档支持写回飞书多维表格(Bitable),并生成数据质量报告(Markdown,可落成飞书文档)。

订阅档位(文档中的功能矩阵)

能力 Free Basic Standard Pro
多格式解析 ✅ ✅ ✅ ✅
基础去重 ✅ ✅ ✅ ✅
每月行数上限 50 500 3,000 不限
数据源数量 1 3 不限 不限
智能填充 / 格式统一 / 模糊去重 ❌ ❌ ✅ ✅
多源合并 / AI 分类 / 质量报告 / Bitable ❌ ❌ ❌ ✅

文档中的标价(供选型参考):Free ¥0,Basic ¥29/月,Standard ¥99/月,Pro ¥299/月;付费说明指向 YK-Global.com。

安装与启用

1. 安装 SkillHub CLI(若尚未安装)

按 SkillHub 安装说明 检查或安装 CLI:

command -v skillhub && skillhub --version

未安装时可执行完整安装脚本(节选):

curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash

2. 安装本技能到当前 Agent 的 skills 目录

安装时必须用 --dir 指向当前客户端识别的 skills 目录,否则默认落在 ./skills/ 可能不会被加载。SkillHub 文档中的示例路径包括:

  • Cursor:~/.cursor/skills/
  • Claude Code:~/.claude/skills/
  • Codex:~/.codex/skills/ 或项目下 .agents/skills/

安装命令(与 skillhub search 结果一致):

skillhub install multi-source-data-cleaner --namespace user_26bdbd50 --dir ~/.cursor/skills/

也可让 Agent 按官方提示安装:

请根据 https://skillhub.cn/install/skillhub.md,安装 `@user_26bdbd50/multi-source-data-cleaner`。

3. Python 依赖

本地执行脚本前,README 建议安装:

pip install pandas openpyxl xlrd fuzzywuzzy python-Levenshtein

4. 环境变量

变量 是否必填 说明
DATA_CLEANER_API_KEY AI 相关功能需要 MiniMax 或 DeepSeek API Key
DATA_CLEANER_TIER 建议设置 订阅档位:free / basic / std / pro

AI Key 获取地址见 README:MiniMax(https://platform.minimax.chat/)、DeepSeek(https://platform.deepseek.com/)。

典型用法

在对话中触发

技能 frontmatter 中的触发词包括:data cleaning、deduplication、spreadsheet cleanup、data merge、CRM data cleanup、Excel cleaning、clean data、remove duplicates、merge data 等。在飞书等集成场景下,也可用 README 中的英文短语触发清洗流程。

命令行

进入技能目录下的 scripts 后执行(示例来自官方文档):

python scripts/main.py clean -i data.xlsx -o cleaned.xlsx
python scripts/main.py clean -t "name,phone\nJohn,13800138000" -f csv -o cleaned.csv
python scripts/main.py merge --sources customers.xlsx orders.csv --on phone -o merged.xlsx

Python 调用

from main import run_clean_pipeline

result = run_clean_pipeline(
    sources=["orders.xlsx"],
    output_format="xlsx",
    output_path="/tmp/cleaned.xlsx",
    dedup_strategy="auto",
    fill_strategy="auto",
    classify=True,
    ai_model="deepseek",
    generate_report=True,
)

清洗完成后,文档说明可得到输出文件路径、清洗行数,以及质量报告中的总分等字段(见 README 示例)。

适用场景与注意

适合谁: 需要把多来源表格交给 Agent 做标准化清洗、去重,或在 Pro 档下做多表关联、质量报告与飞书回写的数据分析 / 运营 / 实施同学。

使用注意:

  1. API Key 与档位:SkillHub 标签要求 API Key;未配置时 AI 识别、分类等能力不可用,且各档位的行数、数据源数量、高级功能受 tier_limits 约束。
  2. 配额状态:README 写明月度用量记录在 /tmp/data_cleaner_state.json,必要时可手动清理以重置计数(需自行评估是否符合团队合规要求)。
  3. 编码与格式:优先 UTF-8,兼容 GBK;日期支持 YYYY-MM-DD、YYYY/MM/DD、YYYYMMDD、Unix 时间戳等;手机号按 11 位中国大陆移动号格式化。
  4. 数据安全表述:README 称处理在本地完成、不上传第三方;但启用云端大模型 API 时,仍须按各厂商协议理解数据出境与留存策略。
  5. 版本信息:SkillHub 页面显示 v1.0.2;技能包内 SKILL.md frontmatter 仍为 1.0.0,以平台发布版本为准做升级与排查。

SkillHub 上该技能评分 100000(平台展示口径),截至资料抓取时 下载 798 次、安装 7 次。

结尾

多源数据清洗器把「解析 → 识字段 → 清洗 →(可选)合并与报告 → 导出」写进一份可安装的 Agent Skill,并用手动档位矩阵区分免费与付费能力。若你的日常工作流里频繁出现多表脏数据,可按上文命令装入 Cursor 等客户端,再配置 DATA_CLEANER_TIER 与可选的 DATA_CLEANER_API_KEY 后试用。

  • SkillHub 页面:https://www.skillhub.cn/skills/user_26bdbd50/multi-source-data-cleaner
  • 官方 API 坐标页:https://api.skillhub.cn/user_26bdbd50/multi-source-data-cleaner
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye