前言¶
表格数据拿到手,多半是脏的:重复行、空值、前后空格、日期一列有好几种写法、手机号少一位、该删的列还在。手工用 Excel 点一遍,能处理,但没法复现,换个人换份数据又得重来。
下面介绍的这个 Skill 把这类清理动作收成一组可复用的操作,覆盖从读取到出报告的整条路径。它是社区来源的通用数据清理工具,坐标 @user_e5d8216f/excel-data-cleaner-hpy,版本 1.0.0,分类 data-analysis,发布者 user_e5d8216f。
这是什么¶
一句话定位:面向 CSV、TSV、Excel、JSON、JSONL、Parquet 表格数据的清洗技能,把去重、缺失值、格式标准化、异常检测、字段校验、脱敏、画像、批量处理这些常见动作做成可直接调用的能力。
它解决的是「一次写死脚本,下次换个文件又得改」的问题:输入文件路径或目录,按任务选择清理动作,最后拿到一份清洗后的数据和一份 Markdown 清洗报告。
核心功能¶
按资料核实到的能力分列如下。
1、去重:支持完全去重,也支持按指定列去重。
2、缺失值处理:删除含缺失的行、填充固定值、智能填充。
3、格式标准化:去首尾空白、大小写统一、日期格式统一、数值类型转换、删除空列、删除指定列、重命名列。
4、异常值检测:使用 IQR(四分位距)法标记数值列的异常值。
5、字段格式校验:手机号、邮箱、身份证号、邮编、IP、URL。
6、数据画像:类型推断、分布统计、高频值统计。
7、字符串模式清洗:正则替换、正则提取。
8、列操作:列拆分、列合并。
9、PII 脱敏:手机号、身份证、姓名、邮箱、银行卡号。
10、批量处理:对目录下多文件执行同一套清洗流程。
11、业务规则引擎:按自定义业务规则做条件清洗。
12、报告输出:生成 Markdown 清洗报告,记录做了什么。
触发词与 Skill 标签一致:清洗数据 / 清理数据、去重、补全缺失值、统一格式、检查异常值、数据脱敏、批量清洗、数据画像、字段校验。
依赖与运行环境¶
运行环境要求 Python ≥ 3.10。必需依赖三项,Parquet 格式额外需要一项:
pip install pandas numpy openpyxl
# 仅当需要读写 Parquet 时
pip install pyarrow
必需的是 pandas、numpy、openpyxl;pyarrow 只在处理 Parquet 时用到,不处理该格式可以不装。
安装与启用¶
官方地址:https://api.skillhub.cn/user_e5d8216f/excel-data-cleaner-hpy
SkillHub 页面:https://www.skillhub.cn/skills/user_e5d8216f/excel-data-cleaner-hpy
本 Skill 基于通用 SKILL.md 格式,由客户端加载技能描述后按其中的能力与触发词执行,资料中未给出独立的安装命令。本次抓取官方页面失败,Cursor / Codex CLI / Claude Code 各自的安装方式未能核实,这里不写未经确认的命令。
可核实的事实是:来源为 community,标签 requires_api_key=false,即不需要额外配置 API key。当前版本 1.0.0,更新日志仅一条:v1.0.0(2026-08-12)首发版本,包含上述全部功能。
资料中给出的评分为 100000,下载 2289 次,安装 0 次;与线索中引用的评分 99052、下载 2259 次口径不一致,本文以已抓取资料为准。
典型用法¶
资料给出的四条触发示例,对应四种常见需求:
1. 基础清洗:"帮我清洗这个客户表格,去重并补全缺失值"
2. 脱敏:"把这份员工数据的手机号和身份证号脱敏"
3. 批量处理:"清洗 data 目录下所有 CSV 文件"
4. 数据画像:"先看一下这个表格的数据质量"
实际执行时,数据先落到 Python 环境。下面这段是处理入口的思路,对应 Skill 覆盖的格式:
import pandas as pd
# CSV / TSV
df = pd.read_csv("data/customers.csv", sep=",")
# Excel
df = pd.read_excel("data/customers.xlsx", engine="openpyxl")
# JSON / JSONL
df = pd.read_json("data/customers.json")
# Parquet(需已安装 pyarrow)
df = pd.read_parquet("data/customers.parquet")
加载后即可对 df 执行去重、缺失值、格式标准化、异常检测、字段校验、脱敏等动作,批量场景下循环读取目录内文件,最后输出 Markdown 清洗报告。具体每一步的参数与开关以 Skill 内 SKILL.md 描述为准。
适用场景与注意¶
适合这些场景:拿到一份来源不明的表格,需要先做质量检查和画像;数据来自多个导出,格式不统一,需要批量标准化;含个人信息,需要按字段脱敏后再交给下游。
需要注意的限制:
1、IQR 异常检测只针对数值列,分类型字段的异常需另配字段校验或业务规则。
2、智能填充不是万能的,填充结果依赖数据本身分布,关键业务字段建议先看画像再决定策略。
3、字段校验只能识别格式是否合法,无法判断「这个手机号是不是这个人的」。
4、PII 脱敏是不可逆操作,执行前保留原始文件。
5、批量处理要求目录内文件格式一致或可被识别,混合格式需先分流。
6、安装数目前为 0,社区样本少,遇到边界情况以 Skill 描述与自己的数据校验为准。
结尾¶
这个 Skill 的价值在于把零散的表格清理动作整理成一条可复现的流水线:读入、清洗、校验、脱敏、出报告,一套动作覆盖 CSV、TSV、Excel、JSON、JSONL、Parquet 六种格式。适合日常处理脏数据,不适合替代对业务规则的人工判断。
官方地址:https://api.skillhub.cn/user_e5d8216f/excel-data-cleaner-hpy