前言¶
AI 助手读网页时,拿到的往往是一段残缺的 HTML:单页应用把正文交给 JS 渲染,登录墙挡住接口,限速让请求直接失败。直接抓回来的文本里没有正文,只有空壳标签。
下面介绍的这个 Skill 就是为了填这个坑。它叫「网页内容抓取器」(@user_d544ba0e/page-content-scraper),社区出品,解决的是「AI 拿不到干净正文」这一件事。
这是什么¶
一句话定位:输入一个 URL,输出该页面的干净文本,遇到 JS 渲染的页面自动用无头浏览器渲染后再取。
- 名称:网页内容抓取器
- 坐标:@user_d544ba0e/page-content-scraper
- 版本:1.0.0
- 来源:community(社区)
- 发布者:user_d544ba0e
- 分类:data-analysis
- 评分:100000,下载 760,安装 0
- 标签:requires_api_key=false(不需要 API Key)
和「直接让模型读 URL」相比,差别在于它不假设页面是静态的:检测到是 SPA 会先跑一遍无头浏览器,再把渲染后的正文抽出来。
核心功能¶
- 从 AI 无法直接访问的网页中提取干净文本。典型包括三类:JS 渲染的单页应用、登录墙后的页面、被限速的 API。
- 自动检测 SPA,并用无头浏览器渲染后再抓取。
- 输入是 URL,可附带可选的 CSS 选择器,用于只取页面里特定的部分。
- 输出是干净文本内容,不含导航栏、脚本、样式等杂质。
触发词:抓取、爬取、scrape、提取内容、获取网页文字 + URL。也就是说,对话里出现这类词并带上链接时,就是它的触发条件。
安装与启用¶
已抓取的资料里没有提供官方安装命令、Skill 包下载方式或各客户端的配置步骤。按规则,核实不到的内容不写。可以确认的只有两点:
- 不需要 API Key(requires_api_key=false),启用后不存在密钥配置环节。
- 它基于通用 SKILL.md 格式,属于社区发布的 Skill。
拿到官方地址后,具体的安装方式需要以 SkillHub 页面当时的说明为准。
典型用法¶
官方资料给出的输入输出约定如下:
输入:URL + 可选 CSS 选择器
输出:干净文本内容
对应的触发方式:
TRIGGER: 抓取、爬取、scrape、提取内容、获取网页文字
INPUT: 文件路径或文本内容
OUTPUT: 处理后的文件或分析报告
也就是说,使用方式是把 URL(以及想限定的 CSS 选择器)作为输入交给 Skill,它返回处理后的干净文本。资料中没有给出更细的命令行或脚本级示例,这里不做补充。
适用场景与注意¶
适合的场景:
- 目标页面是 Vue / React 之类的单页应用,静态抓取拿不到正文。
- 页面需要登录后才渲染内容,模型自带的 URL 读取拿不到。
- 想按 CSS 选择器精确取某一块区域,而不是整页文本。
- 不需要为抓取额外申请 API Key。
需要注意的点:
- 它解决的是「拿到正文」,不解决「绕过登录墙获取凭证」。登录墙后的页面能取,前提是会话本身可用。
- 被限速的 API 场景下,渲染和抓取仍然受目标站点的限速约束,Skill 不会绕过站点限制。
- 无头浏览器渲染比直接请求慢,批量抓大量页面时要做好超时和并发控制。
- 安装数为 0、来自社区,选用前建议先在小范围页面上试一次,确认输出格式符合预期。
结尾¶
这个 Skill 的价值在于把「渲染—抽取—清洗」这一套动作封装起来,让 AI 在拿到 URL 之后能直接得到可用的正文,而不用关心页面是不是 JS 渲染的。它不需要 API Key,输入输出约定简单,适合嵌在内容采集、资料整理这类流程里。
官方地址:https://api.skillhub.cn/user_d544ba0e/page-content-scraper
SkillHub 页面:https://www.skillhub.cn/skills/user_d544ba0e/page-content-scraper