前言¶
做國內金融數據時,常見做法是拆成多套腳本:一份維護機構名錄,一份拉公告和研報,輿情再單獨接 RSS 或第三方庫;遇到反爬或頁面結構變化,還要在 HTTP 請求和瀏覽器自動化之間手工切換。調度、增量和斷點往往得自己補一層。下面介紹 SkillHub 上的 全能金融爬蟲(新增 MCP 接入)(座標 @user_9d5a2a39/cnfinancialscraper),它把機構名單、輿情、A 股文檔、結構化行情與爬取調度放在同一套 Skill 裏,並在 v10.0.0 中強化了調度中心、網頁操作鏈路和 MCP 數據獲取。
這是什麼¶
全能金融爬蟲 是社區發佈者 user_9d5a2a39 維護的 data-analysis 類 Agent Skill(SkillHub 包版本 1.0.49,技能自述版本 v10.0.0)。定位是:中國金融機構相關的 爬取、調度、多源查詢與分析 綜合能力,覆蓋全量機構名錄、財經媒體輿情、A 股報告/公告/券商研報、期貨/宏觀/港股美股等結構化數據,並附帶類人瀏覽器爬取、風險指標與定期報告解讀。頁面標註 requires_api_key=true,部分數據源(如 Tushare 等)需要自行配置密鑰。
官方入口:
- API:
https://api.skillhub.cn/user_9d5a2a39/cnfinancialscraper - SkillHub:
https://www.skillhub.cn/skills/user_9d5a2a39/cnfinancialscraper
核心功能¶
以下能力均來自 SkillHub 頁面與已抓取簡介,按模塊歸納。
機構與文檔類數據¶
- 機構名單:2334 家、43 大類(自述爲全量機構名錄體系)。
- 全網輿情:60+ 商業財經媒體源,配合 RSS 等通路;多源查詢側支持 akshare / 東財 / yfinance / RSS 等適配與自動降級。
- A 股材料:報告、公告、券商研報等爬取與相關導出能力。
爬取調度與智能選源(v10.0.0)¶
- CrawlerDispatcher:4 種策略智能選源。
- BaseScraper 協議統一爬取實現。
- 增量爬取、斷點續爬,外層帶反爬包裹。
網頁操作增強(v10.0.0)¶
- Shadow DOM / iframe 穿透。
- Cookie Banner 自動處理。
- 驗證碼 OCR:
stdlib → ddddocr → tesseract降級鏈。 - 人類行爲軌跡、WebSocket 監聽。
- 觸發詞中還包含類人爬取、Cookie 彈窗、驗證碼識別等,便於用自然語言喚起對應流程。
MCP 與多源金融數據(v10.0.0)¶
- 79 個 MCP 工具、8 個 Resource、10 個 Prompt。
- 數據側自述爲 60+ 種查詢、9 個適配器,含 Tushare / CoinGecko / Alpha Vantage / ExchangeRate 等,配合 LRU + TTL 緩存 與多源自動降級。
- v9.0.0 承接:5 適配器、36 查詢,反爬深度(代理 / Header / 指紋 / 節奏)、UA 池 24;v8.0.0 承接反爬管道與數據分析增強(關鍵詞、跨源、趨勢、對標、洞察)。
分析與報告¶
- 風險指標分析、組合相關能力(觸發詞含夏普比率、組合復刻、數據回測等)。
- 定期報告解讀:Skill 簡介中列爲獨立能力,具體規則以包內文檔爲準。
語音與其它觸發能力¶
官方觸發詞列表包含 語音交互、語音爬取 等;具體實現細節以 Skill 包內說明爲準,本文不展開未在頁面列出的參數。
常用自然語言觸發方向還包括:爬取機構、輿情爬取、公告下載、批量/定時爬取、東方財富、龍虎榜、監管動態、結構化數據、期貨、宏觀經濟、港股美股、爬取調度、數據源健康、多源數據、統一查詢等(完整列表見 Skill 內 auto_trigger)。
安裝與啓用¶
1、安裝 SkillHub CLI(若尚未安裝)¶
command -v skillhub && skillhub --version
未安裝時可執行完整安裝(CLI + 默認 Skill):
curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash
僅 CLI:
curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash -s -- --cli-only
2、安裝本 Skill 到當前 Agent 的 skills 目錄¶
安裝時必須用 --dir 指向當前客戶端識別的 skills 目錄,否則默認落在 ./skills/ 可能不會被加載。
skillhub install user_9d5a2a39/cnfinancialscraper --dir <你的 skills 目錄>
常見路徑(以 SkillHub 安裝文檔爲準):
- Cursor:
~/.cursor/skills/ - Claude Code:
~/.claude/skills/ - Codex:
~/.codex/skills/或項目下.agents/skills/
也可將下面提示交給 Agent,讓其按官方安裝說明拉取技能:
請根據 https://skillhub.cn/install/skillhub.md,安裝 @user_9d5a2a39/cnfinancialscraper。
3、API Key 與依賴¶
Skill 標籤爲 requires_api_key=true。使用 Tushare、部分商業源或 MCP 適配器時,需在 Skill 文檔或環境變量中按發佈者要求配置密鑰;未配置時相關查詢可能降級或失敗。
安裝或升級後,按你所用客戶端規則 重啓或刷新 Agent,確保新 Skill 被索引。
典型用法¶
官方頁面未給出固定 CLI 子命令示例,實際使用以 對話觸發 + Agent 調用 Skill 工具 爲主。可按業務意圖直接描述任務,並帶上上文觸發詞中的關鍵詞,例如:
- 機構與輿情:「按機構名單爬取某類持牌機構官網信息」「全網輿情:某主題近一週財經媒體彙總」。
- 公告與研報:「下載某公司近期公告與券商研報,導出 PDF/HTML」。
- 調度與增量:「對這批 URL 增量爬取,斷點續爬」「爬取調度:檢查數據源健康後選源」。
- 結構化行情:「拉取期貨/宏觀/港股美股等行情,多源自動切換」。
- MCP 數據:在已啓用 MCP 的客戶端中,通過 Skill 暴露的工具查詢 Tushare、CoinGecko、匯率等(受 API Key 與緩存策略約束)。
- 網頁難點頁:「Shadow DOM 表格識別」「iframe 內公告列表分頁抓取」「Cookie 彈窗 + 驗證碼頁面類人爬取」。
經過上面的步驟安裝並配置密鑰後,由 Agent 根據 Skill 內腳本與 MCP 定義選擇具體實現路徑;批量、定時類需求可結合觸發詞「批量爬取」「定時爬取」說明節奏與範圍。
適用場景與注意¶
適合誰
- 需要在 Cursor、Claude Code、Codex 等環境中用自然語言完成 國內金融數據採集、歸檔與粗分析 的開發者或研究員。
- 希望 多源降級、調度與斷點 由 Skill 統一處理,而不是爲每個站點單獨寫爬蟲鏈路的團隊。
限制與注意
- 數據與頁面結構隨監管機構和站點改版變化,需遵守目標站點的服務條款與 robots 規則;Skill 提供反爬與類人能力不等於可無視合規邊界。
requires_api_key=true:提前準備 Tushare 等密鑰,並注意第三方接口配額。- SkillHub 展示爲社區來源(community),版本迭代快(當前自述 v10.0.0),升級前建議在測試環境驗證關鍵爬取路徑。
- 頁面統計(如評分、下載量)會隨商店更新變化,以 SkillHub 實時頁面爲準。
結尾¶
全能金融爬蟲 將機構名錄、輿情、A 股文檔、多適配器行情查詢、爬取調度與 MCP 工具集收斂到單一 Skill,適合作爲國內金融數據工作的默認爬取與分析入口。安裝與詳情見 SkillHub:
https://www.skillhub.cn/skills/user_9d5a2a39/cnfinancialscraper