全能金融爬蟲:機構數據、輿情與多源金融查詢的一體化 Skill

前言

做國內金融數據時,常見做法是拆成多套腳本:一份維護機構名錄,一份拉公告和研報,輿情再單獨接 RSS 或第三方庫;遇到反爬或頁面結構變化,還要在 HTTP 請求和瀏覽器自動化之間手工切換。調度、增量和斷點往往得自己補一層。下面介紹 SkillHub 上的 全能金融爬蟲(新增 MCP 接入)(座標 @user_9d5a2a39/cnfinancialscraper),它把機構名單、輿情、A 股文檔、結構化行情與爬取調度放在同一套 Skill 裏,並在 v10.0.0 中強化了調度中心、網頁操作鏈路和 MCP 數據獲取。

這是什麼

全能金融爬蟲 是社區發佈者 user_9d5a2a39 維護的 data-analysis 類 Agent Skill(SkillHub 包版本 1.0.49,技能自述版本 v10.0.0)。定位是:中國金融機構相關的 爬取、調度、多源查詢與分析 綜合能力,覆蓋全量機構名錄、財經媒體輿情、A 股報告/公告/券商研報、期貨/宏觀/港股美股等結構化數據,並附帶類人瀏覽器爬取、風險指標與定期報告解讀。頁面標註 requires_api_key=true,部分數據源(如 Tushare 等)需要自行配置密鑰。

官方入口:

  • API:https://api.skillhub.cn/user_9d5a2a39/cnfinancialscraper
  • SkillHub:https://www.skillhub.cn/skills/user_9d5a2a39/cnfinancialscraper

核心功能

以下能力均來自 SkillHub 頁面與已抓取簡介,按模塊歸納。

機構與文檔類數據

  • 機構名單:2334 家、43 大類(自述爲全量機構名錄體系)。
  • 全網輿情:60+ 商業財經媒體源,配合 RSS 等通路;多源查詢側支持 akshare / 東財 / yfinance / RSS 等適配與自動降級。
  • A 股材料:報告、公告、券商研報等爬取與相關導出能力。

爬取調度與智能選源(v10.0.0)

  • CrawlerDispatcher:4 種策略智能選源。
  • BaseScraper 協議統一爬取實現。
  • 增量爬取、斷點續爬,外層帶反爬包裹。

網頁操作增強(v10.0.0)

  • Shadow DOM / iframe 穿透。
  • Cookie Banner 自動處理。
  • 驗證碼 OCR:stdlib → ddddocr → tesseract 降級鏈。
  • 人類行爲軌跡、WebSocket 監聽。
  • 觸發詞中還包含類人爬取、Cookie 彈窗、驗證碼識別等,便於用自然語言喚起對應流程。

MCP 與多源金融數據(v10.0.0)

  • 79 個 MCP 工具、8 個 Resource、10 個 Prompt。
  • 數據側自述爲 60+ 種查詢、9 個適配器,含 Tushare / CoinGecko / Alpha Vantage / ExchangeRate 等,配合 LRU + TTL 緩存 與多源自動降級。
  • v9.0.0 承接:5 適配器、36 查詢,反爬深度(代理 / Header / 指紋 / 節奏)、UA 池 24;v8.0.0 承接反爬管道與數據分析增強(關鍵詞、跨源、趨勢、對標、洞察)。

分析與報告

  • 風險指標分析、組合相關能力(觸發詞含夏普比率、組合復刻、數據回測等)。
  • 定期報告解讀:Skill 簡介中列爲獨立能力,具體規則以包內文檔爲準。

語音與其它觸發能力

官方觸發詞列表包含 語音交互、語音爬取 等;具體實現細節以 Skill 包內說明爲準,本文不展開未在頁面列出的參數。

常用自然語言觸發方向還包括:爬取機構、輿情爬取、公告下載、批量/定時爬取、東方財富、龍虎榜、監管動態、結構化數據、期貨、宏觀經濟、港股美股、爬取調度、數據源健康、多源數據、統一查詢等(完整列表見 Skill 內 auto_trigger)。

安裝與啓用

1、安裝 SkillHub CLI(若尚未安裝)

command -v skillhub && skillhub --version

未安裝時可執行完整安裝(CLI + 默認 Skill):

curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash

僅 CLI:

curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash -s -- --cli-only

2、安裝本 Skill 到當前 Agent 的 skills 目錄

安裝時必須用 --dir 指向當前客戶端識別的 skills 目錄,否則默認落在 ./skills/ 可能不會被加載。

skillhub install user_9d5a2a39/cnfinancialscraper --dir <你的 skills 目錄>

常見路徑(以 SkillHub 安裝文檔爲準):

  • Cursor:~/.cursor/skills/
  • Claude Code:~/.claude/skills/
  • Codex:~/.codex/skills/ 或項目下 .agents/skills/

也可將下面提示交給 Agent,讓其按官方安裝說明拉取技能:

請根據 https://skillhub.cn/install/skillhub.md,安裝 @user_9d5a2a39/cnfinancialscraper。

3、API Key 與依賴

Skill 標籤爲 requires_api_key=true。使用 Tushare、部分商業源或 MCP 適配器時,需在 Skill 文檔或環境變量中按發佈者要求配置密鑰;未配置時相關查詢可能降級或失敗。

安裝或升級後,按你所用客戶端規則 重啓或刷新 Agent,確保新 Skill 被索引。

典型用法

官方頁面未給出固定 CLI 子命令示例,實際使用以 對話觸發 + Agent 調用 Skill 工具 爲主。可按業務意圖直接描述任務,並帶上上文觸發詞中的關鍵詞,例如:

  1. 機構與輿情:「按機構名單爬取某類持牌機構官網信息」「全網輿情:某主題近一週財經媒體彙總」。
  2. 公告與研報:「下載某公司近期公告與券商研報,導出 PDF/HTML」。
  3. 調度與增量:「對這批 URL 增量爬取,斷點續爬」「爬取調度:檢查數據源健康後選源」。
  4. 結構化行情:「拉取期貨/宏觀/港股美股等行情,多源自動切換」。
  5. MCP 數據:在已啓用 MCP 的客戶端中,通過 Skill 暴露的工具查詢 Tushare、CoinGecko、匯率等(受 API Key 與緩存策略約束)。
  6. 網頁難點頁:「Shadow DOM 表格識別」「iframe 內公告列表分頁抓取」「Cookie 彈窗 + 驗證碼頁面類人爬取」。

經過上面的步驟安裝並配置密鑰後,由 Agent 根據 Skill 內腳本與 MCP 定義選擇具體實現路徑;批量、定時類需求可結合觸發詞「批量爬取」「定時爬取」說明節奏與範圍。

適用場景與注意

適合誰

  • 需要在 Cursor、Claude Code、Codex 等環境中用自然語言完成 國內金融數據採集、歸檔與粗分析 的開發者或研究員。
  • 希望 多源降級、調度與斷點 由 Skill 統一處理,而不是爲每個站點單獨寫爬蟲鏈路的團隊。

限制與注意

  • 數據與頁面結構隨監管機構和站點改版變化,需遵守目標站點的服務條款與 robots 規則;Skill 提供反爬與類人能力不等於可無視合規邊界。
  • requires_api_key=true:提前準備 Tushare 等密鑰,並注意第三方接口配額。
  • SkillHub 展示爲社區來源(community),版本迭代快(當前自述 v10.0.0),升級前建議在測試環境驗證關鍵爬取路徑。
  • 頁面統計(如評分、下載量)會隨商店更新變化,以 SkillHub 實時頁面爲準。

結尾

全能金融爬蟲 將機構名錄、輿情、A 股文檔、多適配器行情查詢、爬取調度與 MCP 工具集收斂到單一 Skill,適合作爲國內金融數據工作的默認爬取與分析入口。安裝與詳情見 SkillHub:
https://www.skillhub.cn/skills/user_9d5a2a39/cnfinancialscraper

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜