dsh-webfetch:給 DSH 增加只讀網頁讀取能力

前言

在 DeepSeek Harness(DSH)插件場景中,智能體經常需要處理 URL:讀取公開網頁正文、整理頁面鏈接、解析 RSS 2.0 / Atom 訂閱源,或者檢查 HTTP 狀態碼、響應頭和重定向鏈。dsh-webfetch 提供一組只讀工具,將 http/https URL 轉成適合後續處理的 Markdown 或純文本內容,並保留必要的鏈接和響應信息。

這是什麼

dsh-webfetch 是 DeepSeek Harness 的網頁讀取插件。它用於抓取網頁並提取 Markdown 或純文本正文、收集頁面鏈接、解析 RSS 2.0 / Atom 訂閱源,以及在不下載正文的情況下檢查 HTTP 頭部和重定向鏈。

該插件零運行時依賴,許可證爲 MIT,運行環境要求 Node >=20。倉庫地址爲 TYEclipse/dsh-webfetch。

核心功能

web_fetch

web_fetch 用於抓取 http/https 頁面,並提取 Markdown 或純文本正文。

它只讀取可解析的響應類型,覆蓋 text/html 和 text/plain。對提取出的正文存在長度上限,超長內容會被限制返回。

web_links 用於收集頁面上的鏈接,並將鏈接解析爲絕對 URL。

它會去重並限制返回數量,適合用於查看一個頁面指向哪些外部地址。

web_feed

web_feed 用於解析 RSS 2.0 / Atom 訂閱源,並返回結構化條目。

它接受 RSS/Atom/XML 類型,適合處理博客、新聞源或其他訂閱流。

web_headers

web_headers 用於探測 HTTP 狀態碼、響應頭和重定向鏈。

它不下載頁面正文,適合在獲取內容之前檢查目標地址是否可用、是否發生重定向,或查看必要的響應頭信息。

代理與安全限制

dsh-webfetch 內置 HTTP/HTTPS 代理支持。

它的訪問範圍限制在 http/https,並拒絕 file:、ftp:、javascript: 等地址。插件不會發送憑證:拒絕包含憑證的 URL,不附加 cookies 或 authorization headers。

同時,插件存在請求超時、重定向跳轉、響應大小和提取文本長度等上限。

安裝與啓用

在 DSH 插件體系中,可以按 profile 安裝該插件:

dsh plugin --profile web add github:TYEclipse/dsh-webfetch

安裝後,web_fetch、web_links、web_feed、web_headers 可作爲 DSH 智能體工具調用。

典型用法

下面示例用於說明各工具的用途邊界。

讀取一個公開倉庫頁面:

agent: web_fetch("https://github.com/deepseek-ai/deepseek-harness")

web_fetch 會讀取目標頁面的可讀內容,返回適合摘要、問答或進一步處理的正文。

讀取訂閱源並限制條目數:

agent: web_feed("https://blog.example.com/feed.xml", maxItems: 5)

web_feed 會解析 RSS 2.0 / Atom 訂閱源,並返回有限的結構化條目。

檢查下載鏈接的狀態與重定向:

agent: web_headers("https://example.com/downloads/latest")

web_headers 會檢查 HTTP 狀態、響應頭和重定向鏈,而不是下載完整正文。

適用場景與注意

dsh-webfetch 適合以下場景:

1、讀取公開 http/https 網頁,並將正文整理爲 Markdown 或純文本。
2、收集頁面鏈接,解析爲絕對 URL 並去重。
3、解析 RSS 2.0 / Atom 訂閱源。
4、檢查 URL 的 HTTP 狀態碼、響應頭和重定向鏈。

使用注意:

1、插件以當前 dsh 進程權限運行,安裝前應檢查源碼與 MIT 許可證。
2、它只支持 http/https,不適合 file:、ftp:、javascript: 等地址。
3、它不發送憑證,不附加 cookies 或 authorization headers,因此不適合依賴登錄態的頁面抓取。
4、web_fetch 和 web_links 僅解析 text/html 和 text/plain;web_feed 接受 RSS/Atom/XML 類型。
5、請求超時、重定向跳轉、響應大小和提取文本長度都有上限。

結尾

dsh-webfetch 的價值在於把“讀取 URL”變成 DSH 插件裏的穩定能力:只讀、低依賴、邊界清晰。它適合用於網頁正文提取、頁面鏈接整理、RSS/Atom 訂閱源解析,以及 HTTP 狀態和重定向檢查。

GitHub:https://github.com/TYEclipse/dsh-webfetch

DSH 社區目錄:可按插件名 dsh-webfetch 檢索;目錄頁爲獨立站點,與 DeepSeek / 幻方無官方從屬關係。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜