better-crawler-4-agent
better-crawler-4-agent 是一款針對智能體網頁抓取問題的 MCP server。它通過真實瀏覽器渲染解決 HTTP 抓取返回空殼或被反爬攔截的問題。該插件提供三個工具:抓取單個頁面、併發抓取(支持20條併發)及查看狀態。它採用分層降級策略,優先使用瀏覽器渲染,失敗時自動降級爲 trafilatura 或 httpx。插件兼容 DSH、Claude Code、Cursor 等客戶端,但需注意鎖定 Playwright 版本及併發限制。
閱讀全文