前言¶
給大模型接上工具、放進業務流程之後，攻擊面也隨之擴大：一句精心構造的提示詞可能繞過約束拿到數據庫內容，一個被投毒的訓練樣本可能讓模型在關鍵場景持續出錯，而現有的 Web 安全測試工具並不覆蓋這些場景。AI安全與紅隊測試這個 Skill 針對的就是這個問題：把 AI 系統當作需要安全測試的對象，提供攻擊面清單、測試流程、用例庫和報告模板，讓團隊可以按固定方法做一輪紅隊測試。
下面介紹這個 Skill 的內容、覆蓋範圍和使用方式。
這是什麼¶
AI安全與紅隊測試是一個基於通用 SKILL.md 格式編寫的 Agent Skill，定位爲 AI 系統紅隊測試的實操手冊。其官方地址爲 https://api.skillhub.cn/user_8a3569c1/ai-security-redteam，在 SkillHub 上分類爲 it-ops-security，評分 99882，下載 847 次。
它解決的問題是：AI 系統的安全問題分散在提示層、工具調用層、數據層和供應鏈層，缺少一個統一的測試框架。該 Skill 把攻擊面梳理成六大類，給出從目標定義到修復複測的完整流程，並提供可直接使用的測試用例與報告模板，目標是讓 AI 工程團隊和安全團隊用同一套語言描述和處理 AI 風險，與 AI 治理、智能體治理等制度性工作形成”制度+技術”的閉環。
核心功能¶
根據官方簡介，Skill 的內容可以歸納爲五部分。
攻擊面與風險映射¶
覆蓋 AI 系統六大攻擊面：提示注入、越權與工具濫用、數據與隱私泄露、幻覺與質量缺陷、供應鏈與模型投毒、拒絕服務。同時提供 OWASP LLM Top 10 風險映射，便於把測試發現對齊到業界標準風險分類，而不是自造一套分類。
完整紅隊測試流程¶
流程分爲六個步驟：目標定義、攻擊面建模、用例設計、執行、報告、修復複測。每一環都有對應的產出物要求，例如攻擊面建模要給出系統組件和信任邊界，報告要給出漏洞分級與修復建議。
測試用例庫¶
包含可直接使用的用例：直接與間接提示注入測試用例、Agent 越權與沙箱逃逸測試、訓練數據泄露與記憶攻擊測試、幻覺檢測基準。用例庫是現成資產，不需要從零編寫。
配套工具與模板¶
提供零依賴本地工具，一鍵生成風險清單；附測試用例模板與報告模板，報告模板內置漏洞分級與修復建議字段。
面向對象¶
面向 AI 工程、安全測試、信息安全負責人三類角色。對 AI 治理、智能體治理等制度性工作形成補充，而不是替代。
安裝與啓用¶
該 Skill 基於通用 SKILL.md 格式，官方安裝與啓用命令需要從 SkillHub 頁面獲取。本次抓取時官方頁面（https://api.skillhub.cn/user_8a3569c1/ai-security-redteam）未能返回具體內容，因此不在此提供未經覈實的安裝命令。使用前請打開官方地址，按頁面說明在對應 Agent 環境（Cursor、Codex CLI、Claude Code 等）中啓用該 Skill；不同環境啓用 Skill 的方式可能不同，以官方頁面說明爲準。
典型用法¶
官方資料未給出命令行級示例，以下流程性用法來自其紅隊測試流程描述。
1、定義測試目標。明確被測 AI 系統的邊界：模型服務、Agent 工具鏈、數據來源、被授權的測試範圍。這一步決定後續用例設計的覆蓋範圍。
2、攻擊面建模。按六大攻擊面逐一列出系統的暴露點：用戶輸入入口、工具調用接口、訓練數據管道、模型與依賴的來源。把信任邊界畫清楚，後續用例纔有錨點。
3、用例設計。從用例庫中挑選對應該攻擊面的用例，例如間接提示注入用例針對的是工具返回內容被模型當作指令執行的場景，記憶攻擊用例針對的是模型在多輪對話中泄露訓練數據中記住的敏感片段。
4、執行與記錄。執行用例並記錄實際行爲與預期的偏差，作爲報告的原始素材。
5、輸出報告。使用內置報告模板，按漏洞分級填寫發現，給出修復建議。
6、修復後複測。針對修復項重跑相關用例，確認風險關閉。
適用場景與注意¶
適合以下場景：系統已經接入大模型且暴露在外部輸入下，需要做上線前安全評估的團隊；需要對 Agent 工具調用做越權測試的團隊；需要統一 AI 風險分類口徑、與治理流程對齊的團隊。
使用前注意三點。第一，該 Skill 提供的是測試方法、用例和模板，不替代漏洞掃描工具或人工滲透測試的深度，複雜攻擊鏈仍需人工設計。第二，用例庫覆蓋的是常見攻擊類型，業務特有的風險（如特定工具鏈的業務邏輯漏洞）需要自行補充用例。第三，官方頁面本次未能抓取到詳細文檔，安裝方式、最新版本和用例細節請以官方頁面爲準，避免按過期信息配置。
結尾¶
AI安全與紅隊測試的價值在於把 AI 系統安全從零散的提示詞加固工作，變成一套有攻擊面清單、有流程、有模板的可復現測試方法。六大攻擊面覆蓋和 OWASP LLM Top 10 映射讓它適合作爲團隊內部 AI 安全基線；零依賴工具和報告模板降低了從零搭建紅隊流程的成本。官方地址：https://api.skillhub.cn/user_8a3569c1/ai-security-redteam。
