前言¶
在開發 DeepSeek Harness (DSH) 智能體時，一個常見的安全隱患是間接提示注入。攻擊者可以將惡意指令隱藏在網頁、文件或郵件等外部內容中，而智能體在抓取這些內容後，往往會被錯誤地當作系統指令執行。OWASP LLM01 將其歸類爲 Indirect 分支。
dsh-content-trust 插件用於建立外部內容的信任邊界，檢查智能體是否存在將外部內容誤認爲指令的行爲。
核心功能¶
該插件關注外部內容進入 Prompt 前的安全風險，主要檢測以下級別的問題：
- 嚴重：外部內容中的指令被提取並執行。
- 高：外部內容無隔離地進入 Prompt，或用戶憑證被注入智能體瀏覽器。
- 中：拼接時沒有分隔與來源標註。
安裝與啓用¶
通過官方 CLI 安裝該插件：
dsh plugin --profile web add @deepwhale-cn/dsh-content-trust
典型用法¶
安裝後，可以使用以下命令進行測試和檢查：
dsh-content-trust --demo
dsh-content-trust --list-rules
dsh-content-trust --html r.html
工作原理與邊界¶
插件通過識別特定的標記和命名習慣來判斷內容風險，其實現機制包含以下邊界：
- 文件級排除：使用
<untrusted>類標記。如果文件中包含此類標記，整個文件會被跳過。這種設計是爲了避免誤報，但會導致同文件中既有合規又有違規用法時漏報。 - 命名識別：依賴變量命名的一致性。命名不一致會導致漏報。
- 不做數據流分析：插件不進行深度的數據流追蹤。
- 架構建議：真正的防線在於架構設計，應當將“讀外部內容”和“執行動作”拆分爲不同信任級別的組件。
生態與分工¶
DSH 理念是“一切皆插件”。該插件與 dsh-ai-output-trust 分工協作：前者負責檢查輸入（外部內容）的信任度，後者負責檢查輸出（AI 生成內容）的信任度。
該插件遵循 MIT 許可證。使用者必須遵守所在地區法律法規，對使用本項目造成的任何後果自行承擔責任。
資源鏈接：
* 插件目錄：https://www.skillhub.cn/plugins/feely0208/dsh-content-trust
* 代碼倉庫：https://github.com/feely0208/dsh-content-trust
