前言¶
DeepSeek Harness(DSH)是一個基於插件化架構的框架,允許開發者通過編寫插件來擴展智能體的行爲能力。在實際開發中,Agent 執行某些操作(如刪除文件、修改配置)時,開發者往往只能看到操作是否成功,卻難以直觀評估該操作帶來的實際損失(Silent Loss)。這種信息不對稱可能導致開發者做出不理性的決策。
dsh-project-guard 是一個旨在解決這一痛點的插件。它通過後果分析,在 Agent 觸碰機器之前或之後,明確告知用戶某個操作的成本與損失。
插件定位¶
- 名稱:
dsh-project-guard - 核心價值:Consequence analysis for DeepSeek Harness: states what an action will cost you.
- 維護者:Inceptzws
- 分類:admin-security
- 許可證:MIT
核心能力¶
該插件不依賴任何外部模型調用,而是通過確定性表格查詢來完成判斷。它主要提供以下功能:
- 預執行後果預覽:在 Agent 執行操作前,展示該操作可能帶來的後果。它會列出不同選項(執行、拒絕、備份後執行、重寫)對應的損失。
- 執行後報告:在操作執行後生成報告,對比預測值與實際值,幫助開發者發現“靜默損失”。
- 多維度興趣管理:支持 21 個興趣維度,開發者可以配置權重和層級。
- 零依賴:無需構建步驟,無額外依賴。
配置與使用¶
1. 設置觸發機制¶
插件通過 discloseOn 配置項決定何時顯示後果信息。默認情況下,插件僅在 Agent 需要額外權限確認時運行。
# 配置示例:僅在詢問時顯示
discloseOn: asks
# 配置示例:對所有已知操作顯示
discloseOn: all
2. 啓用執行後報告¶
Post-execution Report 默認是關閉的。如果需要記錄操作後的預測與實際對比,需要開啓此開關。
# 開啓執行後報告
reportExecuted: true
3. 定義自定義興趣維度¶
開發者可以在 YAML 配置中定義自己的興趣維度,指定其權重和層級。
interests:
my_data:
weight: 0.95
tier: 1
label: "自定義數據維度"
4. 查看報告¶
執行後的報告默認保存在項目根目錄下的 .dsh-project-guard/reports.l 文件中。
設計與注意事項¶
- 靜默策略:這是插件的設計決策。只有超過閾值且排在前列的後果纔會被展示。低於閾值的後果會被完全忽略,以避免信息過載。
- 置信度限制:不同層級(Tier)的維度,其計算出的置信度上限不同。層級越高(Tier 3),置信度上限越低,甚至只做標記不進行評分。
- 價值判斷:插件無法預測具體的價值判斷,只能標記出涉及價值判斷的情況。
- 版本:當前版本爲 1.1.1。