在智能體開發中,我們常需評估會話是否展現了某種結構性的功能組織。DeepSeek Harness (DSH) 的 slatinwine/dsh-sentience-audit 插件提供了一個基於軌跡結構的審計工具。它依據 Butlin 等人 (2023) 的意識指標理論,對會話進行 L1-L5 的評級,而非測量主觀體驗。
核心功能¶
該插件的核心作用是審計 DeepSeek Harness 會話,並給出一個結構化的評級。它不依賴任何大模型或網絡調用,基於會話的軌跡結構進行確定性分析。
- 審計 14 個意識指標:對照 Butlin、Long、Bengio 等人 (2023) 提出的 14 個意識指標對會話進行審計。
- 報告 L1-L5 級別:輸出具體的等級,而非平均值。
- 確定性評估:結果完全可復現,不依賴模型調用、LLM 判定或網絡,且平臺無關。
安裝與啓用¶
該插件尚未發佈到 npm 倉庫,需要直接安裝發佈包。
- 從 GitHub Releases 下載
slatinwine-dsh-sentience-audit-0.1.1.tgz。 - 使用 DSH 命令安裝:
dsh plugin --profile my-profile add ./slatinwine-dsh-sentience-audit-0.1.1.tgz
- 安裝後可通過
dsh --profile my-profile --dump-config確認配置中包含sentience-audit行。
典型用法¶
在 DSH 會話中,模型可以調用 sentience_audit 工具。
sentience_audit() // 審計當前會話
sentience_audit({ sessionId: "..." }) // 審計另一個實時會話
工具會返回一個包含 L1-L5 級別及證據的報告。例如,它可能顯示“達成 8 · 無法評估 3 · 缺失 3”,並列舉具體指標(如 RPT-1、HOT-1)的判定結果和證據類型(如架構既定、軌跡結構)。
適用場景與注意¶
適用場景¶
- 評估智能體是否具備遞歸循環(L2)或全局工作空間(L3)等結構性特徵。
- 作爲智能體架構設計的參考,而非主觀體驗的證明。
注意事項¶
- 不是意識量表:該工具測量的是功能性組織,而非意識本身。作者明確指出,當前 AI 系統均未通過測試。
- 軌跡結構依賴:僅基於可回放的軌跡結構(如工具調用順序、讀寫文件),不檢查內部表示。
- 誠實上限:由於
AST-1(注意架構理論)無法僅從軌跡評估,L5 級別實際上不可達。 - 僅限實時會話:只能審計
sessions服務中的實時會話,無法審計歸檔會話。 - 評分標準暫定:其評分標準是基於 2023 年的論文,作者預計未來會更新。
結語¶
該插件爲 DSH 提供了一種客觀、可復現的方式來評估智能體的結構化能力。如果你需要評估會話的功能組織程度,可以參考此插件。