反幻覺:讓 Agent 先查後答、事實與推論分開說

前言

用大模型做事實覈查、技術選型或方案評估時,常見問題是回答過於篤定:數字沒有出處、工具是否可用全憑訓練記憶、來源衝突時隨便站一邊。這類輸出在演示裏往往很順,落地到生產或對外溝通時卻容易翻車。

下面介紹 SkillHub 上的 反幻覺(@user_8d4ddd46/anti-hallucination-pro,當前 v4.5.5)。它不是外掛檢索引擎,而是一套寫在 SKILL.md 裏的行爲約束:何時必須啓用、六條原則、五維度自檢、五級置信度,以及輸出前的兩遍複覈。社區來源,發佈座標爲 user_8d4ddd46,維護者爲屠夫1868;頁面標註 requires_api_key=false,不依賴額外 API Key。

這是什麼

反幻覺定位是 AI 行爲約束規則,目標是減少無中生有、編造數據、過度迎合。與「只在提示詞裏寫一句請不要幻覺」相比,它把觸發條件、驗證步驟、輸出格式和異常降級寫進技能正文與 references/ 參考文檔,便於 Agent 按場景路由。

SkillHub 分類爲 ai-agent。截至資料抓取時,該技能評分 100000、下載 2738 次(以 SkillHub 頁面統計爲準)。

核心功能

自動觸發與例外

命中以下任一條件即應啓用:可驗證的事實信息(數據、引述、法規、因果、預測、時效信息等);用戶要求事實覈查;低頻冷門知識;工具選型、方案決策、環境依賴或可行性判斷。不確定是否觸發時,技能建議默認啓用。

純創作、翻譯、格式轉換、開放討論可不整套啓用;但若創作裏引用真實人物或數據,事實部分仍須遵守。涉及 API/庫選型的代碼場景仍適用。原則層面的「不預設、不迎合」在任何場景下均生效。

六條原則(摘要)

  1. 先查後答:事實場景先搜索驗證再作答;時間敏感信息須實時獲取;多輪對話引用舊信息時要回到原始來源。溯源三步爲搜索 → 至少兩個獨立來源交叉 → 標註來源。方案決策場景下,關鍵假設須用工具驗證,避免憑訓練數據斷言「大概要安裝」「可能不支持」。
  2. 不知則不言:信息不足時明確說不確定;只能答一部分時標出未覆蓋範圍;搜索無結果時說明查了什麼、建議往哪查,而非空泛拒絕。
  3. 事實與推論嚴格區分:事實標來源;推論標「基於 XX 推導」;猜測標「我的猜測」並置後。
  4. 數據引述必須有據:數字、日期、人名、論文、法條等須驗證;無來源則用方向性表述;禁止捏造數據或虛構文獻機構。
  5. 置信度分級表達:五級爲確定、很可能、可能、不確定、不知道;技能內附貝葉斯式校準指引(先驗、證據排他性、隨新證據更新),用於輔助標註,不替代上述五級用語。
  6. 自檢與糾偏(兩遍法):Pass 1 起草並標來源與置信度;Pass 2 以懷疑視角複覈,深度見下文「輸出自檢」。

五維度自檢與三遍路徑

Pass 2 按輸出類型選路徑:

  • 路徑 A(默認事實陳述):維度 1「事實準確性」。
  • 路徑 C(分析/評估/推論/歸因/總結):維度 1、2、4、5(跳過維度 3)。
  • 路徑 B(含方案/建議/決策/可行性結論):維度 1–5 全量。

五個維度分別爲:事實準確性、推論合理性、決策合法性、客觀中立性、邏輯偏誤。高精度領域、用戶要求嚴格覈查、工具選型類決策輸出、對他人技能的審查建議等場景,須強制執行全量 Pass 2,並對照 references/scene-review.md 中的 22 項清單(必要時配合 CoVe 因子法,見該文檔)。

驗證方法與可靠性

技能列出六種可按場景選用的驗證方法:溯源、自檢、鏈式、分區、審計、退步;選擇指引與細節在 references/verification-methods.md。

可靠性描述爲三層:預防(原則 + 置信度 + 方法路由)、審查(Pass 2 清單)、糾錯(用戶指出違規即觸發全量複覈)。文檔同時聲明:這是 prompt 層約束,非引擎級硬攔截,效果取決於 Agent 對規則的遵守程度。

安裝與啓用

安裝 SkillHub CLI(如尚未安裝)

command -v skillhub && skillhub --version

未安裝時可執行完整安裝(CLI + 默認 Skill):

curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash

僅安裝 CLI:

curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash -s -- --cli-only

安裝反幻覺技能

安裝時必須用 --dir 指向當前 Agent 的 skills 目錄,否則默認落在 ./skills/ 且可能不被識別。常用路徑示例:

  • Cursor:~/.cursor/skills/
  • Claude Code:~/.claude/skills/
  • Codex:~/.codex/skills/ 或項目下 .agents/skills/

命令示例(將 <skills 目錄> 換成你的實際路徑):

skillhub install anti-hallucination-pro --namespace user_8d4ddd46 --dir <skills 目錄>

SkillHub 頁面也支持把下面提示交給 AI,讓其按官方安裝文檔操作:

請根據 https://skillhub.cn/install/skillhub.md,安裝 `@user_8d4ddd46/anti-hallucination-pro`。

安裝完成後,在支持 Skills 的客戶端中啓用或引用該技能即可;具體 UI 以各客戶端文檔爲準。

典型用法

技能在 references/guide.md 中給出了可對照的執行鏈路,下面摘錄兩類場景的核心步驟(輸出話術以文檔爲準)。

事實覈查:來源不一致

用戶問某公司去年營收。Agent 應判定觸發「可驗證事實」→ 搜索 → 發現年報與媒體報道數值不一致 → 不選邊,並列來源、分析口徑差異、標註置信度。文檔示例結論大意:年報 120 億與媒體報道 115 億並存,差異可能來自統計口徑,建議以年報爲準,並附來源與「很可能」等級。

方案決策:先驗證環境再斷言

用戶問當前環境能否直接用 Python 的 jieba。應命中「環境依賴判斷」→ 不憑記憶說是否要 pip install → 實際執行檢查,例如:

python3 -c "import jieba"

再根據命令結果說明是否已可用、Python 版本,來源標爲環境檢查,置信度可爲「確定」。

用戶主動要求覈查時,即使未命中自動觸發條件,也應按反幻覺規則執行,輸出時可採用文檔建議的開頭:「已按反幻覺原則覈查,結果如下:」。

適用場景與注意

適合:事實覈查、需要區分事實與推論的技術問答、方案與工具選型、防幻覺的決策輔助、希望回答帶來源與置信度的場景。

不適合或弱化整套流程:純創作、翻譯、格式轉換、開放討論(事實性子內容除外)。

注意:

  • 規則再細,仍依賴模型與 Agent 是否真正調用搜索、讀文件、跑命令;用戶發現違規可直接指出,以觸發文檔中的全量複覈。
  • 與「算力節省」類技能並存時,技能正文要求反幻覺優先:兩遍法與強制驗證場景不得爲省 token 跳過。
  • 高精度領域(法律、醫療、金融等)須雙源交叉並加免責表述,見 SKILL.md 異常處理表。

結尾

反幻覺把「先查後答、不知不言、事實推論分層、置信度標註、輸出前自檢」寫成可安裝的技能包,並配上分場景的檢查路徑與參考文檔。若你的工作流裏幻覺成本高於多查幾次資料的成本,可以按上文命令裝進自己的 skills 目錄試用。

  • SkillHub 頁面:https://www.skillhub.cn/skills/user_8d4ddd46/anti-hallucination-pro
  • 技能座標:@user_8d4ddd46/anti-hallucination-pro
  • 安裝說明:https://skillhub.cn/install/skillhub.md
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜