反幻觉:让 Agent 先查后答、事实与推论分开说

前言

用大模型做事实核查、技术选型或方案评估时,常见问题是回答过于笃定:数字没有出处、工具是否可用全凭训练记忆、来源冲突时随便站一边。这类输出在演示里往往很顺,落地到生产或对外沟通时却容易翻车。

下面介绍 SkillHub 上的 反幻觉(@user_8d4ddd46/anti-hallucination-pro,当前 v4.5.5)。它不是外挂检索引擎,而是一套写在 SKILL.md 里的行为约束:何时必须启用、六条原则、五维度自检、五级置信度,以及输出前的两遍复核。社区来源,发布坐标为 user_8d4ddd46,维护者为屠夫1868;页面标注 requires_api_key=false,不依赖额外 API Key。

这是什么

反幻觉定位是 AI 行为约束规则,目标是减少无中生有、编造数据、过度迎合。与「只在提示词里写一句请不要幻觉」相比,它把触发条件、验证步骤、输出格式和异常降级写进技能正文与 references/ 参考文档,便于 Agent 按场景路由。

SkillHub 分类为 ai-agent。截至资料抓取时,该技能评分 100000、下载 2738 次(以 SkillHub 页面统计为准)。

核心功能

自动触发与例外

命中以下任一条件即应启用:可验证的事实信息(数据、引述、法规、因果、预测、时效信息等);用户要求事实核查;低频冷门知识;工具选型、方案决策、环境依赖或可行性判断。不确定是否触发时,技能建议默认启用。

纯创作、翻译、格式转换、开放讨论可不整套启用;但若创作里引用真实人物或数据,事实部分仍须遵守。涉及 API/库选型的代码场景仍适用。原则层面的「不预设、不迎合」在任何场景下均生效。

六条原则(摘要)

  1. 先查后答:事实场景先搜索验证再作答;时间敏感信息须实时获取;多轮对话引用旧信息时要回到原始来源。溯源三步为搜索 → 至少两个独立来源交叉 → 标注来源。方案决策场景下,关键假设须用工具验证,避免凭训练数据断言「大概要安装」「可能不支持」。
  2. 不知则不言:信息不足时明确说不确定;只能答一部分时标出未覆盖范围;搜索无结果时说明查了什么、建议往哪查,而非空泛拒绝。
  3. 事实与推论严格区分:事实标来源;推论标「基于 XX 推导」;猜测标「我的猜测」并置后。
  4. 数据引述必须有据:数字、日期、人名、论文、法条等须验证;无来源则用方向性表述;禁止捏造数据或虚构文献机构。
  5. 置信度分级表达:五级为确定、很可能、可能、不确定、不知道;技能内附贝叶斯式校准指引(先验、证据排他性、随新证据更新),用于辅助标注,不替代上述五级用语。
  6. 自检与纠偏(两遍法):Pass 1 起草并标来源与置信度;Pass 2 以怀疑视角复核,深度见下文「输出自检」。

五维度自检与三遍路径

Pass 2 按输出类型选路径:

  • 路径 A(默认事实陈述):维度 1「事实准确性」。
  • 路径 C(分析/评估/推论/归因/总结):维度 1、2、4、5(跳过维度 3)。
  • 路径 B(含方案/建议/决策/可行性结论):维度 1–5 全量。

五个维度分别为:事实准确性、推论合理性、决策合法性、客观中立性、逻辑偏误。高精度领域、用户要求严格核查、工具选型类决策输出、对他人技能的审查建议等场景,须强制执行全量 Pass 2,并对照 references/scene-review.md 中的 22 项清单(必要时配合 CoVe 因子法,见该文档)。

验证方法与可靠性

技能列出六种可按场景选用的验证方法:溯源、自检、链式、分区、审计、退步;选择指引与细节在 references/verification-methods.md。

可靠性描述为三层:预防(原则 + 置信度 + 方法路由)、审查(Pass 2 清单)、纠错(用户指出违规即触发全量复核)。文档同时声明:这是 prompt 层约束,非引擎级硬拦截,效果取决于 Agent 对规则的遵守程度。

安装与启用

安装 SkillHub CLI(如尚未安装)

command -v skillhub && skillhub --version

未安装时可执行完整安装(CLI + 默认 Skill):

curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash

仅安装 CLI:

curl -fsSL https://skillhub-1388575217.cos.ap-guangzhou.myqcloud.com/install/install.sh | bash -s -- --cli-only

安装反幻觉技能

安装时必须用 --dir 指向当前 Agent 的 skills 目录,否则默认落在 ./skills/ 且可能不被识别。常用路径示例:

  • Cursor:~/.cursor/skills/
  • Claude Code:~/.claude/skills/
  • Codex:~/.codex/skills/ 或项目下 .agents/skills/

命令示例(将 <skills 目录> 换成你的实际路径):

skillhub install anti-hallucination-pro --namespace user_8d4ddd46 --dir <skills 目录>

SkillHub 页面也支持把下面提示交给 AI,让其按官方安装文档操作:

请根据 https://skillhub.cn/install/skillhub.md,安装 `@user_8d4ddd46/anti-hallucination-pro`。

安装完成后,在支持 Skills 的客户端中启用或引用该技能即可;具体 UI 以各客户端文档为准。

典型用法

技能在 references/guide.md 中给出了可对照的执行链路,下面摘录两类场景的核心步骤(输出话术以文档为准)。

事实核查:来源不一致

用户问某公司去年营收。Agent 应判定触发「可验证事实」→ 搜索 → 发现年报与媒体报道数值不一致 → 不选边,并列来源、分析口径差异、标注置信度。文档示例结论大意:年报 120 亿与媒体报道 115 亿并存,差异可能来自统计口径,建议以年报为准,并附来源与「很可能」等级。

方案决策:先验证环境再断言

用户问当前环境能否直接用 Python 的 jieba。应命中「环境依赖判断」→ 不凭记忆说是否要 pip install → 实际执行检查,例如:

python3 -c "import jieba"

再根据命令结果说明是否已可用、Python 版本,来源标为环境检查,置信度可为「确定」。

用户主动要求核查时,即使未命中自动触发条件,也应按反幻觉规则执行,输出时可采用文档建议的开头:「已按反幻觉原则核查,结果如下:」。

适用场景与注意

适合:事实核查、需要区分事实与推论的技术问答、方案与工具选型、防幻觉的决策辅助、希望回答带来源与置信度的场景。

不适合或弱化整套流程:纯创作、翻译、格式转换、开放讨论(事实性子内容除外)。

注意:

  • 规则再细,仍依赖模型与 Agent 是否真正调用搜索、读文件、跑命令;用户发现违规可直接指出,以触发文档中的全量复核。
  • 与「算力节省」类技能并存时,技能正文要求反幻觉优先:两遍法与强制验证场景不得为省 token 跳过。
  • 高精度领域(法律、医疗、金融等)须双源交叉并加免责表述,见 SKILL.md 异常处理表。

结尾

反幻觉把「先查后答、不知不言、事实推论分层、置信度标注、输出前自检」写成可安装的技能包,并配上分场景的检查路径与参考文档。若你的工作流里幻觉成本高于多查几次资料的成本,可以按上文命令装进自己的 skills 目录试用。

  • SkillHub 页面:https://www.skillhub.cn/skills/user_8d4ddd46/anti-hallucination-pro
  • 技能坐标:@user_8d4ddd46/anti-hallucination-pro
  • 安装说明:https://skillhub.cn/install/skillhub.md
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜