智能体内容安全评估:给自有对话接口做一次提示层体检

前言

上线一个智能体之前,通常只验功能跑不跑得通,很少验它面对恶意提示时会不会越界。等出事再回头查,日志散落、上下文难复现,定位成本很高。下面介绍的这个 Skill 把这件事前置:给它一个智能体名称和对话接口,它就能对目标发一轮提示层内容安全评测,最后给出一份可离线打开的 HTML 证据报告。

这是什么

「智能体内容安全评估」,坐标 @org-qv8pgfjo/qingfeng-agent-eval,当前版本 1.0.8,由清风引擎(MySigc)出品,分类 dev-programming,来源标记为 enterprise。

它解决的问题很具体:对自有或已授权的 HTTP 对话目标做提示层内容安全评测,而不是替你写业务代码。评测范围限定在提示层,即通过构造输入观察输出,不涉及模型权重或服务端内部逻辑。

核心功能

1、输入智能体名称与对话接口地址,对目标发起评测请求。目标限定为自有或已授权的 HTTP 对话服务。

2、内置三档题库,按深度递增:
- 快速基线:73 题
- 标准准入:108 题
- 深度对抗:219 题

3、适配 OpenAI、Anthropic、Azure、Gemini 四类官方接口,同时支持自定义 HTTP 对话目标。

4、输出一份可离线打开的 HTML 证据报告,不依赖在线服务即可查阅。

安装与启用

官方页面(https://www.skillhub.cn/skills/org-qv8pgfjo/qingfeng-agent-eval 与 https://api.skillhub.cn/org-qv8pgfjo/qingfeng-agent-eval)在本次写作时抓取失败,安装命令、配置字段和各编辑器(Cursor / Codex CLI / Claude Code)的差异未能核实。请以官方页面为准,这里不臆造命令。

已确认的一点是:该 Skill 带有 requires_api_key=true 标签,启用前需要准备对应的密钥。

典型用法

同样因为官方页面未能抓取,可复现的调用示例没有核实到,此处不编写。从简介可以确认的使用前提是:你需要提供一个智能体名称,以及一个自有或已授权的 HTTP 对话接口地址。

适用场景与注意

适合在上线前做准入评估,或在迭代后用同一题库跑一遍回归,比较前后输出变化。深度对抗档题量最大,适合需要留档取证的场景;快速基线档适合日常改动后的快速检查。

几点限制:

  • 评测只覆盖提示层,无法代替服务端的输入过滤和输出审核逻辑。
  • 目标必须是自有或已授权的 HTTP 对话服务,对第三方接口跑评测需要先拿到授权。
  • 报告是证据快照,反映的是评测那一刻的行为,模型更新后需要重新跑。
  • 官方页面本次抓取失败,安装方式、配置项和计费(简介标注「限时免费」)请在使用前自行确认。

结尾

这个 Skill 的价值在于把内容安全检查变成一次可复现、可留档的动作,而不是上线后的一次偶然事故。三档题库覆盖从快速检查到深度对抗的粒度,HTML 报告离线可看,适合需要留证的团队。官方地址:https://api.skillhub.cn/org-qv8pgfjo/qingfeng-agent-eval。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye