dsh-ai-output-trust: Check Whether Code Directly Executes AI Output

前言¶

在大模型应用开发中，直接执行模型输出（eval / shell / SQL / 文件路径）是风险极高的一类操作。OWASP 将此单列为 LLM05 Improper Output Handling。如果代码中存在将 AI 输出直接拼接进代码执行上下文的逻辑，相当于把任意代码执行权交给了概率模型。

下面介绍 DeepSeek Harness 插件 dsh-ai-output-trust，用于检测这类风险。

它是什么¶

这是一个用于检查代码有没有直接执行 AI 输出的 DSH 插件。作者为 feely0208，分类属于 admin-security，许可证为 MIT。

核心功能¶

插件主要检测四种明确的高危用法：

1. 代码执行：检测 eval 和 new Function 执行 AI 输出。
2. Shell 命令：检测在 exec / spawn 中拼接 AI 输出。
3. SQL 注入：检测在 SQL 查询中拼接 AI 输出。
4. 路径穿越：检测文件路径来自 AI 输出可能导致的穿越风险。

识别机制上，插件通过精确命名识别变量，避免将通用的模型调用误报为高危。通常建议变量命名符合 ai* / llm* / model* 的模式。

安装¶

在已安装 DeepSeek Harness 的环境中，通过以下命令安装插件：

dsh plugin --profile web add @deepwhale-cn/dsh-ai-output-trust

使用方法¶

安装后，可以通过 CLI 工具进行操作：

dsh-ai-output-trust --demo          # 查看检出效果
dsh-ai-output-trust --list-rules    # 列出规则和依据
dsh-ai-output-trust --html r.html   # 生成 HTML 检查报告

适用场景与注意¶

本插件不做全量数据流分析，仅检查调用点附近的代码。它不依赖静态分析框架，而是通过变量命名规则进行判断。

使用时需注意：
* 只查四种明确的高危用法，其它间接信任场景不在范围。
* 必须依赖精确变量命名（如 ai* / llm* / model*），否则可能漏报。
* 本插件是一个工具。使用者必须遵守所在地区法律法规，对使用本项目造成的任何后果自行承担责任。

总结¶

dsh-ai-output-trust 能够帮助开发者快速识别 Agent 代码中的高风险输出处理方式，配合参数化查询和路径规范化，构建更安全的 AI 输出信任边界。

插件目录页：dsh-plugin.org
GitHub 仓库：github.com/feely0208/dsh-ai-output-trust