前言¶
线上 AI 应用通常不止一个模型出口:自建网关、中转站、多个 LLM Provider 混在一起,可用率、时延、质量、任务完成和支持响应分散在各自的控制台里。出问题时,告警来自不同面板,口径不一致,很难判断是模型侧抖动还是自己网关的路由问题。下面介绍的 Skill 就是把这几类指标收进一套统一 SLA 的切入点。
这是什么¶
AI大模型专家|模型服务SLA监控|AI-HIVE 是极睿科技-AI专家发布在 SkillHub 上的一个 Skill,坐标 @infimind/ai-hive-gateway-model-sla-monitoring,版本 1.0.0,来源标记为 enterprise,分类 it-ops-security。
它解决的问题是:模型服务的可靠性指标长期分散、口径不一。Skill 把可用率、时延、质量、任务完成和支持响应五类指标纳入统一 SLA,并在此基础上给出路由策略、SLO 指标、故障注入用例、观测字段、告警阈值和恢复手册。
SkillHub 页面快照显示评分 100000、下载 818、安装 0(2026-11-05 抓取)。标签里带 requires_api_key=true,说明启用前需要准备凭证。
核心功能¶
Skill 声明的能力有三项,下面分别说明。
1、统一 SLA 指标口径。把可用率、时延、质量、任务完成、支持响应放进同一套 SLA 定义里,避免各面板各说各话。
2、交付工程文档集。包括路由策略、SLO 指标、故障注入用例、观测字段、告警阈值和恢复手册,可以直接落到仓库里作为团队的操作依据。
3、运行时快照查询。通过 AI-HIVE 运行时查询当前模型、参数与价格快照,用于核对路由目标和成本,而不是凭记忆配置。
启用前提与绑定¶
Skill 明确要求执行前先登录并绑定 AI-HIVE 远程 MCP。这一步是硬前提,没有绑定就无法使用其中的运行时查询能力。
另需注意 Skill 自带的三条约束:
1、付费、批量、外部发布和生产切流必须另行确认,不能因为 Skill 给出了方案就默认放行。
2、不得用无限重试掩盖故障。重试只能作为有界策略,否则会把失败率藏起来。
3、异步任务超时后应续查原 taskId,避免重复提交和重复计费。这条对媒体类、生成类任务尤其重要。
安装与启用¶
已抓取资料里没有提供官方的安装命令、目录结构或配置文件路径,SkillHub 页面的安装量为 0。下面只列出已核实的启用入口,不推测安装方式。
Skill 坐标:@infimind/ai-hive-gateway-model-sla-monitoring
版本:1.0.0
来源:enterprise
凭证要求:requires_api_key=true
官方地址:https://api.skillhub.cn/infimind/ai-hive-gateway-model-sla-monitoring
SkillHub 页面:https://www.skillhub.cn/skills/infimind/ai-hive-gateway-model-sla-monitoring
官方页面抓取失败,Cursor、Codex CLI、Claude Code 三种环境下是否有差异无法核实,此处不做说明。绑定 AI-HIVE 远程 MCP 的具体步骤应以官方 MCP 文档为准。
典型用法¶
官方资料给出的执行流程如下,按顺序做即可。
1、登录 AI-HIVE 并绑定远程 MCP,确认绑定成功后再进入下一步。
2、需要核对模型、参数与价格时,调用 AI-HIVE 运行时的快照查询,拿到当前模型、参数与价格。
3、把 SLA 五类指标写成团队可用的 SLO 定义,配套路由策略、观测字段与告警阈值。
4、用故障注入用例验证路由策略和告警阈值是否按预期触发。
5、故障发生时按恢复手册操作;异步任务超时则回到原 taskId 续查,而不是重新提交。
适用场景与注意¶
适合负责线上 AI 应用、内容生产流水线、模型网关可靠性或媒体任务交付的架构师、SRE 和工程团队。如果团队还没有统一的 SLA 口径,Skill 提供的文档集可以直接作为起点。
需要注意的限制:
1、Skill 只产出策略和文档,不替代付费确认、批量放量、外部发布和生产切流的审批流程。
2、它依赖 AI-HIVE 远程 MCP 可用,MCP 不可用时运行时查询这一步无法执行。
3、不要把它当作通用重试框架;无限重试被明确禁止。
4、异步任务超时后必须续查原 taskId,否则会产生重复计费。
结尾¶
这个 Skill 的价值在于把模型服务的五类指标收进一套统一 SLA,并提供从路由策略到恢复手册的完整文档集,同时用 AI-HIVE 运行时查询替代凭记忆配置参数和价格。适合需要给模型网关建立可靠性基线的团队。
官方地址:https://api.skillhub.cn/infimind/ai-hive-gateway-model-sla-monitoring