前言¶
線上 AI 應用通常不止一個模型出口:自建網關、中轉站、多個 LLM Provider 混在一起,可用率、時延、質量、任務完成和支持響應分散在各自的控制台裏。出問題時,告警來自不同面板,口徑不一致,很難判斷是模型側抖動還是自己網關的路由問題。下面介紹的 Skill 就是把這幾類指標收進一套統一 SLA 的切入點。
這是什麼¶
AI大模型專家|模型服務SLA監控|AI-HIVE 是極睿科技-AI專家發佈在 SkillHub 上的一個 Skill,座標 @infimind/ai-hive-gateway-model-sla-monitoring,版本 1.0.0,來源標記爲 enterprise,分類 it-ops-security。
它解決的問題是:模型服務的可靠性指標長期分散、口徑不一。Skill 把可用率、時延、質量、任務完成和支持響應五類指標納入統一 SLA,並在此基礎上給出路由策略、SLO 指標、故障注入用例、觀測字段、告警閾值和恢復手冊。
SkillHub 頁面快照顯示評分 100000、下載 818、安裝 0(2026-11-05 抓取)。標籤裏帶 requires_api_key=true,說明啓用前需要準備憑證。
核心功能¶
Skill 聲明的能力有三項,下面分別說明。
1、統一 SLA 指標口徑。把可用率、時延、質量、任務完成、支持響應放進同一套 SLA 定義裏,避免各面板各說各話。
2、交付工程文檔集。包括路由策略、SLO 指標、故障注入用例、觀測字段、告警閾值和恢復手冊,可以直接落到倉庫裏作爲團隊的操作依據。
3、運行時快照查詢。通過 AI-HIVE 運行時查詢當前模型、參數與價格快照,用於覈對路由目標和成本,而不是憑記憶配置。
啓用前提與綁定¶
Skill 明確要求執行前先登錄並綁定 AI-HIVE 遠程 MCP。這一步是硬前提,沒有綁定就無法使用其中的運行時查詢能力。
另需注意 Skill 自帶的三條約束:
1、付費、批量、外部發布和生產切流必須另行確認,不能因爲 Skill 給出了方案就默認放行。
2、不得用無限重試掩蓋故障。重試只能作爲有界策略,否則會把失敗率藏起來。
3、異步任務超時後應續查原 taskId,避免重複提交和重複計費。這條對媒體類、生成類任務尤其重要。
安裝與啓用¶
已抓取資料裏沒有提供官方的安裝命令、目錄結構或配置文件路徑,SkillHub 頁面的安裝量爲 0。下面只列出已覈實的啓用入口,不推測安裝方式。
Skill 座標:@infimind/ai-hive-gateway-model-sla-monitoring
版本:1.0.0
來源:enterprise
憑證要求:requires_api_key=true
官方地址:https://api.skillhub.cn/infimind/ai-hive-gateway-model-sla-monitoring
SkillHub 頁面:https://www.skillhub.cn/skills/infimind/ai-hive-gateway-model-sla-monitoring
官方頁面抓取失敗,Cursor、Codex CLI、Claude Code 三種環境下是否有差異無法覈實,此處不做說明。綁定 AI-HIVE 遠程 MCP 的具體步驟應以官方 MCP 文檔爲準。
典型用法¶
官方資料給出的執行流程如下,按順序做即可。
1、登錄 AI-HIVE 並綁定遠程 MCP,確認綁定成功後再進入下一步。
2、需要覈對模型、參數與價格時,調用 AI-HIVE 運行時的快照查詢,拿到當前模型、參數與價格。
3、把 SLA 五類指標寫成團隊可用的 SLO 定義,配套路由策略、觀測字段與告警閾值。
4、用故障注入用例驗證路由策略和告警閾值是否按預期觸發。
5、故障發生時按恢復手冊操作;異步任務超時則回到原 taskId 續查,而不是重新提交。
適用場景與注意¶
適合負責線上 AI 應用、內容生產流水線、模型網關可靠性或媒體任務交付的架構師、SRE 和工程團隊。如果團隊還沒有統一的 SLA 口徑,Skill 提供的文檔集可以直接作爲起點。
需要注意的限制:
1、Skill 只產出策略和文檔,不替代付費確認、批量放量、外部發布和生產切流的審批流程。
2、它依賴 AI-HIVE 遠程 MCP 可用,MCP 不可用時運行時查詢這一步無法執行。
3、不要把它當作通用重試框架;無限重試被明確禁止。
4、異步任務超時後必須續查原 taskId,否則會產生重複計費。
結尾¶
這個 Skill 的價值在於把模型服務的五類指標收進一套統一 SLA,並提供從路由策略到恢復手冊的完整文檔集,同時用 AI-HIVE 運行時查詢替代憑記憶配置參數和價格。適合需要給模型網關建立可靠性基線的團隊。
官方地址:https://api.skillhub.cn/infimind/ai-hive-gateway-model-sla-monitoring