前言¶
开发者在本地或命令行环境调用国产大模型时,往往面临多个问题:需要为不同厂商准备各自的 API Key;不知道当前任务用哪一家模型性价比最高;多模型切换时配置繁琐;流式输出、成本统计、本地缓存等能力分散在各自 SDK 中。国产大模型统一路由(cn-llm-router)将上述能力收敛成一条命令入口。
是什么¶
国产大模型统一路由是 SkillHub 上一个社区维护的 Skill,版本 2.7.0,分类为 ai-agent。它把 12 家国产大模型(DeepSeek、通义千问、智谱 GLM、Kimi、腾讯混元、字节豆包、百度文心、讯飞星火、MiniMax、零一万物 Yi、百川、阶跃 Step)和 3 家视觉模型(Qwen-VL、GLM-4V、豆包视觉)的调用收敛成一个命令入口,支持文本 + 图片多模态任务路由,按任务类型(代码/推理/长文/翻译/摘要/抽取/图像识别)结合能力画像自动或手动选择模型,并自动统计跨厂商 token 成本。它还提供流式输出、硬件自适应限流、本地语义缓存、全链路离线 Mock 调试、技能更新提醒等能力。
核心功能¶
- 多模型统一入口:将 12 家文本模型与 3 家视觉模型收敛为同一命令入口,减少切换成本。
- 任务类型路由:根据任务类型(代码/推理/长文/翻译/摘要/抽取/图像识别)结合能力画像自动或手动选择模型。
- 多模态支持:同时处理文本和图片任务。
- 流式输出:支持流式返回结果。
- 成本统计:自动统计跨厂商 token 成本,方便比价与降本。
- 硬件自适应限流:避免在本地运行时占用过多资源。
- 本地语义缓存:减少重复请求,节省 token。
- 离线 Mock 调试:支持全链路离线 Mock,便于在无网络或测试环境下调试。
- 技能更新提醒:当有新版本时提供更新提示。
安装与启用¶
在支持的客户端(如 Cursor、Claude Code 等)中,通过官方地址安装:
https://api.skillhub.cn/user_1a470ba8/cn-llm-router
安装完成后,需要在对应客户端的配置中启用该 Skill,并配置模型 API Key(标签显示 requires_api_key=true)。启用后即可通过统一命令调用国产大模型。
典型用法¶
启用 Skill 并配置好 API Key 后,可以通过统一命令发起文本或图像任务,具体用法请参考 Skill 官方文档或示例。
适用场景与注意¶
- 适用场景:需要调用国产大模型、多模型比价/降本、统一管理多个模型 Key、本地跑大模型路由、不想被某一家厂商绑定、识别图片/音频内容。
- 注意事项:需正确配置 API Key;硬件自适应限流会根据设备资源自动调整,若遇到响应慢,可检查本地资源占用情况。
结尾¶
国产大模型统一路由将 12 家文本模型与 3 家视觉模型收敛为统一入口,并支持多任务类型路由、成本统计、流式输出、本地缓存与离线 Mock 等能力,适合需要在本地或命令行环境统一管理国产大模型的开发者。官方地址:https://api.skillhub.cn/user_1a470ba8/cn-llm-router