DeepSeek Harness 插件:接入 Ant Digital MaaS 與 NVIDIA NIM
`dsh-cloud-model-providers` 是 DeepSeek Harness (DSH) 的一個插件,旨在簡化 Ant Digital MaaS 和 NVIDIA NIM 的接入。該插件複用 DSH 內置適配器,通過聲明式配置提供流式模型路由支持。用戶需通過環境變量或 DSH 設置提供 API 密鑰,並選擇對應的路由(如 `ant-maas-responses` 或 `nvidia`)。插件兼容 DSH 的 `llm-pi-ai` 適配器,支持流式傳輸、工具調用等功能。注意,它不部署容器,且需關注協議變動。
閱讀全文