dsh-llm-finish-reason-tolerance:让缺失 finish_reason 的流式响应正常收尾
# 前言 给智能体接 OpenAI 兼容模型时,有一个不太显眼但很致命的兼容性问题:部分网关的流式响应只推送内容增量和结束标记,从头到尾不发 `finish_reason` 字段。DSH 的模型客户端 pi-ai 会把这种流判定为截断(`Stream ended without finish_reason`),宿主再把它映射成一个 `TRANSPORT` 错误 finish。结果是:每次请求内容都完整送达了,回合却以失败告终。 典型的例子是 Snowflake Cortex 的 REST 网关(`*.snowflakecomputing.com/api/
阅读全文