dsh-context-truth:讓模型知道真實的上下文佔用
DSH插件`dsh-context-truth`通過實測佔用回填和壓縮指令補規則,解決模型在長會話中因誤判上下文狀態而無法收斂的問題。插件向模型展示準確的已用/剩餘token及壓縮閾值,並防止模型將自身關於上下文耗盡的陳述寫入摘要。此外,它還提供空閒邊界摺疊功能,防止模型在臨近閾值時迴避關鍵操作。該插件依賴宿主`tokenMeter`與`compaction`,無需構建,版本0.2.0。
閱讀全文DSH插件`dsh-context-truth`通過實測佔用回填和壓縮指令補規則,解決模型在長會話中因誤判上下文狀態而無法收斂的問題。插件向模型展示準確的已用/剩餘token及壓縮閾值,並防止模型將自身關於上下文耗盡的陳述寫入摘要。此外,它還提供空閒邊界摺疊功能,防止模型在臨近閾值時迴避關鍵操作。該插件依賴宿主`tokenMeter`與`compaction`,無需構建,版本0.2.0。
閱讀全文