每次剩余上下文还剩30-40%左右就会报错,必须手动压缩才能继续

如题,如图

glm5的适配问题,我们已知。会对这里进行优化,近期将高频问题修复后会发新版本,届时可关注更新 :handshake:
补充:建议50%左右就执行上下文的压缩,可以手动:/compress

原来如此

哈哈哈,我也是手动压一下,继续使用

存在压缩失败情况

压缩失败可以临时换个模型试试,压缩其实就是把前面的内容进行总结摘要

我也经常遇到同样的问题,/compress手动压缩在剩50%以内基本上100%会报错

说起来,我今天自己改了下设置到35%自动触发,好像阈值还是低了。

看来得再拉高一些,我是43-58的区间

35太低了,奔着55-60试试

我试试看

我设置成40效果好像不错

"compressionTokenThreshold": 0.6,

该问题已在0.5.14版本修复完毕,建议更新到此版本后使用;