API Error: generate data error: HTTP error! status: 511

iFlow CLI 值班答疑区
1

[API Error: generate data error: HTTP error! status: 511, body: {“error”:{“message”:“Prompt exceed max tokens error!: model max tokens is 262144, request length is
271837, max_new_tokens is -9693”,“type”:“PromptExceedMaxTokens”,“code”:“511”}} TraceID: 21044adc17634458944722920e0e63]

我应该如何处理？ 我尝试使用 /clear 也不行

2

辛苦补充使用系统&工具、模型名和版本号，以及您的使用目的和简述过程，我们排查下原因

方便的话可以看下报错截图

3

应该是超过你所用模型的最大上下文限制了，可以使用/cleanup-history 来清理上下文记录

1 个赞