提个小问题,如何查看iflow-cli的tokens用量?
有没有人写过?
以前还有官方负责统计,现在估计只能自己访问各个提供商的控制台看了,或者看看有没有大佬做个统计插件 ![]()
1 个赞
那岂不是非常不方便,来个大佬手搓一个哇
退出时候的统计的话.
那是因为每次openai接口每次返回了token使用量,所以能统计,功能一直好着.
“include_usage”: True
“stream_options”: { “include_usage”: True }
发送这2个字段就行了.一般发送第二个.保险都发,多些字段,服务器反正只认自己认识的,不认识的自动忽略
2 个赞
这么一提醒,突然想起来 iflow cli 有个 /stats 指令可以看当前会话还是本次运行时各个模型的 tokens 消耗
不过有些厂家的模型,无论怎么发送标准字段,是不会返回token输入输出的
有搞cc switch时间,不如自己做一个.外边这些开源大神做的都是为了通用,有些细节方面很差劲的.自己手搓一个,做做成模块化的,接哪一家的ai,那么就按哪一家提供的服务器去做优化,不是奇怪的模型都是可以统计出来的.看着好像很多很复杂,但是实际上能买的自己能用的也就那几家,应该说全国就那几家,维护起来也不会很困难的.
2 个赞
这句话我是真认同,但是我比较菜我自己做不来,当然我也不会用CC-switch,觉得像个瘤子,反正就该那几个配置文件嘛,iflow-cli有手就行
