NEW-API 缓存创建倍率疑问
- 内容介绍
- 文章标签
- 相关推荐
我的中转站用户使用没有创建缓存创建倍率,但是我的上游有缓存创建倍率,而且我这最后结算得出的金额是负数,上游是正常扣费,有佬友遇到过类似的问题吗
下面这是计算出来的数据,实际扣费是$0.000002,相对于的模型我设置了缓存创建倍率
(输入 -80723 tokens / 1M tokens * $5.000000 + 缓存 82176 tokens / 1M tokens * $0.750000 + 输出 55 tokens / 1M tokens * 25.000000) * 分组倍率 0.3 = -0.102182
目前找到了一个问题所在,因为上游返回的usage信息非标准的openai usage模式,而我自己渠道管理选择的模式都是类型都是openai类型,换成anthtopic claude类型暂时没有出现这个问题,还在观察中,如果还是出现这个问题那就是上游的问题了
网友解答:--【壹】--:
NewAPI还能算出负数的Token消耗???你非流抓一下包看看怎么反馈的数据吧,
我的中转站用户使用没有创建缓存创建倍率,但是我的上游有缓存创建倍率,而且我这最后结算得出的金额是负数,上游是正常扣费,有佬友遇到过类似的问题吗
下面这是计算出来的数据,实际扣费是$0.000002,相对于的模型我设置了缓存创建倍率
(输入 -80723 tokens / 1M tokens * $5.000000 + 缓存 82176 tokens / 1M tokens * $0.750000 + 输出 55 tokens / 1M tokens * 25.000000) * 分组倍率 0.3 = -0.102182
目前找到了一个问题所在,因为上游返回的usage信息非标准的openai usage模式,而我自己渠道管理选择的模式都是类型都是openai类型,换成anthtopic claude类型暂时没有出现这个问题,还在观察中,如果还是出现这个问题那就是上游的问题了
网友解答:--【壹】--:
NewAPI还能算出负数的Token消耗???你非流抓一下包看看怎么反馈的数据吧,

