多少tps(每秒tokens),算快?多少速度大家可以接受?
- 内容介绍
- 文章标签
- 相关推荐
image422×564 6.66 KB
image564×783 23.5 KB
这是某个中转的gpt5.4xhigh我用的记录,然后丢给了GPT。我体感来说,40~50每秒tokens对我来说刚好够用,属于不快也不慢
等会儿我具体测一下这个中转站到底支不支持fast,因为我是配置里是开着fast用的但我不清楚这个中转支不支持
网友解答:--【壹】--:
我用free池写中等项目,superpower总是会阻塞,RPM很小TPM也不大。感觉有50就比较快了。
日常问题解决感觉五六十响应也比较舒服了算是。不过我这两天还没用plus和team试,感觉由奢入俭难吧。
--【贰】--:
阅读倒是无所谓 主要是内部处理 思考啥的 速度越快 用户可以看到的"首字" 就越快
50tps思考一分钟 100tps就只用30秒就能出首字 当然首字之后的倒是10几估计就够了 用户也读不了那么快
--【叁】--:
dsv3.2算是及格线吧,往下就是难以接受了。50tps左右体感上就很舒服了,70tps就是丝滑了。上一百的并且能力强的感觉能达到的不多。
--【肆】--:
我觉得50左右就是飞快了,之前吃的中转的claude那些速度太慢了
--【伍】--:
没有上限,越快越好
实际上至少得有50 60tps吧,起码目前普速claude gpt就这个速度
--【陆】--:
得益于GLM5和5.1在白天的超绝慢速(最慢可达6-12token/s), 我已经觉得45-50token/s是飞快了
image422×564 6.66 KB
image564×783 23.5 KB
这是某个中转的gpt5.4xhigh我用的记录,然后丢给了GPT。我体感来说,40~50每秒tokens对我来说刚好够用,属于不快也不慢
等会儿我具体测一下这个中转站到底支不支持fast,因为我是配置里是开着fast用的但我不清楚这个中转支不支持
网友解答:--【壹】--:
我用free池写中等项目,superpower总是会阻塞,RPM很小TPM也不大。感觉有50就比较快了。
日常问题解决感觉五六十响应也比较舒服了算是。不过我这两天还没用plus和team试,感觉由奢入俭难吧。
--【贰】--:
阅读倒是无所谓 主要是内部处理 思考啥的 速度越快 用户可以看到的"首字" 就越快
50tps思考一分钟 100tps就只用30秒就能出首字 当然首字之后的倒是10几估计就够了 用户也读不了那么快
--【叁】--:
dsv3.2算是及格线吧,往下就是难以接受了。50tps左右体感上就很舒服了,70tps就是丝滑了。上一百的并且能力强的感觉能达到的不多。
--【肆】--:
我觉得50左右就是飞快了,之前吃的中转的claude那些速度太慢了
--【伍】--:
没有上限,越快越好
实际上至少得有50 60tps吧,起码目前普速claude gpt就这个速度
--【陆】--:
得益于GLM5和5.1在白天的超绝慢速(最慢可达6-12token/s), 我已经觉得45-50token/s是飞快了

