多少tps(每秒tokens),算快?多少速度大家可以接受?

2026-04-29 10:541阅读0评论SEO资源
  • 内容介绍
  • 文章标签
  • 相关推荐
问题描述:

image422×564 6.66 KB
image564×783 23.5 KB
这是某个中转的gpt5.4xhigh我用的记录,然后丢给了GPT。我体感来说,40~50每秒tokens对我来说刚好够用,属于不快也不慢

等会儿我具体测一下这个中转站到底支不支持fast,因为我是配置里是开着fast用的但我不清楚这个中转支不支持

网友解答:
--【壹】--:

我用free池写中等项目,superpower总是会阻塞,RPM很小TPM也不大。感觉有50就比较快了。

日常问题解决感觉五六十响应也比较舒服了算是。不过我这两天还没用plus和team试,感觉由奢入俭难吧。


--【贰】--:

阅读倒是无所谓 主要是内部处理 思考啥的 速度越快 用户可以看到的"首字" 就越快
50tps思考一分钟 100tps就只用30秒就能出首字 当然首字之后的倒是10几估计就够了 用户也读不了那么快


--【叁】--:

dsv3.2算是及格线吧,往下就是难以接受了。50tps左右体感上就很舒服了,70tps就是丝滑了。上一百的并且能力强的感觉能达到的不多。


--【肆】--:

我觉得50左右就是飞快了,之前吃的中转的claude那些速度太慢了


--【伍】--:

没有上限,越快越好
实际上至少得有50 60tps吧,起码目前普速claude gpt就这个速度


--【陆】--:

得益于GLM5和5.1在白天的超绝慢速(最慢可达6-12token/s), 我已经觉得45-50token/s是飞快了

标签:人工智能
问题描述:

image422×564 6.66 KB
image564×783 23.5 KB
这是某个中转的gpt5.4xhigh我用的记录,然后丢给了GPT。我体感来说,40~50每秒tokens对我来说刚好够用,属于不快也不慢

等会儿我具体测一下这个中转站到底支不支持fast,因为我是配置里是开着fast用的但我不清楚这个中转支不支持

网友解答:
--【壹】--:

我用free池写中等项目,superpower总是会阻塞,RPM很小TPM也不大。感觉有50就比较快了。

日常问题解决感觉五六十响应也比较舒服了算是。不过我这两天还没用plus和team试,感觉由奢入俭难吧。


--【贰】--:

阅读倒是无所谓 主要是内部处理 思考啥的 速度越快 用户可以看到的"首字" 就越快
50tps思考一分钟 100tps就只用30秒就能出首字 当然首字之后的倒是10几估计就够了 用户也读不了那么快


--【叁】--:

dsv3.2算是及格线吧,往下就是难以接受了。50tps左右体感上就很舒服了,70tps就是丝滑了。上一百的并且能力强的感觉能达到的不多。


--【肆】--:

我觉得50左右就是飞快了,之前吃的中转的claude那些速度太慢了


--【伍】--:

没有上限,越快越好
实际上至少得有50 60tps吧,起码目前普速claude gpt就这个速度


--【陆】--:

得益于GLM5和5.1在白天的超绝慢速(最慢可达6-12token/s), 我已经觉得45-50token/s是飞快了

标签:人工智能