ds的逆天缓存率!?
- 内容介绍
- 文章标签
- 相关推荐
截屏2026-04-26 20.24.541584×636 63.6 KB
这是用cc写了12万字的网文小说,且经过4轮重写消耗的token,几乎全部命中缓存
这么逆天的缓存率吗
--【壹】--:
A畜是5分钟缓存
ds是不保证缓存时间和缓存成功率,是随机时间的缓存,但是实际上最低也是5分钟以上,看文档写的可能几个小时能缓存
--【贰】--:
没有看过论文,不知道都用了啥新技术,但是我觉得很厉害
--【叁】--:
太牛了,果然deepseek还是有技术的。百万上下文才真的有用。
--【肆】--:
说实话
这玩意对长篇文档的效果很好
因为只要前缀相同就能命中缓存
不用重复浪费token
--【伍】--:
应该算正常吧。似乎CC 的正常用缓存率应该也不低。但是A 畜的缓存倒是真恶心
--【陆】--: jcc:
最低也是5分钟以上
应该不止。不过希望能测试一下。我科研的时候尝试过。
--【柒】--:
确实,但是这持续了半个多小时的连续对话,一口气让他写了10万字还能保证质量和缓存,很意外(
--【捌】--:
看用法和缓存时间,98% 估计是极限
GPT codex 编码大约 90%~95% 以内,以 1K 词元 1h 计算
--【玖】--:
是的,我干了一下午活,这缓存命中真是逆天
--【拾】--:
deepseek好像还有硬盘缓存吧,我看文档里写了
截屏2026-04-26 20.24.541584×636 63.6 KB
这是用cc写了12万字的网文小说,且经过4轮重写消耗的token,几乎全部命中缓存
这么逆天的缓存率吗
--【壹】--:
A畜是5分钟缓存
ds是不保证缓存时间和缓存成功率,是随机时间的缓存,但是实际上最低也是5分钟以上,看文档写的可能几个小时能缓存
--【贰】--:
没有看过论文,不知道都用了啥新技术,但是我觉得很厉害
--【叁】--:
太牛了,果然deepseek还是有技术的。百万上下文才真的有用。
--【肆】--:
说实话
这玩意对长篇文档的效果很好
因为只要前缀相同就能命中缓存
不用重复浪费token
--【伍】--:
应该算正常吧。似乎CC 的正常用缓存率应该也不低。但是A 畜的缓存倒是真恶心
--【陆】--: jcc:
最低也是5分钟以上
应该不止。不过希望能测试一下。我科研的时候尝试过。
--【柒】--:
确实,但是这持续了半个多小时的连续对话,一口气让他写了10万字还能保证质量和缓存,很意外(
--【捌】--:
看用法和缓存时间,98% 估计是极限
GPT codex 编码大约 90%~95% 以内,以 1K 词元 1h 计算
--【玖】--:
是的,我干了一下午活,这缓存命中真是逆天
--【拾】--:
deepseek好像还有硬盘缓存吧,我看文档里写了

