免费:Gemma-4-E4B-Uncensored q5 模型 on T4,约 6tps
- 内容介绍
- 文章标签
- 相关推荐
https://mikeee-qwen-7b-chat.hf.space
Gemma-4-E4B-Uncensored q5 模型 on T4, 约每秒 6 tokens
可用接口,sk-any
Uncensored,所以大致可以涩涩
--【壹】--:
没啥教程,就一拷过来的Dockerfile/README.md,一键复制抱脸空间
Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q5_K_P - a Hugging Face Space by...
This Space uses ''HauhauCS/Gemma-4-E4B-Uncensored-Hauh...''.
有T4 GPU的话
https://huggingface.co/spaces/mikeee/qwen-7b-chat?duplicate=true
--【贰】--:
测试确实是Uncensored模型,它敢回答关于YTR的问题
--【叁】--:
怎么部署上去的?能给个教程之类的么,我也想去试一下看看
--【肆】--:
image1074×751 21.9 KB
有点笨
--【伍】--:
6tokens/s?这不得慢死了啊,一段话几分钟
--【陆】--:
连上去看了一下,这个真点个赞,还能这样玩。速度还是挺快的。
--【柒】--:
4.5b参数也不能期望太高,英译中好像还不错,不输一些参数多几倍的模型
--【捌】--:
点击你楼上的两个链接之一:第二个免费CPU慢点,第一个需付费或申请免费GPU
--【玖】--:
1224×2595 164 KB
E4B比普通的版本要聪明一些吗?
--【拾】--:
手机上用了一个E2B,普通聊天还行,发个图片,能卡老半天速度非常慢
--【拾壹】--:
好玩好玩,无限制的可以问许多挺有意思的问题的,分析分析dang正机关,制定制定作战计划
--【拾贰】--:
抱脸的T4,很久前跑qwen-7申请的免费T4。
抱脸免费CPU空间跑的话,约2tps
--【拾叁】--: mikey:
申请免费GPU
怎样申请,免费CPU慢死了,只有1个t啊
--【拾肆】--:
其实cf大善人也上了,每日有免费额度,作弄几个号负载均衡一下也行
--【拾伍】--:
佬友,可以出一个部署教程吗?这样是不是可以token自由了?
--【拾陆】--:
达不到三十词元每秒基本上就是不实用的,因为坚决现实生活中的问题你等不起
--【拾柒】--:
我现在就靠大善人的每日免费额度了,真好
速度极快,glm-4-flash 也能用
--【拾捌】--:
佬这个是部署在什么机器上,这种小模型有稳定获取的渠道吗
--【拾玖】--:
大段文字可达 30tps,英译中平均每段可能30秒左右
https://mikeee-qwen-7b-chat.hf.space
Gemma-4-E4B-Uncensored q5 模型 on T4, 约每秒 6 tokens
可用接口,sk-any
Uncensored,所以大致可以涩涩
--【壹】--:
没啥教程,就一拷过来的Dockerfile/README.md,一键复制抱脸空间
Gemma-4-E4B-Uncensored-HauhauCS-Aggressive-Q5_K_P - a Hugging Face Space by...
This Space uses ''HauhauCS/Gemma-4-E4B-Uncensored-Hauh...''.
有T4 GPU的话
https://huggingface.co/spaces/mikeee/qwen-7b-chat?duplicate=true
--【贰】--:
测试确实是Uncensored模型,它敢回答关于YTR的问题
--【叁】--:
怎么部署上去的?能给个教程之类的么,我也想去试一下看看
--【肆】--:
image1074×751 21.9 KB
有点笨
--【伍】--:
6tokens/s?这不得慢死了啊,一段话几分钟
--【陆】--:
连上去看了一下,这个真点个赞,还能这样玩。速度还是挺快的。
--【柒】--:
4.5b参数也不能期望太高,英译中好像还不错,不输一些参数多几倍的模型
--【捌】--:
点击你楼上的两个链接之一:第二个免费CPU慢点,第一个需付费或申请免费GPU
--【玖】--:
1224×2595 164 KB
E4B比普通的版本要聪明一些吗?
--【拾】--:
手机上用了一个E2B,普通聊天还行,发个图片,能卡老半天速度非常慢
--【拾壹】--:
好玩好玩,无限制的可以问许多挺有意思的问题的,分析分析dang正机关,制定制定作战计划
--【拾贰】--:
抱脸的T4,很久前跑qwen-7申请的免费T4。
抱脸免费CPU空间跑的话,约2tps
--【拾叁】--: mikey:
申请免费GPU
怎样申请,免费CPU慢死了,只有1个t啊
--【拾肆】--:
其实cf大善人也上了,每日有免费额度,作弄几个号负载均衡一下也行
--【拾伍】--:
佬友,可以出一个部署教程吗?这样是不是可以token自由了?
--【拾陆】--:
达不到三十词元每秒基本上就是不实用的,因为坚决现实生活中的问题你等不起
--【拾柒】--:
我现在就靠大善人的每日免费额度了,真好
速度极快,glm-4-flash 也能用
--【拾捌】--:
佬这个是部署在什么机器上,这种小模型有稳定获取的渠道吗
--【拾玖】--:
大段文字可达 30tps,英译中平均每段可能30秒左右

