Oracle的4c24g機器能跑gemma4模型嗎
- 内容介绍
- 文章标签
- 相关推荐
问题描述：
--【壹】--：
--【贰】--：
--【叁】--：
--【肆】--：
--【伍】--：
--【陆】--：
--【柒】--：
--【捌】--：
--【玖】--：
如題 手上最強的服務器就是龜殼的arm了 想用這台跑gemma3可行不
网友解答：--【壹】--：
image517×407 21.5 KB
我的简直是相当之慢了
--【贰】--：
还没机会实测
因为
我的4c24g的资源还在脚本抢中
--【叁】--：
同样的情况，蹲个后续，也想把服务器用起来 期待结果
--【肆】--：
可以试试用这个跑
- https://github.com/google-ai-edge/LiteRT-LM
--【伍】--：
不可以，arm 的机器没指令集，相当于蚊子拉车，能跑但没用。太慢了。
--【陆】--：
编译了一份arm的，然后很卡很卡。估计还不如找个闲置手机块
--【柒】--：
让我试试，万一能行
服务器闲着也是闲着，哈哈
--【捌】--：
蹲个后续，话说是楼主标题打错了还是？
为什么不尝试gemma4。
--【玖】--：
img_v3_0210e_f8705f7d-5a63-47d2-a733-6055a86d081g1410×536 73.7 KB
gemma4:26b-a4b-it-q4_K_M 实测，可用性很低
问题描述：
--【壹】--：
--【贰】--：
--【叁】--：
--【肆】--：
--【伍】--：
--【陆】--：
--【柒】--：
--【捌】--：
--【玖】--：
如題 手上最強的服務器就是龜殼的arm了 想用這台跑gemma3可行不
网友解答：--【壹】--：
image517×407 21.5 KB
我的简直是相当之慢了
--【贰】--：
还没机会实测
因为
我的4c24g的资源还在脚本抢中
--【叁】--：
同样的情况，蹲个后续，也想把服务器用起来 期待结果
--【肆】--：
可以试试用这个跑
- https://github.com/google-ai-edge/LiteRT-LM
--【伍】--：
不可以，arm 的机器没指令集，相当于蚊子拉车，能跑但没用。太慢了。
--【陆】--：
编译了一份arm的，然后很卡很卡。估计还不如找个闲置手机块
--【柒】--：
让我试试，万一能行
服务器闲着也是闲着，哈哈
--【捌】--：
蹲个后续，话说是楼主标题打错了还是？
为什么不尝试gemma4。
--【玖】--：
img_v3_0210e_f8705f7d-5a63-47d2-a733-6055a86d081g1410×536 73.7 KB
gemma4:26b-a4b-it-q4_K_M 实测，可用性很低