真的会卡吗?
- 内容介绍
- 文章标签
- 相关推荐
问题描述:
--【壹】--:
--【贰】--:
--【叁】--:
--【肆】--:
--【伍】--:
佬们,我有块3090,目前差不多跑了一遍关于大模型的项目,差不多4,5个小时吧,跑完之后电脑用起来非常卡,有什么好的解决办法吗?快给我卡成PPT了。
网友解答:--【壹】--:
在这个网址上,看一下运行本地模型,输出的token数,就知道自己配置是否能流程运行
CanIRun.ai — Can your machine run AI models?
--【贰】--:
这没啥办法吧,要么升级硬件,要么降低大模型参数量也就是版本
--【叁】--:
跑完还卡,确定不是跑的过程中卡吗?最好的办法是重启电脑
--【肆】--:
不会把数据集或者模型权重下C盘了吧,我记得HF和torch的默认cache目录都在C盘的。你这给的信息太少了,电脑的内存占用,有哪些进程在跑可以截图看下。
--【伍】--:
我是晚上跑的,然后白天用的时候就很卡了,待会重启试一下
问题描述:
--【壹】--:
--【贰】--:
--【叁】--:
--【肆】--:
--【伍】--:
佬们,我有块3090,目前差不多跑了一遍关于大模型的项目,差不多4,5个小时吧,跑完之后电脑用起来非常卡,有什么好的解决办法吗?快给我卡成PPT了。
网友解答:--【壹】--:
在这个网址上,看一下运行本地模型,输出的token数,就知道自己配置是否能流程运行
CanIRun.ai — Can your machine run AI models?
--【贰】--:
这没啥办法吧,要么升级硬件,要么降低大模型参数量也就是版本
--【叁】--:
跑完还卡,确定不是跑的过程中卡吗?最好的办法是重启电脑
--【肆】--:
不会把数据集或者模型权重下C盘了吧,我记得HF和torch的默认cache目录都在C盘的。你这给的信息太少了,电脑的内存占用,有哪些进程在跑可以截图看下。
--【伍】--:
我是晚上跑的,然后白天用的时候就很卡了,待会重启试一下

