这个配置的集群 Agent 开发跑本地模型用哪个比较好
- 内容介绍
- 文章标签
- 相关推荐
问题描述:
--【壹】--:
--【贰】--:
现在有12块H100,但每次都要排几天的队;有8块L40S,但平常只有2-4块可用;还有4块V100,基本上没人用;还有8块A40和26块A100,基本上抢不到;想知道这个配置都能跑哪些适合Agent的小模型
网友解答:--【壹】--:
富的流油啊…
--【贰】--:
好家伙,这么丰富的资源,羡慕
问题描述:
--【壹】--:
--【贰】--:
现在有12块H100,但每次都要排几天的队;有8块L40S,但平常只有2-4块可用;还有4块V100,基本上没人用;还有8块A40和26块A100,基本上抢不到;想知道这个配置都能跑哪些适合Agent的小模型
网友解答:--【壹】--:
富的流油啊…
--【贰】--:
好家伙,这么丰富的资源,羡慕

