vps有啥推荐跑的ai 接口呢？
- 内容介绍
- 文章标签
- 相关推荐
问题描述：
--【壹】--：
--【贰】--：
--【叁】--：
--【肆】--：
我问豆包说是这个最轻量化rwkv.cpp + RWKV-1.6B 4bit 量化
真实占用（实测数据）
- 内存：700MB～950MB
- CPU：20%～40%（4 核只用 1～2 核）
- 回复速度：1～2 秒一条
vps配置是4c12g，可能还剩2c8g的性能
老哥们有推荐别的吗 谢谢
--【壹】--：
就是正常的回复内容呢，类似客服这样
--【贰】--：
CPU VPS还是算了吧
GPU VPS倒是可以考虑下
纯内存+CPU不是很卡吗
--【叁】--：
很卡嘛 好吧 我以为能试试呢 哈哈
--【肆】--：
啊？ 在虚拟机上跑ai，怎么感觉。。。。？ 你是要跑来干嘛的？你得说一下你想要做什么的，才能有佬推荐
问题描述：
--【壹】--：
--【贰】--：
--【叁】--：
--【肆】--：
我问豆包说是这个最轻量化rwkv.cpp + RWKV-1.6B 4bit 量化
真实占用（实测数据）
- 内存：700MB～950MB
- CPU：20%～40%（4 核只用 1～2 核）
- 回复速度：1～2 秒一条
vps配置是4c12g，可能还剩2c8g的性能
老哥们有推荐别的吗 谢谢
--【壹】--：
就是正常的回复内容呢，类似客服这样
--【贰】--：
CPU VPS还是算了吧
GPU VPS倒是可以考虑下
纯内存+CPU不是很卡吗
--【叁】--：
很卡嘛 好吧 我以为能试试呢 哈哈
--【肆】--：
啊？ 在虚拟机上跑ai，怎么感觉。。。。？ 你是要跑来干嘛的？你得说一下你想要做什么的，才能有佬推荐