公司电脑部署gemma4 26B
- 内容介绍
- 文章标签
- 相关推荐
前段时间公司嫌弃我自己的电脑绘图太卡了，于是从新配了台笔记本给我。
image1458×1410 180 KB
这是他的参数，我用它部署了gemma4 26b跑起来也没有压力（截至目前，使用不2小时）。
image1275×219 9.27 KB
继续探索
--【壹】--：
你平时主要用它来干什么工作呀，我只是部署了，不知道咋玩
--【贰】--：
佬觉得这个模型智商怎么样？本地部署token输出地快不快？
--【叁】--：
它是多模态所以用途很广泛，我主要是用来离线翻译，结构化输出，生成摘要，图片理解，语音转写；还可以放进自动化定时任务里，简单需求基本够用。
--【肆】--： 愚直:
前端时间
是不是写错了，怎么感觉跑在cpu上，没用到gpu
--【伍】--：
跑起来速度怎么样啊？如果速度快我也部署一套，在平台上的26b跑起来感觉还可以
--【陆】--：
关注！继续说说效果怎么样？能用来干些什么？
--【柒】--：
使用体验怎么样啊？佬。我准备在 macmini 上部署一个试试水
--【捌】--：
我是看到好像是cpu和内存一起干活才可以的
--【玖】--：
gemma4 我也在用 作为日常轻量级使用还挺不错的
--【拾】--：
已安装多个GPU！
佬，你这是多张显卡来跑的吗？
--【拾壹】--：
挺流畅的，至于能干啥还在摸索中，看看能有啥不错的能力
--【拾贰】--：
为啥8G显存都能部署26B，量化的？你这显卡最多是5070吧，内存32G，达不到最低要求好像
--【拾叁】--：
佬，这么秀的吗，8G显存就能跑26B了吗？
--【拾肆】--：
你这个跑起来也是卡成ppt吧？
我的配置i9-13900hk + 64g + 8g显存，跑e4b感觉token速度都慢
image1244×960 39 KB
--【拾伍】--：
不卡呀，我目前用起来都挺好的，没有PPT的效果
--【拾陆】--：
大佬部署后效果如何呢？主要场景可以干嘛？
--【拾柒】--：
挺不错的，目前用起来速度都挺快的，就是不知道长文以后的表现
--【拾捌】--：
我也部署了，但是感觉没什么应用场景啊，opencode接不进去
--【拾玖】--：
厉害厉害，我也学着用一用，看看他的功能怎么样
前段时间公司嫌弃我自己的电脑绘图太卡了，于是从新配了台笔记本给我。
image1458×1410 180 KB
这是他的参数，我用它部署了gemma4 26b跑起来也没有压力（截至目前，使用不2小时）。
image1275×219 9.27 KB
继续探索
--【壹】--：
你平时主要用它来干什么工作呀，我只是部署了，不知道咋玩
--【贰】--：
佬觉得这个模型智商怎么样？本地部署token输出地快不快？
--【叁】--：
它是多模态所以用途很广泛，我主要是用来离线翻译，结构化输出，生成摘要，图片理解，语音转写；还可以放进自动化定时任务里，简单需求基本够用。
--【肆】--： 愚直:
前端时间
是不是写错了，怎么感觉跑在cpu上，没用到gpu
--【伍】--：
跑起来速度怎么样啊？如果速度快我也部署一套，在平台上的26b跑起来感觉还可以
--【陆】--：
关注！继续说说效果怎么样？能用来干些什么？
--【柒】--：
使用体验怎么样啊？佬。我准备在 macmini 上部署一个试试水
--【捌】--：
我是看到好像是cpu和内存一起干活才可以的
--【玖】--：
gemma4 我也在用 作为日常轻量级使用还挺不错的
--【拾】--：
已安装多个GPU！
佬，你这是多张显卡来跑的吗？
--【拾壹】--：
挺流畅的，至于能干啥还在摸索中，看看能有啥不错的能力
--【拾贰】--：
为啥8G显存都能部署26B，量化的？你这显卡最多是5070吧，内存32G，达不到最低要求好像
--【拾叁】--：
佬，这么秀的吗，8G显存就能跑26B了吗？
--【拾肆】--：
你这个跑起来也是卡成ppt吧？
我的配置i9-13900hk + 64g + 8g显存，跑e4b感觉token速度都慢
image1244×960 39 KB
--【拾伍】--：
不卡呀，我目前用起来都挺好的，没有PPT的效果
--【拾陆】--：
大佬部署后效果如何呢？主要场景可以干嘛？
--【拾柒】--：
挺不错的，目前用起来速度都挺快的，就是不知道长文以后的表现
--【拾捌】--：
我也部署了，但是感觉没什么应用场景啊，opencode接不进去
--【拾玖】--：
厉害厉害，我也学着用一用，看看他的功能怎么样