【教程】 Mac 端 LMStudio 本地部署 Qwen3.5-9B-MLX-4bit,多模态超强

2026-04-11 14:040阅读0评论SEO教程
  • 内容介绍
  • 文章标签
  • 相关推荐
问题描述:

下载模型

https://huggingface.co/mlx-community/Qwen3.5-9B-MLX-4bit

PixPin_2026-03-03_02-29-241009×904 77.5 KB

上下文拉满
PixPin_2026-03-03_02-33-221009×904 59.5 KB

关闭思考方法
顶部加一行

{%- set enable_thinking = false -%}

PixPin_2026-03-03_02-23-091006×904 75.5 KB

效果
image1006×904 113 KB
PixPin_2026-03-03_02-42-431183×819 77.5 KB
PixPin_2026-03-03_02-48-53817×1208 105 KB

开启 API 服务

lms server start --port 1234

Mac mini M4,功耗 40W,速度 21t 左右,多模态很强,内存占 7G 左右,普通聊天首字1s

网友解答:
--【壹】--:

我一天睡很多轮觉


--【贰】--: Mozi:

Mac mini M4

佬的M4是什么配置?


--【叁】--:

这个模型非常神奇,这么小的参数还有这么强的视觉和推理能力


--【肆】--:

这个应该不支持直接导入PDF吧


--【伍】--:

还没有测


--【陆】--:

0.8b翻译质量

阅读全文
标签:人工智能
问题描述:

下载模型

https://huggingface.co/mlx-community/Qwen3.5-9B-MLX-4bit

PixPin_2026-03-03_02-29-241009×904 77.5 KB

上下文拉满
PixPin_2026-03-03_02-33-221009×904 59.5 KB

关闭思考方法
顶部加一行

{%- set enable_thinking = false -%}

PixPin_2026-03-03_02-23-091006×904 75.5 KB

效果
image1006×904 113 KB
PixPin_2026-03-03_02-42-431183×819 77.5 KB
PixPin_2026-03-03_02-48-53817×1208 105 KB

开启 API 服务

lms server start --port 1234

Mac mini M4,功耗 40W,速度 21t 左右,多模态很强,内存占 7G 左右,普通聊天首字1s

网友解答:
--【壹】--:

我一天睡很多轮觉


--【贰】--: Mozi:

Mac mini M4

佬的M4是什么配置?


--【叁】--:

这个模型非常神奇,这么小的参数还有这么强的视觉和推理能力


--【肆】--:

这个应该不支持直接导入PDF吧


--【伍】--:

还没有测


--【陆】--:

0.8b翻译质量

阅读全文
标签:人工智能