【教程】 Mac 端 LMStudio 本地部署 Qwen3.5-9B-MLX-4bit,多模态超强
- 内容介绍
- 文章标签
- 相关推荐
下载模型
https://huggingface.co/mlx-community/Qwen3.5-9B-MLX-4bit
PixPin_2026-03-03_02-29-241009×904 77.5 KB
上下文拉满
PixPin_2026-03-03_02-33-221009×904 59.5 KB
关闭思考方法
顶部加一行
{%- set enable_thinking = false -%}
PixPin_2026-03-03_02-23-091006×904 75.5 KB
效果
image1006×904 113 KB
PixPin_2026-03-03_02-42-431183×819 77.5 KB
PixPin_2026-03-03_02-48-53817×1208 105 KB
开启 API 服务
lms server start --port 1234
Mac mini M4,功耗 40W,速度 21t 左右,多模态很强,内存占 7G 左右,普通聊天首字1s
网友解答:--【壹】--:
我一天睡很多轮觉
--【贰】--: Mozi:
Mac mini M4
佬的M4是什么配置?
--【叁】--:
这个模型非常神奇,这么小的参数还有这么强的视觉和推理能力
--【肆】--:
这个应该不支持直接导入PDF吧
--【伍】--:
还没有测
--【陆】--:
0.8b翻译质量
下载模型
https://huggingface.co/mlx-community/Qwen3.5-9B-MLX-4bit
PixPin_2026-03-03_02-29-241009×904 77.5 KB
上下文拉满
PixPin_2026-03-03_02-33-221009×904 59.5 KB
关闭思考方法
顶部加一行
{%- set enable_thinking = false -%}
PixPin_2026-03-03_02-23-091006×904 75.5 KB
效果
image1006×904 113 KB
PixPin_2026-03-03_02-42-431183×819 77.5 KB
PixPin_2026-03-03_02-48-53817×1208 105 KB
开启 API 服务
lms server start --port 1234
Mac mini M4,功耗 40W,速度 21t 左右,多模态很强,内存占 7G 左右,普通聊天首字1s
网友解答:--【壹】--:
我一天睡很多轮觉
--【贰】--: Mozi:
Mac mini M4
佬的M4是什么配置?
--【叁】--:
这个模型非常神奇,这么小的参数还有这么强的视觉和推理能力
--【肆】--:
这个应该不支持直接导入PDF吧
--【伍】--:
还没有测
--【陆】--:
0.8b翻译质量

