LM Studio让你的Mac秒变AI神器！

0 前言

M芯片Mac想跑大模型，强烈推荐LM Studio。因为它支持专门为M系列芯片优化过的模型文件，运行速度快了不止亿点点！intel mac 不支持哦！

本地运行大模型的工具中，LM Studio和Ollama是最受欢迎的两款。最近LM Studio新增了对MLX的支持。

1 MLX是啥？

苹果公司开源的一个机器学习框架，专门为M系列芯片做了优化，如采用了统一内存模型、对应统一内存架构。所以，使用这个框架就可以非常高效地部署和运行模型。

MLX去年12月才开源，还很新，但是在社区支持下发展很快，主流模型都有对应的版本。在最新版本的LM Studio中也特意做了标注和筛选，方便苹果用户下载。

2 下载和使用LM Studio

打开软件，左边栏是它的主要功能页面，包括聊天模式、服务器模式、查看已有模型等等：

进入发现页面，就可以搜索和下载模型了：

LM Studio把MLX版的模型专门标注，列表里很容易找到。它默认是推荐Staff Pick也就是官方推荐的模型，如果你想要更多，那就选择Hugging Face（Search All）。

模型文件下载好：

指定一个：

就在聊天模式里加载它：

3 苹果AI落后？

苹果硬件积累远超那些PC厂商，看到最近发布的 M4 系列芯片你也就懂了。在内存带宽上，M4 Pro也比上一代大增75%，支持高达64GB的高速统一内存和273GB/s的内存带宽，直接达到任意AI PC芯片的两倍。

桌面端有MLX框架，发挥统一内存架构最大优势：

• CPU和GPU可以直接访问共享内存中的数据，不需要进行数据传输
• 小规模操作用CPU搞定。遇到计算密集型的需求再上GPU

到时明年我去香港买个港版，M4 urtra Mac Studio到手后我就开始测评！

4 总结

如今在 AI 软件领域，各家都在扩张自己的势力范围。如LM Studio，以前只是偏后端软件，帮你在本地跑大模型。现在，它把聊天模式往前提，添加RAG功能。主动从后端走向前端的打法会逐渐成为各家的共同选择。AI应用大混战时代来了。

关注我，紧跟本系列专栏文章，咱们下篇再续！

作者简介：魔都架构师，多家大厂后端一线研发经验，在分布式系统设计、数据平台架构和AI应用开发等领域都有丰富实践经验。

各大技术社区头部专家博主。具有丰富的引领团队经验，深厚业务架构和解决方案的积累。

负责：

• 中央/分销预订系统性能优化
• 活动&券等营销中台建设
• 交易平台及数据中台等架构和开发设计
• 车联网核心平台-物联网连接平台、大数据平台架构设计及优化
• LLM Agent应用开发
• 区块链应用开发
• 大数据开发挖掘经验

• 推荐系统项目

  目前主攻市级软件项目设计、构建服务全社会的应用系统。

参考：

• 编程严选网

  本文由博客一文多发平台 OpenWrite 发布！