Apple 称,搭载 M6 的新 iMac 在 LM Studio 中的端侧 AI prompt 处理速度最高可达搭载 M1 的 iMac 的 12 倍,比 M4 快最高 5 倍。这句话里有两个细节,决定了你该不该在意:对比对象是旧硬件,而且测的是模型读懂你 prompt 的速度,不是写出答案的速度。
我们读了 Apple 的两篇 M6 发布稿、技术规格和商店页面。我们的看法是:M6 是一颗不错、定价也合理的芯片,但想跑本地 AI,不值得为它多花钱。真正重要的规格是内存,而 M6 最高只有 32GB。
Apple 到底发布了什么
只有两款机型用上了 M6。搭载 M6 的 14 英寸 MacBook Pro 美国起售价 $1,999,搭载 M6 的 iMac 起售价 $1,499(10 核)或 $1,699(12 核)。两款都配备双 16 核 Neural Engine,每个 GPU 核心中还内置 Neural Accelerator。Apple 称笔记本的 GPU AI 工作负载性能比 M5 最高提升 25%,Neural Engine 最高快 1.9 倍。
笔记本标配 16GB 统一内存,最高可选配 32GB。根据 Apple 的技术规格,16GB 时带宽为 153GB/s,24GB 或 32GB 时为 170GB/s。iMac 的带宽同样标注为最高 170GB/s;Apple 的 iMac 发布稿没有写明最大内存,所以我们也不给出数字。
Apple 硬件工程副总裁 Shelly Goldberg 在发布稿中表示,将带来“更强大的端侧 AI 能力”。这话没错,但说的是能力,而对本地模型用户最重要的能力——内存——Apple 却原地不动,停在 32GB。
定价比性能更让人满意。两款机型起售价都和被替代的型号一样。9to5Mac 指出,这是在今年早些时候涨价之后:iMac 从 $1,299 涨到 $1,499,MacBook Pro 从 $1,699 涨到 $1,999。该站的结论是:新的 M6 Mac “远称不上便宜”,但没有再涨价。
另一款新 MacBook Pro 配备 OLED 触控显示屏,完全没用 M6。它搭载 M5 Pro 和 M5 Max,Max 版统一内存最高 128GB(Pro 版最高 64GB),美国起售价 $2,899。如果你买 Mac 就是为了本地 AI,Apple 指向的是这一台。Apple 的新闻稿称,有了 M5 Max,专业用户可以“完全在设备上运行具有数千亿参数的 LLM”。
两种端侧 AI,只有一种需要你操心
Apple Intelligence 在 Mac 上运行一个小模型,负责写作工具、听写、照片编辑之类的功能,更复杂的请求则交给 Apple 的服务器系统 Private Cloud Compute。Apple 的隐私说明是:“Apple Intelligence 了解你的个人信息,却不会收集你的个人信息。”你不用选模型,也不用管内存。入门门槛是任何搭载 M3 或更新芯片、统一内存至少 12GB 的 Mac,所以 M6 带来的是速度,而不是使用资格。云端那一半,我们在Siri AI 与 Gemini 的关系里讲过。
Apple 还允许任何 App 通过 Foundation Models 框架调用这些端侧模型,据 Apple 称可离线运行,每次请求零成本。这也是内存更大的 Mac 会越用越值的隐性原因。
第二种就是那条基准测试说的:下载一个开源模型,自己跑,工具可以用 LM Studio(Apple 的 iMac 发布稿也把 LM Studio Bionic 列为针对 Apple silicon 优化的 App)或 Ollama。数据不出本机,不按量计费,但也没有哪个模型比得上最大的云端模型。哪些开源模型值得占你的硬盘,是另一个问题,见我们的开放权重模型盘点。
内存决定能跑什么,先看这一行
模型必须放进内存才能运行,而在 Mac 上 CPU 和 GPU 共用同一块内存。早期的 Ollama README 给过一条经验法则:7B 模型至少 8GB 内存,13B 模型 16GB,33B 模型 32GB。(这句话出自一个较早的 tag 版本,当前 README 里已经没有了,所以只把它当作该工具历史上的粗略下限,别当承诺。)LM Studio 的系统要求建议 16GB 或更多,8GB 的 Mac 则应只跑较小的模型,上下文也别开太大。
再看一个真正的大模型。Ollama 的 FAQ 里,ollama ps 显示 llama3:70b 占用 42 GB。按这个模型体积推算,它放不进 32GB 的 Mac,不管用什么芯片;至少需要 64GB,也就是 M5 Pro 或 M5 Max,而不是 M6。
速度是另一个限制。Apple 对 M6 的 AI 宣传都围绕 prompt 处理,比如在笔记本的脚注测试中,首个 token 的生成时间比 M5 快最高 1.3 倍。这些是 Apple 自己的数字,在 Apple 自己的配置上跑出来的。按我们的推断,“写出答案”这一段要看内存带宽,而 M6 在上面那张图里排在最底下几行。
谁该为 32GB 买单,谁不该
如果你想跑 7B 到 14B 左右的模型,用来写草稿、总结私密文档或辅助写代码,而且宁可拥有一台安静、续航长的笔记本,也不想租 GPU,那就买 24GB 或 32GB 的 M6。对这个用途来说,配置器里最值得花的钱就是多加内存。这个用途我们不建议选 $1,999 基础款的 16GB。它能跑小模型,但你得不停关掉其他应用来腾内存。
想跑 70B 级别的模型,别买 M6;也别指望它在日常用的东西上比去年的芯片有明显飞跃。真有这个目标,就去看 M5 Pro 或 Max 的价格,再把替代方案也算进去,因为 MacRumors 报道,512GB 内存的 Mac Studio 美国起售价 $22,299。到那个价位,每周只用几个小时的云服务账单就显得很小了。我们的本地 AI 与云端 AI 对比分析了盈亏平衡点在哪;如果你的大部分工作其实用不上前沿模型,按任务匹配模型档位也能帮上忙。
继续用旧 Mac 的理由
Apple 宣传的大幅提升,主要是拿 M1 做对比。对比 M5,笔记本的 prompt 处理最高快 1.3 倍,跑基准测试能感觉到,日常聊天几乎没感觉。如果你有一台 24GB 或更大内存的 M4 或 M5 Mac,我们建议留着,下次把预算花在更大的内存上。如果你用的是 8GB 的 M1,升级确实有意义,但一台 32GB 的二手或官翻 M 系列机型,同样能跑这些模型,价格还低于 $1,999。新 Mac 有 Wi-Fi 7 无线模块和更好的电池,但这两样都跑不了模型。
还有一个悬而未决的问题:Apple 没说那 25% 的 GPU 提升有多少体现在 token 生成上,我们看过的报道也都答不上来。等机器到了用户手里,应该会出现独立的 LM Studio 和 Ollama 测试数据。
常见问题
Apple Intelligence 需要 M6 吗?
不需要。Apple 支持的是搭载 M3 或更新芯片、统一内存至少 12GB 的 Mac 机型。M6 让它更快,而不是让它可用。
16GB 够跑本地 AI 模型吗?
跑小模型、上下文不大的话,够。LM Studio 建议 16GB 或更多,早期的 Ollama README 也建议 13B 模型用 16GB。不过留给其他应用的空间就不多了。
要等第三方基准测试吗?
如果你专门为本地 AI 而买,要等。Apple 的测试是在它自己的配置上与 M1 和 M5 对比,而且测的是 prompt 处理。