苹果芯片与 MLX 把 Mac 变成 AI 服务器

Meta 把迄今最强的开放权重模型 MuseSparkOpen 优化到能在 Mac Studio 上跑，而苹果自己给出的实测是四台 M5 Ultra Mac Studio 合计每秒 36 个 token 以上、单机峰值功耗约 300 瓦。一位做了十七年 Apple 设备管理的 IT 从业者据此提出：Xserve 在 2011 年被砍掉，但它的位置正被 Mac Studio 以另一种方式补回来。

四台 Mac Studio，每秒 36 个 token

MuseSparkOpen 有 8160 亿参数、420 亿激活参数和百万 token 上下文窗口，Meta 选择免费开放权重。苹果机器学习研究团队公开的测试里，四台 M5 Ultra Mac Studio 跑该模型的输出速度超过每秒 36 个 token，比人阅读还快，每台机器峰值约 300 瓦。

Meta 对这套配置的说明更直接：Apple 芯片的统一内存让 M5 Ultra 的集成 GPU 单机最多可用 512GB，因此两台机器就能装下整个模型；芯片 1.2TB/s 的内存带宽足够读取每个 token 需要的那一小片权重。结果是两台 Mac Studio 表现得像一台带一 TB 统一内存的超级计算机，而它安静到可以放在桌下。换成机架式 GPU 方案，同样的模型需要一整排显卡和与之匹配供电预算。

支撑这套组合的是 MLX，苹果专为统一内存架构写的机器学习框架。用过 NumPy 的人几乎不用重新适应它的 API，上层还带神经网络与优化器组件，以及自动微分、图优化等函数变换；Swift、C++、C 三种绑定意味着它能跑在所有 Apple 平台上。过去几年的主流叙事是“苹果没有前沿大模型所以在 AI 上落后”，而回头看，苹果把钱花在了内存、带宽和框架上。

16GB 的笔记本也在范围内

对企业 IT 部门来说，更实用的线索在产品线另一端。Osaurus 是一款免费开源的 Mac AI 工具，能在 16GB 内存的 Apple 芯片笔记本上跑可用的本地模型，甚至有两个模型能塞进 8GB 机器，全程不需要联网。它的联合创始人与 CEO Terence Pae 说，应用没有服务器、没有客户数据库，公司明天倒闭，程序照样能用到 macOS 不兼容为止。

Osaurus 有个细节值得 IT 管理者注意：当它需要调用外部前沿模型时，会先用一个本地小模型扫一遍粘贴内容里的姓名、电话号码、账号，把它们换成占位符，再交给 Claude 或 OpenAI。个人版免费，团队协作的 Workspaces 是付费档，另外还有一个 Windows 测试版。同一款程序在两个平台上都能跑时，差别就落在 Mac 的统一内存上。Pae 说自己不会意外：到明年这个时候，本地模型或许就能追平今天的前沿模型。

这条路线能不能算“苹果赢了”另说。Xserve 当年败在没人想在数据中心里放一台 Mac；如今 Meta 把最强的开放权重模型按 Mac Studio 调优，IceCubes 这类开源项目的真实 iOS 改动（修 bug、加功能、完整构建），以及 DaVinci Resolve 里逐帧挑素材、竖屏裁切的代理流程，都能在设备本地跑完。前沿模型还在往前跑，“够用”也在往前跑，而多数员工每天需要的恰好是后者。