赛事咨询热线 +86 +86 158 9512 3536

10月15日,Meta公开了拥有8160亿参数的Muse Spark Open,自称是“美国最强的开放权重模型”。同日,苹果发布MLX技术博客,展示在两台到四台M5 Ultra Mac Studio上本地运行该模型,四机张量并行速度达到36.7 token/秒。扎克伯格公开向苹果新任CEO John Ternus表达谢意。

一对老对手,意外同台

去年,扎克伯格还在播客中批评苹果“自iPhone后就再没创造过重大创新”,而苹果2021年的隐私政策变更被Meta估算造成年收入减少百亿美元。然而,10月15日,这两家公司罕见地携手:Meta推出了开放权重模型Muse Spark Open,苹果机器学习团队同日发布技术博客,演示其在多台Mac Studio上的本地运行。

扎克伯格在X上发布Meta智能体在Mac上工作的图片,并点名感谢新任CEO John Ternus;Ternus回帖表示祝贺。Meta首席AI官Alexandr Wang对Axios的调侃最为生动——看到“父母终于能和平共处”,大家都很欣慰。

模型背景:美国最强开源,但有限定

Muse Spark Open是Meta迄今为止最大的开放权重模型:采用MoE架构,总参数8160亿,每token激活420亿,原生支持文本、图像、音频和视频,上下文窗口达100万token,专为编码和长周期智能体任务设计。Meta官方称其为“迄今为止能力最强的美国开放权重模型”——注意“美国”这一限定词。官方对比表也承认:在Terminal-Bench终端编程、DeepSWE长周期软件工程和GDPval专业工作评估上,它落后于中国的Kimi K3和GLM 5.3;其主要领先领域是JobBench和MCP-Atlas等工具调用测试。

权重已在Hugging Face、亚马逊SageMaker、谷歌云Model Garden开放下载,Baseten、Fireworks、Groq、OpenRouter等平台也同步提供API。许可协议为Muse Model License:免费使用,但需标注“Built with Muse Spark Open”,高收入API转售商需单独签订协议。Wang解释称:出于安全性和性能考虑,最强的模型通常不开源,但“全球大部分AI将运行在开放模型之上,这些模型应来自美国”。

机制:8160亿参数如何装入两台Mac

难点显而易见:在BF16原生精度下,仅模型参数就需要超过1.6TB内存,而单台Mac Studio最高仅512GB。苹果的方案分为两步压缩。首先是量化——使用NVFP4四位精度存储权重,内存占用降至约493GB,再加上KV缓存和系统开销,单机仍无法容纳,因此需要多机部署。MLX框架提供两种方法:流水线并行将模型按深度分割,前半部分在一台Mac,后半部分在另一台,易于理解但存在等待间隙;张量并行则将每层计算横向分配给多台机器,所有设备同时工作,代价是每层需频繁交换中间结果——这正是雷雳5的RDMA发挥作用之处,macOS 26.2新增了驱动,机器两两之间用两根雷雳线直连成网状。

苹果实测(8K上下文、生成128 token):双机流水线速度15.74 token/秒,双机张量24.99 token/秒,四机张量36.73 token/秒,首token等待时间从8.2秒降至4.8秒。相比上一代M3 Ultra,M5 Ultra单机首token速度最高提升4.6倍——得益于1.2TB/s统一内存带宽和GPU中新增的Neural Accelerators。演示中,模型在纯本地环境下使用Muse Code为开源iOS应用Ice Cubes修复bug、添加功能并完成构建,还操作DaVinci Resolve逐帧审片和裁片。

时机选择:各取所需的算盘

Meta的账目清晰:上周刚发布闭源的Muse Wonder,订阅费每月200美元,随后便开源次旗舰——开放权重是Meta对抗OpenAI和Anthropic的核心差异化策略,Llama时代如此,现在换名继续。更深层次,Meta今年早些时候已购入数百台Mac供超级智能团队研究本地AI,曾任职苹果的Daniel Gross在其中牵线,这场合作“蓄谋已久”。

苹果的收益更直接:一个证明其硬件价值的标杆负载。M5 Ultra Mac Studio顶配512GB内存版本本月底才开卖,“两台Mac运行美国最强开源模型”这样的故事,比任何广告都适合推广。而本地推理的叙事恰好契合苹果的隐私基因——代码、文档和业务数据不出设备,模型厂商无法获取,对企业合规和敏感行业是实实在在的卖点。

深思一层

有几个前提值得注意:苹果的跑分是厂商在自家硬件上测试的,batch为1、4-bit量化、8K上下文——百万token长文和多人并发均未验证;两台顶配M5 Ultra Mac Studio的采购成本粗略计算超过两万美元,“桌面级AI”目前仍限于专业团队。模型侧的“最强美国开源”也需谨慎看待:中国开源阵营的K3和GLM 5.3在编程主项上仍领先,Meta选择“美国”这一限定词,本身就反映了格局。

再深入思考,这次合作的真正信号是推理部署权的转移。过去大模型的命运掌握在云厂商手中,现在消费级硬件能运行前沿级模型,尽管需要两台机器和4-bit量化——但边际效应的方向已改变。对Meta而言,这是将模型能力嵌入开发者桌面的渠道;对苹果,这是Mac在AI时代找到的新定位。两家曾经的死对头能够合作,说到底是因为共同利益足够大:云推理的成本和数据主权焦虑,正推动所有人向本地化迈进。

结尾

五年前互相伤害的组合,如今在AI面前握手言和——科技圈没有永远的敌人,只有永远的算力。Muse Spark Open不会是最强的开源模型,Mac Studio也不会是唯一能运行它的机器,但“前沿级模型可在自家桌面上、数据不出门地运行”这件事,从今天起有了官方认证的参考实现。

开源阵营与本地硬件的这次会师,真正可能动摇的是云厂商的定价表。

本文来自微信公众号“AI唱反调”,36氪经授权发布。