四台Mac Studio合体变身AI集群!1.5TB内存、硬件成本近30万
快科技12月25日消息,近日知名工程师Jeff Geerling完成了一项挑战,利用macOS 26.2最新的系统特性,将四台M3 Ultra Mac Studio成功合体,打造出一台拥有1.5TB统一内存的AI计算集群。
这次集群成功的关键在于macOS 26.2引入的一项核心功能RDMA over Thunderbolt 5,通过Thunderbolt 5接口,允许一台Mac直接读取另一台的内存,无需CPU干预。

在Geekbench 6的多核测试中,该集群轻松超越了Dell Pro Max with GB10和Framework Desktop,双精度浮点数性能更是达到了1TFLOPS以上,而闲置功耗低于10W。

在AI推理方面,单机运行Llama 3.2 3B模型时,每秒可处理154.6个token;在运行大型Llama 3.1 70B模型时,每秒可维持14.1个token,这两个测试的性能都远超其他对手。


此外,在尝试运行DeepSeek R1 671B超大型模型时,其他系统均无法正常运行,而Mac Studio 集群凭借其1.5TB的统一内存,完成了这一挑战。

RDMA over Thunderbolt 5在这个AI集群中发挥了关键作用,在启用RDMA后,内存访问延迟从TCP的300微秒降至50微秒以下。


在使用exo系统测试Qwen3 235B时,四台设备每秒可处理31.9个token,比llama.cpp TCP快了一倍以上;DeepSeek V3.1更是达到了每秒32.5个token。

虽然RDMA表现出色,但在高负荷时偶尔会出现系统崩溃的情况

另外值得注意的是,由Mac Studio组成的AI集群总硬件成本约为40000美元(约合人民币28万元),相比其他两个平台,这一价格更贵。
《四台Mac Studio合体变身AI集群!1.5TB内存、硬件成本近30万》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
内存价格暴涨神级应对方法:硬核大神直接手搓内存!
快科技12月25日消息,在DDR5内存价格暴涨的极端市场环境下,硬核玩家们开始各显神通。近日,俄罗斯知名硬件频道PRO HiTech分享了一个独特的应对方法:既然成品内存太贵,那就干脆自己手动组装... -
499元 REDMI电脑音箱2 Pro套装正式开售:新增无线低音炮 总功率36W
快科技12月25日消息,今日,REDMI电脑音箱2 Pro套装在全渠道正式开售,首发价499元。该套装由REDMI电脑音箱2 Pro+无线低音炮组成,总功率36W。主音箱搭载两个10W大尺寸扬声器与双低... -
小米3nm自研芯片就是例子!台积电:中国大陆客户可获全球先进制程支持
快科技12月25日消息,在2025年国际计算机辅助设计大会(ICCAD)上,台积电中国大陆业务区负责人及南京晶圆厂厂长罗镇球公开表示,中国大陆客户可获全球先进制程支持。罗镇球还就“最终用... -
昂达推出Intel Z790主板新品:四槽DDR4内存、售价779元
快科技12月25日消息,在DDR5内存价格持续飙升的背景下,玩家们正将目光投向更具性价比的DDR4平台,昂达顺势推出了全新的Z790PRO-WIFI-B4主板,采用LGA1700插槽,支持Intel第12-14代酷睿处理器... -
斥资1400亿!英伟达拿下芯片初创公司Groq
快科技12月25日消息,CNBC报道,英伟达已同意以200亿美元现金(约合1403亿元人民币)收购高性能AI芯片设计公司Groq的核心资产,刷新其历史最高收购纪录。此前,其最大规模收购为2019年以近70亿...

















