四台Mac Studio合体变身AI集群!1.5TB内存、硬件成本近30万
快科技12月25日消息,近日知名工程师Jeff Geerling完成了一项挑战,利用macOS 26.2最新的系统特性,将四台M3 Ultra Mac Studio成功合体,打造出一台拥有1.5TB统一内存的AI计算集群。
这次集群成功的关键在于macOS 26.2引入的一项核心功能RDMA over Thunderbolt 5,通过Thunderbolt 5接口,允许一台Mac直接读取另一台的内存,无需CPU干预。

在Geekbench 6的多核测试中,该集群轻松超越了Dell Pro Max with GB10和Framework Desktop,双精度浮点数性能更是达到了1TFLOPS以上,而闲置功耗低于10W。

在AI推理方面,单机运行Llama 3.2 3B模型时,每秒可处理154.6个token;在运行大型Llama 3.1 70B模型时,每秒可维持14.1个token,这两个测试的性能都远超其他对手。


此外,在尝试运行DeepSeek R1 671B超大型模型时,其他系统均无法正常运行,而Mac Studio 集群凭借其1.5TB的统一内存,完成了这一挑战。

RDMA over Thunderbolt 5在这个AI集群中发挥了关键作用,在启用RDMA后,内存访问延迟从TCP的300微秒降至50微秒以下。


在使用exo系统测试Qwen3 235B时,四台设备每秒可处理31.9个token,比llama.cpp TCP快了一倍以上;DeepSeek V3.1更是达到了每秒32.5个token。

虽然RDMA表现出色,但在高负荷时偶尔会出现系统崩溃的情况

另外值得注意的是,由Mac Studio组成的AI集群总硬件成本约为40000美元(约合人民币28万元),相比其他两个平台,这一价格更贵。
《四台Mac Studio合体变身AI集群!1.5TB内存、硬件成本近30万》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
小米18 Pro首发!高通骁龙8 Elite Gen6 Pro成本突破300美元
快科技1月19日消息,高通将和苹果、联发科一道,成为业内首批发布2nm制程芯片的企业。这次高通将会推出两款2nm芯片,分别是骁龙8 Elite Gen6和骁龙8 Elite Gen6 Pro。市场消息称台积电2nm制程... -
又一家手机品牌离开 华硕手机退场:未来不再推出新机
快科技1月19日消息,近日华硕举行了年末联欢晚会,华硕集团董事长施崇棠对华硕暂停手机业务做了公开回应。施崇棠表示,华硕Zenfone、ROG Phone双品牌从2026年起停止推出新机,我们一定会照顾好... -
REDMI Turbo 5 Max首发迄今最大小米金沙江电池:容量为9000mAh
快科技1月19日消息,REDMI宣布Turbo 5 Max升级9000mAh超大容量电池,这也是迄今最大小米金沙江电池,重度使用也能妥妥用一天。据悉,这块电池拥有894Wh/L小米史上最大能量密度,含硅量达到16%... -
红魔11 Air宣布搭载行业独家游戏肩键!操作零门槛 秒变大神
快科技1月19日消息,今日,红魔游戏手机宣布,红魔11 Air搭载行业独家红魔游戏肩键,拥有520Hz行业最快触发、超大感应面积、防手汗设计。红魔游戏肩键号称操作零门槛,轻松进阶大神,支持... -
REDMI Turbo 5 Max外观首次亮相:优雅大R角+金属中框 最具旗舰质感性能机
快科技1月19日消息,与以往REDMI新机直接官宣发布时间不同,REDMI Turbo 5 Max选择先行预热,暂未公布发布会时间。今日,REDMI手机正式公布REDMI Turbo 5 Max海风蓝配色外观,官方称其为REDMI...











