摩尔线程发布 Torch-MUSA v2.7.0,增强 AI 模型训练与推理支持
最新 11 月 28 日消息,近日,摩尔线程正式发布 PyTorch 深度学习框架的 MUSA 扩展库 ——Torch-MUSA v2.7.0,新版本在功能集成、性能优化与硬件支持方面实现进一步突破。Torch-MUSA 在短短一个月内,连续完成 v2.5.0 和 v2.7.0 两次版本更新。
据介绍,自 v2.5.0 起,Torch-MUSA 版本号已与 PyTorch 主版本号保持同步,便于开发者进行版本识别与管理。新版本进一步集成 muSolver 与 muFFT 等计算加速库,显著提升复杂计算任务的执行效率;同时新增对统一内存设备(Unified Memory)的 UMM 支持,有效优化内存使用效率。
此外,新版本继续保持与最新 MUSA SDK 的兼容性,支持使用 MUSA SDK 4.2.0 至 4.3.0 及更高版本进行编译。目前 Torch-MUSA 专属支持的算子总数已超过 1050 个,系统在性能与稳定性方面均实现进一步提升。
v2.7.0 版本主要更新内容:
新增特性
新增 muFFT 与 muSolver 库集成,大幅扩展计算能力;
在面向边缘计算的 SoC 设备中支持统一内存管理,基于 Arm 架构的 UMA(统一内存寻址)设计,实现 GPU 与 CPU 共享同一物理内存空间,显著降低模型运行过程中的内存开销,具体包括:消除 GPU 端重复内存分配;减少主机与设备间的内存拷贝;GPU 可直接访问由 CPU 分配器申请的内存空间。
算子扩展与性能优化
新增支持包括 ilshift、irshift、replication_pad1d_bwd、angle、ctcLossTensor、ctcLossTensorBwd、logit、amin / amax / prod.dim_int、glu_bwd 等多个算子;
新增基础 Sparse (CSR) 操作支持;
扩充量化算子支持范围;
修复 torch.norm 形状错误问题;
支持 reduce_sum 的 uint8 输入与 int64 输出;
C++ 扩展新增支持 tensor.is_musa () 方法;
修复空输入下 argmax/argmin 的异常行为;
优化 var / std、pad、convolution3d、layer_norm 等操作的执行效率。
系统功能增强
开放 torch.musa.mccl.version () 接口;
支持 getCurrentMUSABlasHandle 与 getCurrentMUSABlasLtHandle;
优化 FSDP2 流水线并行策略,降低训练内存占用。
最新从官方获悉,Torch-MUSA 将继续跟进 PyTorch 的版本更新,计划下一版本支持 PyTorch 2.9.0,并进一步优化性能与功能。
Torch-MUSA 开源地址:https://github.com/MooreThreads/torch_musa
《摩尔线程发布 Torch-MUSA v2.7.0,增强 AI 模型训练与推理支持》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
保时捷设计推 C-Seed 折叠电视,售价超三台 911
保时捷设计工作室联合研发的C-Seed折叠电视亮相,它更像一件科幻雕塑艺术品。闲置时如未来柜体,一键启动后屏幕自动旋转,五块Micro LED面板依次展开,支持室内外两用。但价格令人咋舌:约40万美元,超三台保时捷911 Carrera总价。#天价电视# #保时捷设计#... -
三星高管:不追噱头,专注打造“真正有用且不唐突”的 AI
三星欧洲区CEO Simon Sung表示,其AI战略核心是打造“真正有用且不唐突”的人工智能,聚焦日常实用价值而非新奇噱头。三星高斯大模型并未像ChatGPT那样独立推出,而是以Galaxy AI为核心深度集成于手机,并布局于家电等多条产品线。公司内部正推动AI能力渗透各部门,构建统一的智能环境。#三星AI# #GalaxyAI#... -
英伟达黄仁勋谈 AI 对职场影响:只替你干杂活,岗位核心还得靠人
英伟达CEO黄仁勋在播客中分享了对AI与就业的见解:AI自动化的是工作中的具体任务,而非岗位的核心价值。他以放射科为例,尽管AI已能读取影像,但放射科医生人数和收入却创下新高,因为其核心价值在于诊断与治疗决策。这一逻辑同样适用于律师、软件工程师等职业。#AI与就业# #黄仁勋谈AI#... -
谷歌重申暂无在 Gemini 中投放广告计划,聚焦搜索广告
谷歌全球广告副总裁丹·泰勒表示,目前没有在Gemini应用中投放广告的计划,广告团队正将重心放在AI搜索广告上。他指出,AI助手与搜索定位不同,商业化需谨慎,过早插入广告可能引发用户反感。目前谷歌AI概览月活已超20亿,广告点击率与传统搜索持平。#谷歌Gemini##AI广告商业化#... -
波士顿动力 CEO:Atlas 人形机器人从零件分拣起步,5-10 年或进入家庭
波士顿动力CEO透露,其全电动人形机器人阿特拉斯计划2028年投入工厂应用,将从汽车零部件分拣等简单任务起步。机器人面部设计灵感源自皮克斯小台灯,旨在传递友好信号。CEO认为机器人将创造新岗位,与人类形成共生关系,而非简单取代。#人形机器人##波士顿动力#...

















