摩尔线程发布 Torch-MUSA v2.7.0,增强 AI 模型训练与推理支持
最新 11 月 28 日消息,近日,摩尔线程正式发布 PyTorch 深度学习框架的 MUSA 扩展库 ——Torch-MUSA v2.7.0,新版本在功能集成、性能优化与硬件支持方面实现进一步突破。Torch-MUSA 在短短一个月内,连续完成 v2.5.0 和 v2.7.0 两次版本更新。
据介绍,自 v2.5.0 起,Torch-MUSA 版本号已与 PyTorch 主版本号保持同步,便于开发者进行版本识别与管理。新版本进一步集成 muSolver 与 muFFT 等计算加速库,显著提升复杂计算任务的执行效率;同时新增对统一内存设备(Unified Memory)的 UMM 支持,有效优化内存使用效率。
此外,新版本继续保持与最新 MUSA SDK 的兼容性,支持使用 MUSA SDK 4.2.0 至 4.3.0 及更高版本进行编译。目前 Torch-MUSA 专属支持的算子总数已超过 1050 个,系统在性能与稳定性方面均实现进一步提升。
v2.7.0 版本主要更新内容:
新增特性
新增 muFFT 与 muSolver 库集成,大幅扩展计算能力;
在面向边缘计算的 SoC 设备中支持统一内存管理,基于 Arm 架构的 UMA(统一内存寻址)设计,实现 GPU 与 CPU 共享同一物理内存空间,显著降低模型运行过程中的内存开销,具体包括:消除 GPU 端重复内存分配;减少主机与设备间的内存拷贝;GPU 可直接访问由 CPU 分配器申请的内存空间。
算子扩展与性能优化
新增支持包括 ilshift、irshift、replication_pad1d_bwd、angle、ctcLossTensor、ctcLossTensorBwd、logit、amin / amax / prod.dim_int、glu_bwd 等多个算子;
新增基础 Sparse (CSR) 操作支持;
扩充量化算子支持范围;
修复 torch.norm 形状错误问题;
支持 reduce_sum 的 uint8 输入与 int64 输出;
C++ 扩展新增支持 tensor.is_musa () 方法;
修复空输入下 argmax/argmin 的异常行为;
优化 var / std、pad、convolution3d、layer_norm 等操作的执行效率。
系统功能增强
开放 torch.musa.mccl.version () 接口;
支持 getCurrentMUSABlasHandle 与 getCurrentMUSABlasLtHandle;
优化 FSDP2 流水线并行策略,降低训练内存占用。
最新从官方获悉,Torch-MUSA 将继续跟进 PyTorch 的版本更新,计划下一版本支持 PyTorch 2.9.0,并进一步优化性能与功能。
Torch-MUSA 开源地址:https://github.com/MooreThreads/torch_musa
《摩尔线程发布 Torch-MUSA v2.7.0,增强 AI 模型训练与推理支持》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
“戴上”理想同学:理想 AI 眼镜 Livis 官宣 12 月 3 日发布
今天上午,理想汽车官微宣布:理想 AI 眼镜 Livis 发布会将于 12 月 3 日 19:30 举行。... -
工信部:推动传统玩具文具和智能技术的深度融合,加强养老服务机器人研发
工信部提出推动传统玩具文具与智能技术深度融合,加强养老服务机器人研发,以满足不同年龄群体的需求。同时,支持国潮产品开发,培育原创设计能力。#智能玩具##养老服务机器人#... -
全球首个气溶胶-气象耦合预报人工智能模型试运行,大幅提升我国西北沙尘天气预报能力
全球首个气溶胶-气象耦合预报AI模型在兰州投入试运行,可每天两次更新5公里分辨率的沙尘预报产品,大幅提升西北地区沙尘天气预报能力。该模型将气溶胶与气象要素作为一个整体分析,实现双向影响模拟,不到1分钟即可完成未来5天的全球高精度环境气象预报。#气象科技# #人工智能#... -
工信部:截至上半年末,我国生成式人工智能产品用户规模达 5.15 亿
今日,工业和信息化部消费品工业司司长何亚琼在新闻发布会上表示,截至今年上半年末,我国生成式人工智能产品用户规模达到 5.15 亿,应用场景持续拓展,人工智能终端产品竞相涌现,未来消费将不再是购买一件商品,更是订阅一种生活。#人工智能 #消费升级 #工信部举措... -
麻省理工学院新研究:具自主能力的 AI 理论上能取代美国 11% 劳动力
麻省理工学院引用模拟结果指出,AI 劳动力理论上已经能够覆盖美国就业市场的 11.7%。在薪酬层面,其潜在影响在金融、医疗与专业服务领域可能达到 1.2 万亿美元(现汇率约合 8.5 万亿元人民币)。...

















