中国移动发布智算芯合两款重磅产品
2024-12-03
来源:C114通信网
11月30日,由中国通信学会主办、中国移动研究院承办的2024中国信息通信大会“算力网络算网一体创新发展论坛 ”在成都举办。中国移动研究院副院长段晓东携手天数智芯、壁仞科技、中兴、海光、瀚博等产业合作伙伴,在本次论坛上发布了 “芯合”异构混合并行训练系统1.0和智算“芯合”算力原生基础软件栈2.0。
芯片是智算生态的基石,基础软件栈是智算生态的核心。随着近年来多样化异构智算芯片的不断涌现,产业界形成了多套“AI框架+工具链+硬件”的软硬一体竖井生态,上层应用与底层芯片深度绑定,无法灵活迁移,整个智算产业面临着基础软件栈多而不优,生态互不兼容的巨大挑战,制约异构智能算力整体效能的释放。为屏蔽异构硬件差异、融通智算竖井生态,中国移动充分发挥移动信息现代产业链“链长”职责,以智算基础软件栈为攻关要点,于2022年创新提出算力原生CAMA原创技术,发布业内首个《面向智算的算力原生白皮书》,并于2023年研发并发布“芯合”算力原生基础软件栈1.0,在全球首次实现智算应用一键式跨芯迁移的目标,已在山东、广西等多省市的路桥检测、智能安防等场景试点应用,大幅降低智算应用向国产化芯片迁移的复杂度,有力促进了我国智算产业的繁荣发展。
芯片是智算生态的基石,基础软件栈是智算生态的核心。随着近年来多样化异构智算芯片的不断涌现,产业界形成了多套“AI框架+工具链+硬件”的软硬一体竖井生态,上层应用与底层芯片深度绑定,无法灵活迁移,整个智算产业面临着基础软件栈多而不优,生态互不兼容的巨大挑战,制约异构智能算力整体效能的释放。为屏蔽异构硬件差异、融通智算竖井生态,中国移动充分发挥移动信息现代产业链“链长”职责,以智算基础软件栈为攻关要点,于2022年创新提出算力原生CAMA原创技术,发布业内首个《面向智算的算力原生白皮书》,并于2023年研发并发布“芯合”算力原生基础软件栈1.0,在全球首次实现智算应用一键式跨芯迁移的目标,已在山东、广西等多省市的路桥检测、智能安防等场景试点应用,大幅降低智算应用向国产化芯片迁移的复杂度,有力促进了我国智算产业的繁荣发展。
聚产业之愿,合众“芯”之力,2024年中国移动持续攻关算力原生技术,以研究院和齐鲁创新院为主体,深入推进“芯合”基础软件栈2.0研发,相较于之前实现了三大升级。一是能力升级,全面重构算力抽象模型,插件化灵活接入英伟达、华为、海光等6家AI芯片,拓展ONNX、SYCL等更多编程范式,支持泛AI应用的跨芯迁移。二是性能升级,新增对标CUDA的DNN、BLAS等高性能计算库,提供图算融合编译优化能力,实现性能大幅提升,当前应用跨架构迁移损耗已降低至10%以内;三是效率升级,构建面向智算应用的“跨架构软件工厂”,提供统一开发、调试、优化、部署、迁移全生命周期服务能力,缩短应用开发、上线时间,提升整体研发效率。当前,“芯合”算力原生基础软件栈2.0已实现泛AI应用在英伟达、intel、华为、瀚博、天数智芯、海光6家智算芯片间的一键式跨芯流转迁移,源源转换效率>95%,迁移性能损耗<10%,迁移时间<20s,已具备规模商用条件,未来将在提升智能算力网络自主可控水平方面发挥重要作用。
未来,中国移动将继续秉持开放合作的态度,与产业各界合作伙伴一起攻关,进一步完善“芯合”算力原生平台功能,支撑更多业务场景、融通更多异构芯片,推动商用落地,真正打造以基础软件栈引领智算生态建设的全“芯”发展范式,全面支撑我国算力强国战略落地。