《电子技术应用》
您所在的位置:首页 > 人工智能 > 业界动态 > 华为高管罕见公布昇腾AI算力性能近况

华为高管罕见公布昇腾AI算力性能近况

已超过英伟达A100
2024-06-19
来源:钛媒体

华为高管近期罕见公布昇腾 AI 算力的性能情况。

钛媒体 App 6 月 17 日消息,近期举行的 2024 世界半导体大会暨南京国际半导体博览会的一场分论坛上,江苏鲲鹏 · 昇腾生态创新中心首席运营官王陶透露,昇腾集群是国内唯一已完成训练千亿参数大模型的技术路线,性能已经超过了英伟达 A100

王陶表示,中国大模型里面,有近 50%(1/2)选择了昇腾技术路线。与英伟达 A100 相比,昇腾 AI 芯片在训练效率层面最高是英伟达的 1.1 倍。尤其在训练 Meta Llama、BloomGPT 等模型方面,昇腾 AI 算力训练效率大大优于英伟达 A100,甚至 10 倍领先其他国产友商。

" 经过三年的实验检验,中国大模型总数的 1/2 选择的昇腾技术路线。昇腾现在已经是国产化大模型的第一选择。而我们经过测试,互联网头部厂商科大讯飞也用了华为的万卡集群,跟英伟达 A100 的相比,我们能达到 A100 的 0.8~1.2 倍的效率,在跟英伟达相比(指 0.8 倍)的确还是有一定的差距,但是在大模型训练这一块,(我们)跟英伟达 A100 芯片相比已经没有明显差距,特别是在万卡算力集群,包括在鲲鹏云脑、科大讯飞这一块都经过了市场检验。" 王陶称。

1.jpg

这是华为高管非常罕见的回应昇腾 AI 算力性能与英伟达 A100 之间的优势。

据悉,昇腾和鲲鹏分别是华为面向通用计算和智能计算的两款算力产品,是华为 AI 计算生态里面的关键技术系列。

公开信息显示,江苏鲲鹏 · 昇腾生态创新中心成立于 2019 年 8 月,是南京江北新区与华为联合宣布发展鲲鹏计算产业后成立的创新机构。王陶称,创新中心的使命就是基于华为的鲲鹏、昇腾技术,联合生态伙伴赋能千行百业进行数字化转型。

最新年报显示,2023 年,华为公司共实现营收 7042 亿元(人民币,下同),同比增长 9.6%;净利润 870 亿元,同比大增 144%。同时,华为重视研究与创新,2023 年研发投入达到 1647 亿元,占全年收入的 23.4%,十年累计投入的研发费用超过 1.11 万亿元。

实际上,华为从 2018 年开始大规模投入 AI 算力和模型:

2018 年 10 月,华为全栈全场景 AI 解决方案发布。

2019 年 9 月,全球最快 AI 训练集群 Atlas 900 发布。

2020 年 3 月,全场景 Al 计算框架 MindSpore 正式开源。

2020 年 10 月,鹏城云脑 II E 级算力集群业务上线。

2020 年起,华为提出大算力,孵化大模型,带动大产业。基于昇腾鲲鹏,华为联合生态伙伴孵化了 20 多家的大模型,包括鹏程实验室的鹏程云脑大模型、紫东紫东太初、华为盘古大模型等。

2021 年 5 月,武汉人工智能计算中心 1 期 100PFLOPS 建成投入运行。

2023 年 9 月,华为发布了支持万亿参数大模型训练和推理的算力集群方案。

王陶指出,基于华为自研的 AI 算力,从底层的 Atlas 硬件到算子库,再到上层的开发工具链,昇腾在大模型推理、训练两个方面均提供一整套解决方案,包括开发套件、基础加速库等。而在开发速度上,基于昇腾方案,客户大大缩短开发周期,在典型场景下推理性能提高 1.5-3 倍,实现更强的业务协同。

算力层面,目前,华为在全国 20 多个城市建设昇腾人工智能计算中心,超过 2500PFlops(每秒运算能力为 2500 千万亿次)普惠 Al 算力。

据悉,国内上线及试运营的计算中心城市包括深圳、武汉、西安、许昌、南京、 成都、杭州、沈阳、重庆、天津、宁波、广州、青岛、北京、大连、上海、无锡、福州、合肥;待上线城市包括昆明、长沙、廊坊、南宁、贵阳、 长春、南昌、济南。

华为透露,其智算集群使用率超过 90%。其中在南京,昇腾算力共有 140P,使用率 93%;武汉拥有 200P,使用率 95%+;深圳的算力使用率超过 99%;成都 98%;杭州 80%;沈阳 98%。

而目前,包括腾讯、百度在内的中国科技巨头以及科大讯飞等领先的初创公司都购买了 910B。

华为公司昇腾计算业务总裁张迪煊上个月透露,昇腾生态系统拥有 40 个硬件合作伙伴、超过 1600 个软件合作伙伴和超过 2900 个 AI 应用解决方案。

王陶则透露,华为鲲鹏在全国有 5100+ 合作伙伴,15800+ 解决方案,拥有开发者超过 310 万。

2.jpg

王陶强调,目前全球 AI 算力需求在加速,大算力支撑大模型,促进人工智能走向新阶段。而华为坚持硬件开放、软件开源、使能伙伴、发展人才,推动生态蓬勃向上。


Magazine.Subscription.jpg

本站内容除特别声明的原创文章之外,转载内容只为传递更多信息,并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题,请及时通过电子邮件或电话通知我们,以便迅速采取适当措施,避免给双方造成不必要的经济损失。联系电话:010-82306118;邮箱:aet@chinaaet.com。