《电子技术应用》
您所在的位置:首页 > 人工智能 > 业界动态 > 三星为其AI数据中心2000万美元采购AMD MI300X芯片

三星为其AI数据中心2000万美元采购AMD MI300X芯片

2024-10-08
来源:芯智讯

0.png

10月7日,据viva100报道,三星电子最近购买了价值 2000 万美元的 AMD Instinct MI300X GPU,以满足其 AI数据中心的需求。

报道称,目前三星新购买的这批 AMD Instinct MI300X GPU,已被送往 DX 部门的领先机构 Samsung Research 进行测试。不过,三星尚未在其极限状态下对MI300X进行测试。据在三星工作的内部人士称,AI 开发进入全面测试状态还需要更多时间。

资料显示,AMD MI300X内部集成了12个5/6nm工艺的小芯片(HMB和I/O为6nm),拥有1530亿个晶体管。在内核设计上,采用了相比MI250X更多计算核心的 CDNA 3 GPU,其每个基于CDNA 3 GPU架构的XCD总共有八个计算芯片(XCD),每个计算芯片有40个计算单元,总共有320个计算单元,即20480个核心单元。不过量产版实际总共有304个计算单元(每个GPU小芯片38个CU),19456个流处理器。MI300X还配备了更大的 192GB HBM3内存(8个HBM3封装,每个堆栈为12 Hi)相比MI250X提高了50%,带来高达5.3TB/s的带宽和896GB/s的Infinity Fabric带宽。

根据AMD的说法,MI300X与英伟达的H100加速器相比,内存容量提高 2.4 倍,内存带宽提高 1.6 倍,FP16/FP8 TFLOPS算力是其1.3 倍。在 1v1 比较中,速度比 H100 (Llama 2 70B) 快达 20%;在 1v1 比较中,速度比 H100 (FlashAttention 2) 快达 20%。

从价格来看,公开资料显示,MI300X 的售价约15000美元,而英伟达H100售价高达30000美元。而报道称,三星此次大规模采购的MI300X的价格仅为10000美元,只有英伟达H100的1/3,确实非常实惠。

虽然此前的一些公开测试显示,MI300X在部分AI工作负载性能方面落后于英伟达H100,但三星电子最近在对于MI300X的一些测试显示,MI300X性能与英伟达H100相当,更何况MI300X价格也更为实惠。

值得注意的是,三星电子最近也向AMD提供了其新的HBM3E内存进行测试,希望AMD将其用于其 Instinct GPU 系列。而在此之前,三星电子的HBM3E 内存已经通过了英伟达GPU的认证。预计三星未来将继续从 AMD 购买 GPU,同时推动AMD采用三星的HBM3E内存。据一位三星电子的高管称,预计两家公司之间的联系将进一步加强。


Magazine.Subscription.jpg

本站内容除特别声明的原创文章之外,转载内容只为传递更多信息,并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题,请及时通过电子邮件或电话通知我们,以便迅速采取适当措施,避免给双方造成不必要的经济损失。联系电话:010-82306118;邮箱:aet@chinaaet.com。