《电子技术应用》
您所在的位置:首页 > 人工智能 > 业界动态 > 美光 MRDIMM 创新技术打造最高性能、低延迟主存,为数据中心工作负载加速

美光 MRDIMM 创新技术打造最高性能、低延迟主存,为数据中心工作负载加速

突破性的美光 MRDIMM 具备高达 256GB 容量和 40% 更低延迟,赋能 AI 及 HPC 等内存密集型应用
2024-07-24
来源:美光科技股份有限公司
关键词: 美光 MRDIMM AI

  2024 年 7 月 18 日,中国上海 — 美光科技股份有限公司(纳斯达克股票代码:MU)近日宣布,已出样多路复用双列直插式内存模块(MRDIMM)。该款 MRDIMM 将赋能美光客户应对日益繁重的工作负载,从而最大化计算基础设施的价值。对于需要每个 DIMM 插槽内存超过 128GB 的应用,美光 MRDIMM 提供最高带宽、最大容量、最低延迟以及更高的每瓦性能,在加速内存密集型虚拟化多租户、高性能计算和 AI 数据中心工作负载方面,表现优于当前的 TSV RDIMM。1 该款全新内存产品为美光 MRDIMM 系列的首代,将与英特尔® 至强® 6 处理器兼容。

  美光副总裁暨计算产品事业群总经理 Praveen Vaidyanathan 表示:“美光最新的创新主存解决方案 MRDIMM 为下一代服务器平台提供了亟需的带宽和容量,并降低了延迟,旨在扩展 AI 推理和高性能计算应用。MRDIMM 在提供与 RDIMM 相同的可靠性、可用性、适用性和接口的同时,显著降低了每项任务的能耗,为客户带来了性能可扩展的灵活解决方案。美光与业界的紧密合作,确保该解决方案能与现有服务器基础设施无缝集成,并顺利过渡到未来的计算平台。”

  通过实施 DDR5 的物理和电气标准,MRDIMM 实现了内存技术的突破,使单核心的带宽和容量得以扩展,为未来的计算系统提供坚实保障,并能满足数据中心工作负载日益增长的需求。与 RDIMM 相比,MRDIMM 具有以下优势:2

  ·有效内存带宽提升高达 39%2

  ·总线效率提升超过 15%2

  ·与 RDIMM 相比,延迟降低高达 40%3

  MRDIMM 支持从 32GB 到 256GB 广泛的容量选择,涵盖标准型和高型外形规格(TFF),适用于高性能的 1U 和 2U 服务器。得益于 TFF 模块优化的散热设计,在同等功耗和气流条件下,DRAM 温度可降低高达 20 摄氏度,4为数据中心带来更高效的散热,并优化内存密集型工作负载的总系统任务能耗。美光凭借业界领先的内存设计和制程技术,在 256GB TFF MRDIMM 上采用 32Gb DRAM 芯片,实现了与采用 16Gb 芯片的 128GB TFF MRDIMM 相同的功耗表现。在最大数据传输速率下,256GB TFF MRDIMM 的性能比相同容量的 TSV RDIMM 提升 35%。5与 TSV RDIMM 相比,使用 256GB TFF MRDIMM,数据中心可以获得前所未有的总体拥有成本(TCO)优势。

  英特尔副总裁兼数据中心至强 6 产品管理总经理 Matt Langman 表示:“借助 DDR5 接口和技术,MRDIMM 实现了与现有英特尔® 至强® 6 处理器平台的无缝兼容,为客户带来了更高的灵活性和更多选择。MRDIMM 为客户提供全面的选项,包括更高的带宽、更低的延迟以及多样的容量规格,适用于高性能计算、AI 及多种工作负载,且这一切均在同一支持标准 DIMM 的英特尔® 至强® 6 处理器平台上实现。我们的客户将从美光广泛的 MRDIMM 产品组合中受益,这些产品涵盖从 32GB 到 256GB 的不同容量,包括标准和高型两种外形规格,并将与英特尔® 至强® 6 平台进行验证。”

  联想集团副总裁兼人工智能和高性能计算总经理 Scott Tease 表示:“随着处理器和 GPU 供应商提供的产品核心数呈指数级增长,所需的内存带宽却未能跟上这一趋势,以满足系统性能平衡的需求。针对内存密集型任务,如 AI 推理、AI 再训练以及众多高性能计算工作负载,美光 MRDIMM 将助力缩小带宽差距。我们与美光的合作愈发紧密,致力于为我们共同的客户提供平衡、高性能、可持续的技术解决方案。”

  美光 MRDIMM 现已开售,并将于 2024 年下半年批量出货。后续几代 MRDIMM 产品将继续提供比同代 RDIMM 高 45% 的单通道内存带宽。6

  1基于 GNR-AP 平台,使用英特尔 Memory Latency Checker(MLC)工具,针对 MRDIMM(经验数据为 8800MT/s)和 TSV RDIMM(预估数据为 6400MT/s)在不同内存时钟下的只读带宽数据进行测试。

  2基于英特尔 Memory Latency Checker(MLC)工具,对 128GB MRDIMM 8800MT/s 与 128GB RDIMM 6400MT/s 进行经验数据对比测试。

  3基于经验得出 Stream Triad 数据,对 128GB MRDIMM 8800MT/s 与 128GB RDIMM 6400MT/s 进行对比。

  4最高 DRAM 温度模拟对比:1U 服务器机箱中的标准外形规格(SFF)DIMM 与 2U 服务器机箱中的高型外形规格(TFF)MRDIMM。

  5基于 GNR-AP 平台,使用英特尔 Memory Latency Checker(MLC)工具,针对 MRDIMM (经验数据为8800MT/s)和当前一代 TSV RDIMM(预估数据为6400MT/s)在不同内存时钟下的只读带宽数据进行测试。

  6基于 MRDIMM 相对于 RDIMM 的预期未来速率,数据传输速率将有所提升。




更多精彩内容欢迎点击==>>电子技术应用-AET<<

3952966954c9c6c308355d1d28d750b.jpg

本站内容除特别声明的原创文章之外,转载内容只为传递更多信息,并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题,请及时通过电子邮件或电话通知我们,以便迅速采取适当措施,避免给双方造成不必要的经济损失。联系电话:010-82306118;邮箱:aet@chinaaet.com。