《电子技术应用》
您所在的位置:首页 > 人工智能 > 业界动态 > 兆芯全系整机成功部署DeepSeek-R1

兆芯全系整机成功部署DeepSeek-R1

双路64核跑满血671B
2025-02-25
来源:快科技

2月24日消息,兆芯官方宣布,基于兆芯处理器的PC笔记本/台式机终端、工作站、服务器,已经全系成功实现DeepSeek-R1 Distill模型的本地部署,涵盖1.5B、7B、14B、32B、70B、671B等各种参数规模。

操作系统方面,兆芯原生支持Linux、Windows、各家国产操作系统,并适配国产GPU AI加速卡

1.jpg

KX-7000台式机本地部署DeepSeek-R1-7B模型 

基于开先KX-7000桌面处理器的台式机,通过搭配国内显卡、加速卡,在本地成功部署DeepSeek-R1-7B模型,可充分发挥DeepSeek强大的语义理解和推理能力。

通过与WPS Word、Excel、VSCode等常用工具的整合,可以实现智能文档处理、数据处理、智能编程等功能。

2.png

智能文档处理

3.png

智能数据处理

4.png

智能编程

KX-7000是兆芯新一代的高性能桌面PC处理器,采用全新的“世纪大道”自主内核微架构,以及先进的Chiplet互连架构,集成8个CPU核心,共享32MB 三级缓存,最高工作频率可达3.7GHz。

KH-40000/16工作站部署DeepSeek-R1-32B模型

基于KH-40000/16服务器处理器的工作站“联和东海XRS302”,成功部署了DeepSeek-R1-7B、14B、32B模型。

该工作站配备了4块高性能的国产GPU推理加速卡,可提供高性价比、稳定高效的推理能力,而优化的CPU与多GPU间互连架构,可有效提升传输带宽,降低延迟。

它还采用了低功耗、静音设计,适合智能办公等桌面本地化AI推理场景。

5.png

联和东海XRS302 AI工作站

KH-40000/32双路服务器部署DeepSeek R1 671B模型

在服务器端,开胜KH-40000/32处理器可提供双路64核心的高性能计算能力,支持2TB海量内存,提供强大的扩展能力。

通过搭配国内加速卡,开胜KH-40000/32服务器已成功完成DeepSeek-R1-70B版本的适配和部署,适用于数学、编程、推理等应用领域。

6.jpg

兆芯服务器终端上成功部署DeepSeek-R1-70B版本

同时,针对满血的DeepSeek-R1-671B大模型,在不插入任何外界加速卡的情况下,开胜KH-40000/32处理器已经完成本地部署,完整验证了兆芯服务器CPU架构承载千亿参数模型的硬件能力。


Magazine.Subscription.jpg

本站内容除特别声明的原创文章之外,转载内容只为传递更多信息,并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题,请及时通过电子邮件或电话通知我们,以便迅速采取适当措施,避免给双方造成不必要的经济损失。联系电话:010-82306118;邮箱:aet@chinaaet.com。