兆芯平台全系列整机,已成功适配并部署 DeepSeek R1 大模型

上海兆芯集成电路股份有限公司于近日发布公告,宣布其基于兆芯高性能通用处理器的个人电脑终端、工作站及服务器已成功实现 DeepSeek-R1-Distill 模型(涵盖 1.5B、7B、32B、70B 及 671B 等多种参数规模)的本地部署

兆芯平台全系列整机,已成功适配并部署 DeepSeek R1 大模型

据介绍,兆芯通用处理器具备覆盖笔记本电脑、台式机、工作站及服务器的全面硬件解决方案能力,并原生支持以 Linux、Windows、国产操作系统及国产 GPU 加速卡为基础的 DeepSeek 大模型生态系统。

  • KX-7000 台式机:已成功实现 DeepSeek-R1-7B 模型的本地部署。
  • KH-40000/16 工作站:已成功部署 DeepSeek-R1-32B 模型。
  • KH-40000/32 双路服务器:支持 DeepSeek R1 671B 模型的本地部署。
兆芯平台全系列整机,已成功适配并部署 DeepSeek R1 大模型

AI工具库从兆芯官方获悉,为更有效地测试服务器与 DeepSeek-R1-671B 大模型的兼容性,兆芯在未插入任何外部加速卡的情况下,已基于开胜 KH-40000/32 处理器完成了 DeepSeek-R1-671B 大模型的本地部署,从而完整验证了兆芯服务器 CPU 架构对承载千亿参数模型的硬件支撑能力。

© 版权声明

相关AI热点

暂无评论

none
暂无评论...