联想携手燧弘华创搭建万全异构智算平台,DeepSeek极限吞吐超8000 tokens/s

内容摘要3月27日下午消息,异构智算产业生态联盟携手生态合作伙伴走进燧弘华创庆阳绿色智算中心,共同见证了DeepSeek大模型落地新突破,并围绕异构智算、DeepSeek大模型落地数据中心、超智融合等话题进行分享交流,共同探讨了异构智算与AI大模型

3月27日下午消息,异构智算产业生态联盟携手生态合作伙伴走进燧弘华创庆阳绿色智算中心,共同见证了DeepSeek大模型落地新突破,并围绕异构智算、DeepSeek大模型落地数据中心、超智融合等话题进行分享交流,共同探讨了异构智算与AI大模型的深度融合。

据介绍,在燧弘华创庆阳绿色智算中心,联想问天 WA5480 G3服务器搭载了第四代英特尔®至强®可扩展处理器。同时,联想搭建了万全异构智算平台。

联想中国基础设施业务群战略总监黄山表示,燧弘华创庆阳绿色智算中心携同联想万全异构智算平台突破算力瓶颈,通过访存优化、显存优化、PCIe 5.0全互联架构创新以及精选SGLang框架中性能最优算子等创新方式,将单机服务器运行大模型的性能再创新高,3000并发下总吞吐量超8000 tokens/s,持续提升DeepSeek满血版用户体验。

 
举报 收藏 打赏 评论 0
今日推荐
浙ICP备2021030705号-9

免责声明

本网站(以下简称“本站”)提供的内容来源于互联网收集或转载,仅供用户参考,不代表本站立场。本站不对内容的准确性、真实性或合法性承担责任。我们致力于保护知识产权,尊重所有合法权益,但由于互联网内容的开放性,本站无法核实所有资料,请用户自行判断其可靠性。

如您认为本站内容侵犯您的合法权益,请通过电子邮件与我们联系:675867094@qq.com。请提供相关证明材料,以便核实处理。收到投诉后,我们将尽快审查并在必要时采取适当措施(包括但不限于删除侵权内容)。本站内容均为互联网整理汇编,观点仅供参考,本站不承担任何责任。请谨慎决策,如发现涉嫌侵权或违法内容,请及时联系我们,核实后本站将立即处理。感谢您的理解与配合。

合作联系方式

如有合作或其他相关事宜,欢迎通过以下方式与我们联系: