xAI与英伟达联手打造,全球最强AI训练集群Colossus正式上线

5个月前发布AI俱乐部
3 0 0
xAI与英伟达联手打造,全球最强AI训练集群Colossus正式上线的封面图

今天,NVIDIA宣布,xAI正在构建一个名为Colossus的大型计算集群,旨在支持下一代AI模型Colossus,该集群将由10万个NVIDIA Hopper GPU组成。

据介绍,该架构还将采用NVIDIA Spectrum-X以太网结构,专为加速生成式AI而设计。该结构能够实现高性能、高效率的AI训练和推理,从而显著提升数据处理速度。

据悉,Colossus将用于训练xAI的Grok大型语言模型,该模型已向X Premium订阅者开放使用。有消息称,xAI计划未来进一步扩展Colossus的规模,最终达到20万个NVIDIA Hopper GPU。

NVIDIA网络部门高级副总裁Gilad Shainer表示,AI计算正在推动网络技术的发展,需要更高的性能、可扩展性、可靠性和更强的安全性。Spectrum-X以太网旨在帮助像xAI这样的公司构建和扩展其基础设施,满足其不断增长的AI工作负载需求,并加速创新。

值得一提的是,Colossus是目前世界上最大的计算集群之一,它将帮助xAI和NVIDIA解决在AI领域所面临的复杂挑战。而如果一切顺利,Colossus的最终规模可能会超过19艾字节。

在这个计算集群的构建中,Spectrum-X以太网能够提供400Gbps的带宽,从而显著提升整体性能。这种高性能特性能够加速数据处理和通信,满足大规模AI训练的需求。此外,Spectrum-X还能提供卓越的可扩展性,从而满足不断增长的AI计算需求。

Colossus的部署将有助于推动AI领域的创新,特别是在大规模语言模型训练方面。同时,Spectrum-X也在不断发展,将为未来的AI应用提供更强大的支持。

关键要点:

✨ Colossus计算集群将由100,000个NVIDIA Hopper GPU组成,用于训练大型语言模型,未来可能扩展到200,000个GPU。

💡 Spectrum-X以太网提供400Gbps的带宽,优化了数据处理和通信,适用于大规模AI训练。

🚀 该架构的可扩展性使其能够满足不断增长的AI计算需求。

快讯中提到的AI工具

xAI
xAI

探索科学与宇宙奥秘的AI公司

© 版权声明:
本文地址:https://aidh.net/kuaixun/g18celk5

暂无评论

none
暂无评论...