

近期,Inflection AI 宣布,其训练大型语言模型的算力资源已扩展,除了继续使用 Nvidia 的 GPU 外,还将采用 Intel 的 Gaudi3 加速器。此举意味着该公司在人工智能领域的投入力度进一步加大,致力于提升其 AI 产品“Pi”的性能,而此前主要依赖 Nvidia 的 GPU。据了解,Inflection 3.0 将充分利用 Gaudi3 的性能,并有望部署在联手构建的 Tiber AI Cloud 上。
Inflection AI 成立于 2022 年,其愿景是为大众打造一款友好的 AI 助手,即 Pi。该公司由资深人士 Mustafa Suleyman 和 Karén Simonyan 联合创立,他们均在人工智能领域拥有丰富的经验,致力于开发更具个性化和实用性的 AI 应用,从而提升用户体验。
Inflection 3.0 是该公司最新的语言模型,旨在提供更卓越的性能。通过采用先进的架构,它能够更好地理解和生成自然语言,为用户提供更智能的 AI 交互体验。重要的是,Intel 也积极参与了这一进程,并提供了相应的硬件支持,表明双方在技术创新上的合作不断深化。
值得一提的是,Inflection 选择了在 Gaudi3 加速器上进行部署,这反映了其对该硬件性能的高度认可。此外,Inflection 2.5 也将在 Intel 的 Tiber AI Cloud 上运行。预计到 2025 年,Inflection 将扩大与 Intel 在 AI 加速器领域的合作,共同推动人工智能技术的发展。
选择 Gaudi3 加速器,意味着 Inflection 在算力基础设施上实现了多元化。Inflection AI 首席科学家 Sean White 表示,通过与 Intel 的合作,他们能够为客户提供更具成本效益的算力解决方案。Gaudi3 在性能和效率上均能与 Nvidia 的 H100 相媲美,因此备受青睐。
Gaudi3 的关键技术指标包括:拥有 128GB 的 HBM2e 内存,带宽高达 3.7Tbps,以及提供 1,835 teraFLOPS 的 FP8 和 BF16 算力。在集群配置中,Gaudi3 的训练性能与 H100 相当,这为 Inflection 提供了更多的选择和灵活性,有助于其优化模型训练的成本效益。
总而言之,Intel 正在积极推动 Gaudi3 加速器的发展,并计划于 2025 年将其推向更广泛的市场。Gaudi3 加速器有望在高性能计算领域发挥重要作用。
核心要点:
📌 Inflection AI 采用 Nvidia GPU 和 Intel 的 Gaudi3 加速器。
🚀 Inflection 3.0 将利用 Gaudi3 的强大性能,用于 AI 模型训练。
💰 选择 Gaudi3,Inflection AI 旨在实现更具成本效益的算力解决方案。