沙特阿美联手 Groq,打造全球最大AI推理中心

6个月前发布AI俱乐部
4 0 0
沙特阿美联手 Groq,打造全球最大AI推理中心的封面图

近来,备受瞩目的AI芯片公司Groq获得了沙特阿拉伯国家石油公司(沙特阿美)领投的一笔重要投资,进一步巩固了其在人工智能计算领域的地位。这笔资金将被用于支持Groq持续创新,并扩大其业务规模。

据Groq的首席执行官乔纳森·罗斯表示,这笔融资将有助于公司满足日益增长的市场需求,目前他们已向客户交付了超过19,000个芯片处理单元(LPU)。

相关阅读:英伟达AI霸主地位,英伟达加速没落Midjourney

据估计,未来可能需要超过20万个LPU。Groq成立于2016年,专注于开发人工智能工作负载的专用芯片,其LPUs旨在通过提供卓越的计算性能来加速人工智能模型的训练和推理。

Groq的独特之处在于它专注于构建能够提供极速计算能力的人工智能芯片。该公司声称其解决方案可以显著加速大型语言模型的推理过程,从而在特定应用中实现更快的响应时间。凭借沙特阿美的资金支持,Groq有望加速其技术发展,并在人工智能计算领域占据更大的市场份额。该公司表示,这笔投资将有助于推动下一代人工智能基础设施的创新,并满足不断增长的需求。

Groq强调其架构旨在应对传统芯片在处理复杂人工智能工作负载时遇到的瓶颈,从而提升整体性能。相较于传统GPU,其芯片在处理特定任务时能够提供高达100倍的提速。

在最近的一次演示中,Groq展示了其能够以6.4tokens/秒的速度运行Llama 2 70B模型,而延迟仅为28毫秒。这种卓越的性能使得大型语言模型能够更高效地应用于实时对话等场景。Groq的LPUs旨在与Nvidia在AI推理领域的地位相抗衡,并在性能和能效方面提供更具竞争力的替代方案,从而挑战Nvidia的主导地位。

总而言之,这笔来自沙特阿美的投资将极大地推动Groq的发展,使其能够在人工智能芯片领域持续创新并扩大市场份额。

要点总结:

- ✨ Groq获得了沙特阿美公司的投资,用于支持其在人工智能计算领域的发展,目前已交付超过19,000个LPU。

- 💰 Groq专注于加速人工智能模型的推理过程,从而实现更快的响应时间,并已获得资金支持。

- 💡 Groq致力于开发能够应对复杂人工智能工作负载的专用芯片,据称其性能可媲美20万个LPU,从而推动AI创新。

快讯中提到的AI工具

Midjourney
Midjourney

开启 AI 绘画的奇幻之旅

© 版权声明:
本文地址:https://aidh.net/kuaixun/3bmcv4fj

暂无评论

none
暂无评论...