Nvidia发布新款Dynamo软件,DeepSeek的AI速度将提升30倍​。

1个月前发布AI俱乐部
1 0 0
Nvidia发布新款Dynamo软件,DeepSeek的AI速度将提升30倍​。的封面图

在3月18日举行的GTC大会上,Nvidia首席执行官黄仁勋宣布了一项引人注目的计划,旨在通过新推出的软件Dynamo,将DeepSeek的人工智能处理速度提高30倍。这一举措是Nvidia对DeepSeek公司R1人工智能程序引发的市场波动做出的回应。DeepSeek的技术可以显著降低每次查询所需的计算量,导致投资者对Nvidia未来的前景感到担忧。

Nvidia的Dynamo软件可以将AI推理任务并行分配到多达1000个GPU上,极大地提升了查询吞吐量。黄仁勋表示,借助新的Blackwell芯片,Dynamo在相同架构下实现了30倍的处理能力提升。这种能力提升使得AI数据中心可以在每秒内处理更多的标记,从而提高整体收入。

具体而言,Dynamo软件以每百万个标记1美元的价格,提高了每秒的处理量。这意味着,服务提供商可以选择同时处理更多客户的查询,或者为单一用户提供更强大的服务,从而收取更高的费用。Nvidia将这种高性能的AI服务称为“AI工厂”。

为进一步提升DeepSeek的性能,Nvidia在HuggingFace上发布了经过调整的DeepSeek R1版本。该版本采用了计算位数更少的“FP4”,在不显著降低模型准确性的前提下,大幅提升了性能。

除了Dynamo,Nvidia还推出了最新版本的Blackwell芯片“Ultra”,提升了内存容量和整体性能。此外,Nvidia还正式发布了供AI开发者使用的小型个人计算机DGX Spark,并更新了DGX Station桌面计算机的配置。

在本次大会上,Nvidia还展示了其他多项新产品和合作项目,包括改进的网络交换机和适用于医疗机器人的软件模型,展示了Nvidia在AI和计算领域持续创新的能力。

快讯中提到的AI工具

DeepSeek
DeepSeek

深度求索:引领未来人工智能技术的探索与创新

© 版权声明:
本文地址:https://aidh.net/kuaixun/mtgm5n4o

暂无评论

none
暂无评论...