AMD Strix Point 超越 Lunar Lake:AI 性能劲增 27%

4个月前发布AI俱乐部
3 0 0
AMD Strix Point 超越 Lunar Lake:AI 性能劲增 27%的封面图

目前,AMD正积极开发下一代Strix Point APU,该处理器有望在本地运行AI大型语言模型(LLM),从而直接与英特尔即将推出的Lunar Lake处理器展开竞争。AI能力的提升将显著改善设备端的用户体验,减少对云端服务器的依赖。据称,AMD计划将其先进的AI加速技术集成到未来的处理器中,以实现在本地高效处理人工智能任务的能力。

AMD声称,其Ryzen AI 300系列的集成神经处理单元(NPU)在处理本地AI LLM任务时,能够以更高的速率生成Tokens,从而超越了英特尔的Core Ultra 258V。Ryzen AI9 375型号的性能据称比竞品高出高达27%。尽管Core Ultra 7V系列也具备一定的AI加速能力,但Lunar Lake处理器在AI性能方面将有显著提升,预计AMD将在功耗和效率方面继续保持优势。

AMD着重强调了LM Studio对多种开源大型语言模型的支持,包括llama.cpp等,这些模型都可以在本地设备上运行。与主要依赖x86 CPU进行AI计算的方式不同,AMD的GPU能够更有效地加速LLM的运行,从而充分利用GPU的并行处理能力。在一项演示中,Ryzen AI9HX375在运行Meta Llama3.21b Instruct模型时,能够以平均每秒50.7个Tokens的速度生成文本,而Core Ultra 7258V的速度为每秒39.9个Tokens。

值得一提的是,Strix Point APU集成了基于RDNA3.5架构的Radeon显卡,并针对Vulkan API进行了优化,从而显著提升了集成显卡(iGPU)在执行LLM任务时的性能。通过利用专用视频内存(VGM)技术,Ryzen AI300处理器能够在图形处理方面实现高达60%的性能提升。

在其他测试中,AMD展示了其在Intel AI Playground平台上的性能表现。Ryzen AI9HX375在Microsoft Phi3.1模型上的表现比Core Ultra 7258V高出87%,而在Mistral7b Instruct 0.3模型上的表现则高出13%。此外,预计即将推出的Lunar Lake处理器所搭载的Core Ultra 9288V也将具备强大的AI处理能力,有望在能效方面实现新的突破。总而言之,AMD致力于通过优化LM Studio等工具,为用户提供更高效、更便捷的本地人工智能体验,同时确保数据安全和隐私。

要点总结:

⭐ AMD Strix Point APU在AI LLM处理能力方面超越了Lunar Lake,性能提升高达27%。

✨ Ryzen AI9HX375在Meta Llama3.2模型上的文本生成速度达到了每秒3.5个Tokens。

🚀 LM Studio的优化使得在本地运行大型语言模型成为可能,并提升了数据安全性。

© 版权声明:
本文地址:https://aidh.net/kuaixun/n4b79q4c

暂无评论

none
暂无评论...