

Meta近期推出了一种名为Meta LLM编译器(Meta Large Language Model Compiler)的新技术,它代表着一种创新的编译方法。实验结果表明,在神经网络任务中,LLM编译器通过快速反向传播(FTD)技术,在端到端延迟方面实现了高达5.24%的性能提升,甚至超越了优化后的-Oz设置,与GPT-4 Turbo相比,也有0.03%的优势。
Meta LLM主要服务于Meta Code Llama模型的编译,支持7B和13B两种参数规模。在代码生成任务上,LLM编译器利用FTD技术,获得了0.96的BLEU评分提升,这一成绩也优于GPT-4 Turbo的0.43。
快讯中提到的AI工具

GPT-4
OpenAI 发布的最新一代语言模型
© 版权声明:
文章版权归作者所有,未经允许请勿转载。
本文地址:https://aidh.net/kuaixun/1g1m205o暂无评论...