

近日,OPPO Find X7系列旗舰手机正式发布,同时,OPPO还推出了其自研的端侧AI大模型 AndesGPT。该模型将被应用于 OPPO Find X7 系列,旨在提升手机的智能化水平,优化用户的使用体验。据了解,AndesGPT 大模型拥有 1800 亿、700 亿、70 亿三种参数规格,能够实现更全面的功能覆盖,从而优化各种场景下的使用体验。据悉,OPPO Find X7 系列将首发搭载 70 亿参数的 AndesGPT 模型,为用户带来更智能、便捷的使用体验。通过利用其强大的理解、生成及推理能力,AndesGPT 大模型旨在为用户提供更优质的体验,涵盖通话、摘要和创作等多个方面。具体来说,借助 SwappedAttention 技术,AndesGPT 能够在保证设备性能的前提下,大幅提升推理效率,进而优化端侧AI大模型的应用体验。在实际应用中,针对 200 字的摘要任务,其处理时间仅需 0.2 秒,效率提升高达 20 倍;而对于 2000 字的长文本摘要任务,其处理时间为 2.9 秒,效率提升也达到了 2.5 倍;此外,在文本生成方面,针对 14000 字的创作需求,其处理时间仅为 3.5 秒。相较于 10 亿参数的大模型,70 亿参数的 AndesGPT 在推理能力上有了质的飞跃。这意味着,用户不仅可以享受到更高效的本地化服务,还能体验到更具个性化和安全性的 AI 应用,无需担心数据泄露的风险。据称,该端侧AI大模型的训练,使用了超过 10 万个 tokens 的高质量数据。
© 版权声明:
文章版权归作者所有,未经允许请勿转载。
本文地址:https://aidh.net/kuaixun/h74dmq0r暂无评论...