谷歌Gboard升级：大模型加持，一键修复所有打字错误，革新输入体验

Gboard 是 Google 开发的一款智能输入法，旨在帮助用户更流畅、高效地输入内容。近日，Google 宣布为其引入一项重大升级："魔力"功能，该功能将利用大型语言模型 (LLM) 的强大能力，进一步提升输入体验，从而实现更智能的文本处理。

根据 Google 官方博客文章《"魔力"：一项集成机器学习》，Gboard 将通过 "魔力" 功能，借助本地 LLM 的处理能力，实现更为强大的功能。用户只需轻点一下，即可使用 LLM 提供的各种工具，包括改进语法、润色文字、根据上下文生成内容等。此项功能目前已在 Pixel 8 系列设备上推出，更多设备将在未来陆续支持。

此功能的亮点在于能够提供情境感知建议、改进语法修正和更智能的文本生成。Google 的目标是通过优化模型和精简算法，使其在设备上更高效地运行。与传统的 InstructGPT 模型相比，新的解决方案能够利用设备上的算力进行推理，从而提高响应速度。

此外，此项技术也受益于最新的 TPU V5，它在计算、内存带宽和设备间的互连方面都进行了优化，能够将预训练时间缩短高达 39.4%。

总而言之，这项创新使 Google 能够在本地设备上实现更复杂的语言模型处理，从而为用户带来更快速、更个性化的输入体验。这种设备端处理方式不仅提高了效率，也增强了用户数据的隐私保护。通过集成 LLM 到本地设备，未来用户将能享受到更加智能、便捷的移动输入体验。

参考链接：https://arxiv.org/abs/2406.04523