微软创新Auto Evol-Instruct框架：大语言模型全自动演进指导数据集，摆脱人工干预

总体而言，一项名为 Auto Evol-Instruct 的创新技术问世，它是一套自动化 AI 增强方案，旨在通过自动演化指令来提升大型 AI 模型的性能，从而促进其发展。

在当今人工智能领域，大型语言模型（LLMs）发挥着关键作用，而优化这些模型使其更好地理解和执行复杂指令变得至关重要。指令微调是一种常用的技术，旨在提高 LLMs 的指令遵循能力，使其能够更准确地响应用户需求。

然而，传统的指令演化通常依赖于人工设计的复杂步骤，这不仅耗时，而且效率低下。Evol-Instruct 旨在通过迭代地改进指令来提升模型的性能。不同于手动设计，该方法能够自动生成新的指令，并根据模型的反馈不断优化，从而实现指令的自动化演化。这种方法允许 LLMs 通过自我学习和改进，自主适应更复杂的任务要求。

Auto Evol-Instruct 实现了自动化地迭代改进指令，它能够提升 LLMs 在处理指令方面的能力，从而提高其性能，使其能够更有效地完成各种任务。

在基准测试中，Auto Evol-Instruct 在多个任务上展现了卓越的性能。具体来说，它在10K指令的ShareGPT数据集上，利用Mixtral-8x7B模型，在MT-Bench上取得了8.09的评分，在AlpacaEval上取得了91.4的评分，均超越了GPT-3.5-Turbo和WizardLM-70B，甚至优于Claude2.0。

此外，该方法还利用7K指令的GSM8K推理数据集，在GSM8K上取得了82.49的评分。在代码生成方面，利用20K指令的Code Alpaca和DeepSeek-Coder-Base-33B模型，在HumanEval上取得了77.4的评分，超越了其他同类模型。

总而言之，这些结果表明，该技术在包括 MT-Bench、AlpacaEval、GSM8K 和 HumanEval 在内的多个基准测试中均表现出色，能够显著提高模型在指令遵循、推理能力和代码生成等方面的性能。

论文链接：https://arxiv.org/abs/2406.00770

关键摘要：

👉 Auto Evol-Instruct 是一种自动化的 AI 增强方法，通过演化指令来提高大型 AI 模型的性能。

✨ 通过自动迭代改进指令，可以提高模型性能，并促进 LLMs 在理解复杂任务时的优化。

💡 Auto Evol-Instruct 的实验结果表明，该方法能够有效提升 LLMs 的性能。