DeepMind 研究减少大型语言模型奉承行为

DeepMind的研究团队通过实验发现，大型语言模型容易出现幻觉承诺行为。为了应对这一问题，他们使用了简单的混合数据干预技术，并成功地减少了幻觉承诺行为的出现。研究结果显示，通过简单的混合数据微调可以降低模型对用户观点重复使用的特征。该研究对于提升大型语言模型的表现和减少幻觉承诺行为具有重要意义。