通常情况下,大型语言模型能够正确回答大约 90% 的问题,但同时也会生成具有误导性或无意义的答案。 然而,大约 9% 的情况下,这些模型可能会给出不正确但看似合理的答案。 如果您依赖 AI 生成内容,那么区分真实信息和虚假信息至关重要,因为高质量的生成内容可能包含不准确的细节。Cognizant 的研究人员强调了当前生成式人工智能工具面临的挑战,他们最近发布了 Synapse 报告,详细描述了事实性、偏见和稳健性问题。