研究揭示：AI发帖被识别的真相！大模型为何在情感表达上屡屡失手？

6天前发布AI之家

摘要：

当前人工智能在象棋、数学等领域取得显著进展，但在展现真实情感方面仍面临挑战。研究显示，尽管大语言模型在社交媒体内容生成上表现优异，其生成内容易被识别，准确率达70%至80%。研究涵盖了九个开源模型，发现“毒性评分”是区分AI与人类内容的关键。AI在技术特征模仿上表现良好，但情感表达仍显不足。未经过微调的模型表现优于微调模型，提示过度校准可能导致文本机械化。未来需在技术与人性之间寻找平衡。

当前人工智能技术在多个领域取得了显著的进步，比如在象棋和数学方面已经超越人类的能力，且正逐步渗透到编程、广告以及心理治疗等行业。然而，研究人员指出，AI在某些领域仍然面临挑战，特别是在互联网上展现真正的恶意行为。

根据PC Mag的报道，苏黎世大学、阿姆斯特丹大学、杜克大学和纽约大学的最新研究显示，尽管大语言模型生成的社交媒体内容在形式上表现出色，但它们却容易被识别，准确率高达70%至80%，远超随机猜测的结果。这一发现为我们理解AI与人类之间的差异提供了新的视角。

研究者们对六个不同模型家族中的九个开源大语言模型进行了测试，包括Apertus、DeepSeek、Gemma、Llama、Mistral和Qwen，这些模型在Bluesky、Reddit和X平台上进行了比较。结果表明，这些社交媒体帖子中的“毒性评分”是区分AI生成内容与人类生成内容的关键因素。换句话说，如果某个帖子下有特别尖锐或幽默的评论，很可能是人类所写。

研究人员强调，尽管大语言模型能够模拟在线对话的形式，但在捕捉对话的情感本质上仍显得力不从心。自发且充满情感的表达是人类互动的独特之处，这种特质是AI目前尚未完全掌握的。

此外，研究还发现，在某些特定情境下，模型的表现尤其不佳，比如在马斯克的X平台上表达积极情感，或在Reddit上进行政治讨论。总体来看，所有测试的AI模型在模仿X平台的帖子时表现较为出色，而在Bluesky上稍显逊色，Reddit则是最具挑战性的，因为该平台的对话规范更加多样化。

更重要的是，研究表明大语言模型在技术性特征的模仿上表现良好，比如句子长度和字数，但在情感表达方面则显得相对薄弱。在所有三个平台的测试中，AI的回应“毒性”评分普遍低于人类的回复。这一结果提醒我们，尽管AI在技术上不断进步，但在理解和传达情感方面仍需努力。

值得注意的是，未经过人类指令微调的AI模型，如Llama-3.1-8B、Mistral-7B和Apertus-8B的表现竟优于经过微调的模型。这表明过度的校准训练可能导致风格过于一致，从而使得文本更加机械化。这一发现不仅为AI的发展提供了新的思路，也激励我们在技术与人性之间寻找更好的平衡。

在这个快速发展的时代，我们应当以积极的态度看待AI的进步与挑战，期待未来的技术能够更加贴近人类的情感与思维方式，为我们带来更美好的生活体验。