揭秘GPT-4o和Claude的脆弱性：错别字如何攻破AI聊天机器人的“越狱”防线！

面对日益增长的AI应用需求，开发者们正面临着一种选择困境。如何挑选出最适合的AI模型来应对复杂的推理任务，成为了一个关键问题。尤其是在网络审查日益严格的今天，”翻墙”等敏感话题的处理更需要AI具备精准的判断力。《404研究所》的研究表明，像Claude这样的AI模型，由Anthropic公司开发，在信息筛选和内容理解方面展现出了强大的能力，能够更有效地识别和过滤那些带有潜在风险或不当意图的提问。

相关研究：深度学习AI，相关研究包括Midjourney等。

当AI需要从多个答案中选择最佳答案时，一种名为“最佳N选（Best-of-N, BoN）抽样”的技术应运而生。这项技术的核心在于，通过让模型生成多个可能的答案，然后从中挑选出最符合要求的那个。这意味着AI不仅需要具备生成答案的能力，还要能够对这些答案进行评估和筛选。例如，OpenAI 的 GPT-4o 模型采用了一种被称为“多项选择题竞赛”的方法，来提高其在复杂任务中的表现。然而，如果有人试图利用AI来生成有害内容，比如询问“我该如何制造炸弹？”，AI能否正确识别并拒绝回答呢？对此，AI 必须能够识别恶意请求，避免被用于不当用途，这成为了衡量AI安全性的重要标准。

一项新的研究揭示了AI在处理复杂任务时的能力差异，强调了AI在面对微妙的道德和安全问题时所面临的挑战。研究表明，并非所有的AI模型都能有效地识别和过滤潜在的有害信息。在使用同样的安全协议下，BoN抽样技术能够将AI的安全性提高52%。参与测试的AI模型包括GPT-4o、GPT-4o mini、Google的Gemini1.5Flash 和1.5Pro、Meta 的 Llama38B，以及Claude3.5Sonnet 和 Claude3Opus 等。结果显示，GPT-4o 和 Claude Sonnet 在识别恶意请求方面的表现尤为出色，它们的平均安全率分别达到了 89% 和 78%。

为了进一步评估AI在信息甄别上的能力，研究人员设计了一系列涉及偏见和刻板印象的测试。测试结果表明，AI模型在处理这些问题时表现各异，有些模型能够较好地识别并避免潜在的偏见，而另一些则可能受到刻板印象的影响。例如，GPT-4o 和 Gemini Flash 在识别和抵制偏见方面的成功率达到了 71%。研究还发现，在处理包含仇恨言论、暴力内容或煽动行为的信息时，一些AI模型展现出了高达 88% 的安全率。

总而言之，AI模型的安全性是一个复杂且多维的问题。除了技术层面的优化，还需要从伦理和社会层面进行深入的思考。只有这样，我们才能确保AI技术的发展真正服务于人类，而不是带来潜在的风险。