Meta AI安全系统被“空格”绕过，防线形同虚设！

近日，Meta 发布了一款名为 Prompt-Guard-86M 的防御系统，旨在提高大型语言模型的安全性，并有效抵御潜在的恶意提示。该系统专门用于过滤那些试图诱导语言模型生成不当或有害内容的信息。

Prompt-Guard-86M 是 Meta 公司为 Llama 3.1 模型构建的安全防线，旨在确保模型在生成内容时，能够避免出现有害或违规的情况。该安全措施可以有效识别并阻止各种规避技术，从而防止模型被用于生成恶意内容。通过这种方式，Prompt-Guard-86M 旨在减少模型被滥用的风险，确保输出内容的安全性。

实际上，开发可靠的人工智能模型需要一种多层防御机制，既要保证模型的安全，又要兼顾其性能。值得称赞的是，Meta 的 Prompt-Guard-86M 在应对某些类型的攻击方面表现出色。例如，当提示包含 “Ignore previous instructions” 等指示时，Prompt-Guard-86M 能够有效阻止恶意指令的执行，从而保障模型的安全运行。

据 Aman Priyanshu 介绍，他是 Meta 模型安全团队的一员，负责评估 Meta 模型及其他安全措施。Priyanshu 指出，Prompt-Guard-86M 能够显著提升防御能力，抵御各种提示攻击。他在 GitHub 上分享了相关的评估结果，展示了该系统在识别恶意提示方面的有效性，并鼓励社区成员积极参与模型的安全评估，共同提高模型的安全性。

Robust Intelligence 的研究员 Hyrum Anderson 也对该系统进行了评估，并表示该系统的提示防御能力并非百分之百有效。尽管如此，Prompt-Guard 仍然是提高 AI 模型安全性的重要一步，它能够有效应对某些类型的提示攻击。Meta 持续致力于提高模型的安全性，并积极与社区分享相关进展。

关键要点：

🔍 Meta 的 Prompt-Guard-86M 旨在通过过滤恶意提示来增强大型语言模型的安全性。

💡 尽管不能提供百分之百的保护，但它在防止某些类型的提示攻击方面非常有效。

⚠️ 必须持续改进和评估 AI 模型的安全性，以应对不断演变的威胁。