研究人员开发新型 LLM 越狱技术，突破成功率达 65%

近日，Palo Alto Networks 旗下 Unit42 研究团队发布了一份关于利用人工智能进行网络欺骗活动的深入报告，题为“虚假盛宴”。

这份报告聚焦于大型语言模型（LLM）在网络钓鱼活动中的潜在应用，并揭示了高达 65% 的 LLM 能够生成令人信服的网络钓鱼邮件。

Unit42 研究人员分析了超过 8000 个提示，这些提示旨在生成恶意网络钓鱼内容。研究发现，仅需少量提示，高质量的 LLM 便可生成恶意内容。这些内容包括网络钓鱼邮件的复杂主题，以及模仿特定品牌或个人的恶意信息。借助这些工具，攻击者可以创建高度个性化的、难以检测的网络钓鱼攻击，从而提高攻击的成功率。

具体而言，研究人员发现，借助 LLM 可以有效绕过传统的安全检测措施，从而提高网络钓鱼攻击的有效性。报告指出，LLM 生成的恶意内容能够成功通过安全检测的比例高达 65%，相较之下，传统网络钓鱼邮件的这一比例仅为 21% 到 33%。

此外，研究还发现，在评估的各个语言模型中，用于生成恶意代码的 API 调用成功率也高达 5.8%。这意味着，网络犯罪分子可以利用 LLM 快速生成大量的恶意代码，用于发动各种网络攻击。在 Unit42 分析的恶意软件样本中，首次发现的恶意软件比例高达 80.6%，表明 LLM 有助于攻击者快速创建新的、更难被检测到的恶意软件。

总之，Unit42 的研究强调了人工智能在网络欺骗活动中日益增长的影响。研究人员建议，企业应加强安全意识培训，提高员工识别和防范网络钓鱼攻击的能力，并及时更新安全防护措施，以应对 LLM 带来的新型网络安全威胁。通过采取积极的防御措施，企业可以最大限度地减少遭受网络攻击的风险。

主要发现:

🔍 “虚假盛宴” 报告表明，借助大型语言模型（LLM）可以生成令人信服的网络钓鱼邮件，成功率高达 65%。

📊 研究分析了超过 8000 个提示，结果显示仅需少量提示，LLM 生成的恶意内容的成功通过率高达 80.6%。

🛡️ 为有效应对网络欺骗活动，建议加强安全意识培训，并持续更新安全防护措施，以应对人工智能带来的安全挑战。