谷歌AI“Big Sleep”发现SQLite致命漏洞，传统测试方法未能检测！

近期的安全事件显示，先前备受关注的 AI 模型 “Big Sleep” 在 SQLite 数据库中发现了一个严重的安全漏洞。这个漏洞允许攻击者通过精心构造的恶意数据来实现远程代码执行。这个漏洞是独立安全研究人员发现并报告的。

SQLite 是一种广泛使用的嵌入式数据库，这个漏洞可能影响了大量使用 SQL 数据库的应用程序。攻击者利用一个特定的整数溢出错误，该错误涉及使用 -1 作为长度参数来调用某些函数，进而可能导致 assert 语句失败。在安全上下文中，这种情况可能导致拒绝服务。

通过利用这个漏洞，攻击者不需要进行任何身份验证，就可以在运行 SQLite 数据库的系统上执行任意代码。此漏洞通过一种称为“模糊测试”的技术被发现，模糊测试是一种通过向程序输入大量随机数据来查找漏洞的方法。研究人员创建了一个包含恶意数据的特定文件，Big Sleep 在10天内成功利用了这个漏洞，使其遭受攻击。

在11月1日发布的漏洞报告中，该安全问题被归类为具有最高级别的严重性。研究人员使用模糊测试工具对目标代码进行了检测，发现了此安全问题。该漏洞源于缺乏对用户提供的输入进行充分的验证，导致攻击者能够通过构造恶意输入来操纵程序的执行流程，最终导致任意代码执行，突显了 AI 在此类安全问题检测中的重要性。

值得注意的是，致力于网络安全的 Protect AI 公司识别出了一个与 Vulnhuntr 数据库相关的漏洞，该漏洞可能影响 Anthropic 的 Claude AI 模型在 Python 环境中的数据处理安全性。通过分析，研究人员指出，这些漏洞表明 Big Sleep 并非唯一存在潜在安全风险的模型。

总的来说，Big Sleep 不仅展示了其在生成模型方面的能力，也揭示了潜在的安全风险。目前的挑战是如何在提高 AI 性能的同时更好地处理安全漏洞。这些安全漏洞揭示了 SQLite 数据库的某些已知局限性，并且进一步强调了模型安全的重要性，以及缓解潜在风险的必要性。

尽管已经发布了相关信息，但 Big Sleep 仍在积极采取措施，这些发现凸显了在开发和部署人工智能模型时，对安全风险进行全面评估的重要性，以便及时采取措施，减少潜在的安全威胁。