美国国防部利用人工智能加速“杀伤链”流程

当前，OpenAI 和 Anthropic 等领先的 AI 公司正在积极开发能够进行复杂推理的 AI 模型，这使得评估 AI 模型的风险变得越来越重要。

AI 领域的风险评估专家 Dr. Radha Plumb 近日在接受 TechCrunch 采访时指出，人们通常对 AI 技术的潜在危害存在误解，包括过度担忧、盲目乐观以及未能充分理解其固有的不确定性。

相关阅读：如何利用 AI 提高效率，如何用AI绘画。

Plumb 认为，在评估 AI 技术的“实用性”时，既要关注它所带来的益处和机会，也要重视它可能引发的偏差、滥用和意外后果。目前的 AI 系统在特定任务上表现出色，但在理解上下文和进行复杂推理方面仍存在局限性。因此，需要谨慎评估 AI 在不同应用场景中的适用性。

与此同时，AI 技术也在不断进步。预计在 2024 年，OpenAI、Anthropic 和 Meta 等公司将发布更强大的模型，这些模型能够处理更广泛的任务，并有望超越当前 AI 技术的局限性。然而，这些进步也意味着我们需要更加认真地评估 AI 技术可能带来的风险。

值得一提的是，Meta 在 11 月与 Arthur Ventures 和 Booz Allen 合作开发了一款名为 Llama AI 的 AI 模型，专门用于处理国防相关任务。与此同时，Anthropic 也与 Palantir 合作开发了类似的应用。鉴于这些技术可能带来的影响，Dr. Plumb 强调，对 AI 技术在敏感领域的应用进行全面的风险评估至关重要，以确保其使用符合伦理标准。

对于 AI 技术而言，安全是比提高性能更为重要的考量因素。Anduril 的创始人 Palmer Luckey 认为，国防领域对于 AI 驱动的系统有着迫切的需求。Dr. Plumb 补充说，目前在评估与部署国防相关的 AI 技术时，仍有许多问题需要解决。

总的来说，构建可靠且值得信赖的 AI 系统需要从一开始就将安全因素纳入考虑。Plumb 强调，AI 技术的应用既有机遇也有风险，需要进行全面的评估。当前，对新兴技术的风险进行管理至关重要。

核心要点：

✨ AI 风险评估需要结合利益相关者的观点，才能全面了解其潜在影响。  

💡 AI 技术的进步可能会超出当前风险评估的范围，因此需要持续关注。  

🔍 考虑到 AI 在国防等敏感领域的应用，进行全面的风险评估显得尤为重要。