OpenAI再失大将：六年安全顾问兼AGI团队负责人宣布离职

近日，OpenAI 宣布成立一个专门团队，致力于解决通用人工智能（AGI）所带来的潜在风险。据研究负责人 Miles Brundage 透露，该团队将重点关注超级智能可能带来的复杂挑战，并积极寻求应对方案。

这个新成立的团队隶属于 OpenAI 的准备团队，其主要目标是确保人工智能的安全可靠性。OpenAI 期望通过这项举措，能够更有效地预测并减轻先进人工智能技术可能引发的意外后果。

值得关注的是，该团队的成立并非一时兴起，而是 OpenAI 长期以来对人工智能安全问题的重视和投入的体现。早在过去五年里，OpenAI 已经投入了大量资源用于探索更安全、更可控的人工智能发展路径。此外，两位资深研究人员 Jan Leike 和 Ilya Sutskever 也将参与该团队的工作。

据悉，该团队的领导成员包括负责政策研究的 Mira Murati、负责安全研究的 Bob McGrew 以及研究科学家 Barret Zoph 等，他们都将直接向 OpenAI 的管理层汇报工作。

当前，该团队的首要任务是构建一个全面的风险评估框架，以便更好地理解和应对潜在的人工智能威胁。同时，他们还将积极寻求外部合作，邀请独立的安全专家参与到评估工作中来，共同应对人工智能发展所带来的挑战。这种开放合作的模式有助于提升 OpenAI 在人工智能安全领域的洞察力和应对能力。

OpenAI 表示，他们在人工智能安全方面的投入将不会止步于此，未来还将持续加大投入力度，探索更多保障人工智能安全的方法和技术。他们认为，应对人工智能风险是一项长期而艰巨的任务，需要全社会的共同努力和合作。

这项新举措反映了 OpenAI 对于人工智能安全问题的严肃态度，他们希望通过实际行动来确保人工智能技术能够更好地服务于人类社会，并最大限度地降低潜在风险。

相关要点：

✨ OpenAI 组建新团队，专门研究 AGI 带来的风险。

💡 他们的目标是预测并减轻先进人工智能带来的意外后果。

🚀 长期以来，OpenAI 一直致力于确保人工智能的安全和可靠性，并积极开展相关研究。