OpenAI宣布启动“红队”网络计划,邀请跨领域专家参与,旨在提升人工智能模型的安全性。该网络是OpenAI现代开发的一部分,包括内外部对抗测试,以确保模型在各种情况下都表现出安全性。成员将在整个模型和产品开发过程中进行风险评估,并获得报酬和交流经验的机会。此举希望提高AI模型的整体安全性和可靠性,为人工智能的未来发展奠定坚实基础。
致力于创造对全人类有益的安全 AGI