Anthropic推出AI人工智能安全级别(ASL)系统

Anthropic 的 Dario Amodei 表示，负责任的扩展政策（Responsible Scaling Policy，RSP）旨在确保人工智能的安全和有效发展。RSP 主要关注于确保 AI 系统的安全性和可靠性，以便在不同的应用场景中发挥作用。ASL 代表安全性和可靠性等级。ASL 级别包括：ASL-1 是基本的安全性和可靠性要求，ASL-2 是更高的安全性和可靠性标准，涉及到更复杂的应用场景；ASL-3 是 AI 在 CBRN（化学、生物、放射性和核）领域的应用，要求更高的安全性和可靠性；ASL-4 是针对更复杂的系统，要求 AI 系统具备更高的安全性和可靠性，以应对潜在的风险和挑战。ASL-4 级别的系统需要在设计时考虑到安全性，确保其在各种情况下都能正常运行。RSP 的目标是确保 AI 系统的安全性和可靠性，以便在不同的应用场景中发挥作用，确保其能够有效应对各种挑战。