研究团体警告：全球应暂停基础模型开发，AI或威胁人类生存。

机器智能研究所（MIRI）致力于解决通用人工智能带来的风险，其使命是通过深入的基础研究，引导强大人工智能朝着有益于人类的方向发展。MIRI认为，人工智能的安全问题不容忽视，需要深入研究和探讨。

当前，许多人工智能公司，例如DeepMind和OpenAI的GPT-4等，都在致力于人工智能安全问题的研究。MIRI的目标是通过独特的技术方法，寻找出预防潜在危险人工智能出现的方法，从而确保人工智能技术能够持续、安全地发展。

根据该机构的说法：“我们需要找到一种方法来构建既能实现目标，又能避免产生不良后果的系统。我们正在努力寻找能够在各种情况下都能确保系统安全的通用方法。目前，我们正专注于长期研究，并与顶尖的专家合作，以确保人工智能技术的发展能够符合人类的价值观。我们有信心找到能够实现这些目标的技术方法。”

MIRI正试图通过开发“对齐理论”来解决人工智能的安全问题，该理论旨在确保AI系统的目标与人类的价值观相符，从而避免AI系统产生危害。

为了实现其目标，MIRI正在努力推进人工智能安全领域的研究，希望能够找到确保人工智能技术对人类有益的方法。

MIRI由Eliezer Yudkowsky于2000年创立，并获得了Peter Thiel以及以太坊创始人Vitalik Buterin等人的资助。生命未来研究所也是MIRI的重要赞助者之一。

人工智能和新兴技术分析公司Omdia的研究总监Bradley Shimmin表示，除了风险投资外，MIRI还在积极寻求解决人工智能安全问题的方法。他指出：“虽然现在预测生成式人工智能的影响还为时过早，但其潜在的优势和风险都非常巨大，因此我们不能掉以轻心。”Shimmin认为，MIRI正在为确保人工智能技术能够安全且负责任地发展做出重要的贡献。

要点总结:

- 机器智能研究所（MIRI）致力于通过基础研究，确保通用人工智能的发展对人类有益，并解决其潜在风险。

- MIRI正在开发“对齐理论”，旨在确保AI系统的目标与人类的价值观对齐，从而解决AI安全问题。

- 人工智能分析公司Omdia的研究总监Bradley Shimmin认为，MIRI正在为人工智能的安全和负责任发展做出重要贡献。