OpenAI CEO预测：超级人工智能或在数千天内降临

当前，OpenAI 的创始人 Sam Altman 认为，确保人工智能的安全与构建强大的人工智能技术同等重要，这是社会面临的关键挑战。他强调了在追求技术进步的同时，必须认真对待潜在的风险和伦理问题。Altman 声称，超级智能可能在未来十年内出现，需要我们提前做好准备。

Altman 表示：“我们必须在人工智能变得过于强大之前对其进行有效控制。如果不能成功地驾驭这项技术，可能会对社会产生严重的负面影响。”

据 OpenAI 介绍，他们的最终目标是创造通用人工智能（AGI），即在大多数人类感兴趣的领域中超越人类智能的系统。AGI 的出现可能带来前所未有的机遇，但也伴随着巨大的风险。超级智能被视为 AGI 的一个重要里程碑，它将推动技术创新，并可能改变我们生活的方方面面。

超级人工智能（有时被称为“ASI”，即“人工超级智能”）超越了通用人工智能的能力，代表了超越当前人类理解范围的智能水平。自从 OpenAI 的联合创始人 Ilya Sutskever 在 6 月离开了 OpenAI 后，人们对“对齐超级智能”这一概念的关注度有所提高。在此之前，有报道称，由于对安全问题的担忧日益加剧，Sutskever 与 OpenAI 的领导层产生了分歧。

问题是，“过于强大”究竟意味着什么？这其中存在哪些风险？Altman 坦言，很难准确预测 ASI 何时会出现，但他认为有必要提前思考如何确保这项技术能够为人类带来福祉，而不是造成危害。

根据预测，训练模型所需的算力正在快速增长：2000 年为 5.5PFLOPS-天，2012 年为 8.2PFLOPS-天，2024 年预计将达到 11PFLOPS-天。这种趋势表明，Altman 坚信超级人工智能的潜力将在未来几年内成为现实。

尽管 Altman 承认存在风险，但他对 OpenAI 的长期使命仍然充满信心，致力于确保人工智能能够为全人类带来福祉。他还强调，为了应对人工智能发展带来的挑战，需要开展广泛的社会讨论和制定相应的监管措施。他对未来人工智能的发展方向表示乐观，并认为通过共同努力，我们能够确保这项技术为人类创造更美好的未来。

目前，Altman 正在积极推动关于人工智能潜在影响的公开对话。他指出，我们需要认真思考如何利用人工智能来解决全球性挑战，同时也要防范其可能带来的风险。Altman 强调，只有通过开放的讨论和合作，才能确保人工智能的发展符合人类的共同利益。

长期以来，人们对于“人工智能安全”的理解各不相同，有些人强调短期风险，有些人则更关注长期影响。他认为，这两种观点都需要认真对待，因为它们共同构成了人工智能发展过程中需要应对的复杂挑战。人工智能既有可能为社会带来巨大的进步，也可能带来严重的风险，关键在于我们如何负责任地开发和利用它。

尽管 Altman 承认人工智能存在潜在风险，但他仍然对人工智能的未来发展充满信心。他坚信，只要我们能够认真对待并有效管理这些风险，人工智能就能够成为推动社会进步的强大力量。他强调，需要全球范围内的合作，共同应对人工智能带来的挑战，确保这项技术能够服务于全人类的福祉。