OpenAI、谷歌、Roblox 联合成立新组织，旨在保障人工智能时代儿童的安全

据 Engadget 近日报道，Roblox、Discord、OpenAI 及谷歌联合宣布成立非营利组织 ROOST（强大开放在线安全工具），旨在人工智能时代构建一个可扩展且互联互通的安全基础设施。

该组织计划向公共及私人机构免费提供开源安全工具，助力其在各自平台上强化安全防护，初期将重点关注儿童安全。ROOST 在声明中特别指出，将提供“检测、审核和报告儿童性虐待材料 (CSAM)”的相关工具。合作公司不仅为此类工具提供资金支持，同时贡献建设所需的技术力量。

ROOST 秉持的理念是，生成式人工智能的快速发展正深刻改变网络环境，对“可靠且易于访问的安全基础设施”的需求日趋迫切。ROOST 期望避免小型公司或组织从零开始开发安全工具，转而免费提供现成的解决方案。

据 AI 工具库了解，自《儿童与青少年在线隐私保护法案》和《儿童在线安全法案》在美国国会审议以来，儿童在线安全问题一直备受关注，尽管这两项法案均未能通过众议院的投票。包括谷歌和 OpenAI 在内的公司已承诺停止使用人工智能技术生成儿童性虐待材料。

对 Roblox 而言，儿童安全问题尤为重要。2020 年的数据显示，美国九至十二岁的儿童中有三分之二使用 Roblox，而该平台在儿童安全问题上一直面临挑战。2024 年，《彭博商业周刊》曾报道该公司遭遇“恋童癖问题”，促使其对儿童私信实施了更多限制和新政策。

报道称，尽管 ROOST 无法解决所有问题，但它将为诸如 Roblox 等其他组织或公司提供更便捷的应对方案。