OpenAI发布全新多模态内容审核模型：集成GPT-4o，同步检测文本与图像内容

近来，OpenAI 发布了其最新的内容审核模型，名为 "omni-moderation-latest"。

这个新模型专为强化 GPT-4o 的安全性能而设计，旨在提供更准确、更全面的违规内容检测能力。它能够更有效地识别和处理各类有害信息。

该模型的优势在于，它能显著提升对多种类型违规行为（包括文本和图像内容）的识别能力，且能够及时适应不断涌现的新型恶意行为。

与之前的审核模型相比，“omni-moderation-latest” 能够更准确地识别潜在的有害内容，从而减少误判，并提升平台的整体安全性。它还能够处理更为复杂的文本、音频和图像内容，从而更全面地保障用户体验。

自 2022 年 OpenAI 首次推出内容审核 API (Moderation API) 以来，该 API 已被广泛应用于各种应用场景，用于识别和过滤潜在的有害内容，有效提升了在线平台的安全性和用户体验。目前，包括 Grammarly 和 ElevenLabs 在内的众多公司都已通过 API 将其集成到自身产品中，以提升内容审核能力。

该模型的改进主要体现在以下几个方面：

准确性：能够更准确地识别各类违规行为，有效减少误判，提高内容审核的效率和可靠性。

覆盖面：能够处理更多类型的违规内容，包括新兴的恶意行为，确保平台的内容安全。

性能：在检测恶意行为相关的隐蔽文本方面，性能提升了约 42%，有效降低了恶意信息的传播风险。

总而言之，这个新模型的发布表明 OpenAI 正在不断改进其内容审核技术，以应对日益复杂的在线安全挑战。OpenAI 将持续关注并升级其安全系统，为用户提供更安全、可靠的在线体验，从而建立更加健康的数字生态环境。

更多信息：https://openai.com/index/upgrading-the-moderation-api-with-our-new-multimodal-moderation-model/

关键要点：  

📌 "omni-moderation-latest" 模型专为 GPT-4o 设计，旨在提高文本和图像内容审核的准确性。  

🌎 在检测恶意行为相关的隐蔽文本方面，性能提升了 42%，有效降低了恶意信息的传播风险。  

🔒 能够更有效地识别各类违规内容，包括新兴的恶意行为，提升平台的整体安全性。