AI内容生成检测准确率超过90%

随着人工智能生成内容技术的迅猛发展，涵盖了从AI绘画、音乐创作到虚拟人等领域，以及最近广受关注的ChatGPT，内容生产模式正在经历重大变革。然而，在网络内容呈现不断“生长”之际，寻找一种可辨真伪的技术标准将成为整个产业长期健康发展不可或缺的关键因素。

近日，在网络上进行了公开测试的AI-X系统备受瞩目。据介绍，该系统是由《人民日报社》主导，联合《人民网》建设的“传播内容感知”国家重点实验室、中国科技大学、合肥综合科研中心人工智能研究院等单位共同研发，为我国首个基于人工智能的内容感知系统。欲了解详情可访问http://ai.sklccc.com/AI-X/#/进行测试。

AI-X系统能够快速区分机器生成的文字和人类创作的文字，在中文文本辨识方面的准确度已达90%以上。

内容感知国家重点实验室总研究员张勇东认为，由于人工智能在对话、文字写作、内容修订等领域拥有多样化应用场景，AI将迈入全新发展时期。然而，其伴随而来的伦理规范、内容侵权、信息篡改等风险不可忽视，迫切需要研发具针对性的检测产品，提升对新内容生产范式的监管治理技术能力。

他强调，AI-X采用了算法融合和知识驱动的人工智能框架，通过深度建模捕捉由人工智能技术产生的虚假新闻、内容剽窃和垃圾信息等问题。该系统在内容版权、网络钓鱼、虚假信息以及学术造假等领域有广泛应用前景。未来，AI-X将拓展应用范围，适用于AI生成的文本、图像甚至视频等多个领域。

“AI亟需正确的引导和规范。”“传播内容认知”国家重点实验室的研究人员靳国庆呼吁，需警惕人工智能在“虚假信息”、“学术造假”、“网络钓鱼”等“灰色地带”中的滥用。AI-X将推动人工智能风险管理及安全评估技术的发展，奠定构建安全可控AI生态系统的基础。

据悉，在AI-X发布之前，中国传媒大学的“内容识别”国家重点实验室已研发出基于人工智能的“智晓助”和“白泽”两套内容风险控制系统，已有上百家组织应用。以内容风险管理为主要业务的《人民网》资讯科技有限公司，利用AI-X为基础，借助“人民审校”平台推出了“捕获AI”软件。

根据工业和信息化部发布的数据显示，中国人工智能核心产业规模已达4000亿元，近4000家公司参与，带动相关产业规模达数万亿元，且持续高速增长。业内人士认为，人工智能是数字经济与实体经济结合的新商业模式，将极大促进企业创新发展。

张勇东指出：“AI-X将随着人工智能的发展不断成长。由于受时间、资源等限制，AI-X在某些特定问题和应用上支持仍不完善。例如，AI-X目前仅能检索中文内容，英文内容的检测还需进一步完善；在此基础上，需要提升对图像、音频、视频内容的探测能力，以实现全媒体的检测，确保人工智能的健康发展。