OpenAI 最新图像生成模型引发虚假文件制作潮

最近，OpenAI发布了图像生成模型4o，其在生成图片内部文本方面表现出色，特别是在制作虚假文件方面备受关注，成为某些用户的新宠。虚假收据、假处方以及伪造护照等问题层出不穷，引起人们的担忧。

社交媒体上，Menlo Ventures的投资人Deedy Das发布了一张假收据的照片，上面显示了他在旧金山一家著名牛排馆奢华用餐的账单。Das写道：“你可以使用4o生成假收据。” 这一言论引起了广泛的关注，因为许多真实世界的验证流程依赖于真实图像作为凭证，而现在情况发生了改变。

这张假收据给人一种非常真实的感觉，包含了详细的多道菜品清单、正确的小计和小费计算。一些用户甚至利用该模型生成的图像进行进一步编辑，增加逼真的滤镜和食物污渍，使得欺诈行为变得更加完美。

随着技术的进步，OpenAI的图像生成能力有了显著提升，以往的模型在重现文字时经常会出现乱码和幽默的短语，但4o模型的能力使这些问题几乎得以消除。用户们不仅可以生成奢侈晚餐的假收据，甚至可以制作控制药物如佐洛复的假处方。

这种现象引发了对AI生成虚假文件的广泛担忧。生成假文件的能力为一系列违法活动提供了便利，包括伪造税单、银行支票、身份证和出生证明等。目前，现有的文件检测手段是否能够有效防范这种行为尚不明朗。尽管一些AI公司已经开始尝试采用附加元数据或水印来识别生成的图像，但这些防护措施似乎难以完全阻止欺诈行为。

根据2015年的一项调查，85%的受访者承认曾为了获取更多报销而撒谎。这些欺诈案件往往由于缺乏内部控制和存在缺陷的应付账款流程而未能被及时发现。换句话说，在这个时代，你几乎无法相信网上看到的任何内容。