讽刺！美国明尼苏达州反深度伪造法案，疑似出自AI之手

近日，关于人工智能生成的“深度伪造”图像的讨论甚嚣尘上，引发了人们的广泛关注。这些由人工智能生成的虚假图像，可能会对人们认知真实世界产生影响。

相关技术：图像生成AI，扩散模型，Midjourney

围绕《明尼苏达评论》的文章，明尼苏达州总检察长基思·埃里森（Keith Ellison）最近发布了一份关于人工智能用于政治目的的警告。斯坦福大学教授杰夫·汉考克也参与了讨论。根据汉考克的说法，目前通过内容的出处来区分人工智能生成的“真假”内容是不可靠的。

汉考克的观点呼应了2023年《数字取证与安全》杂志上发表的一篇论文，该论文警告说，“检测深度伪造的取证方法正在变成一场猫捉老鼠的游戏”。

与此同时，其他参与讨论的人也指出，尽管技术不断发展，但人类仍然擅长识别那些由人工智能创造的图像。有人指出，辨别“深度伪造与拙劣的模仿：揭示数字取证中被忽视的信号”这样的细微差别至关重要。

此外，明尼苏达州众议员玛丽·弗兰森也提出了关于 YouTuber 和社交媒体网红的问题。明尼苏达大学教授克里斯托弗·科尔斯表示：“我们必须尽快适应人工智能‘作品’的影响，并开始训练人们识别虚假信息，就像他们学习识别 ChatGPT 生成的内容一样。” 一些评论员认为，这些由人工智能生成的媒体内容可能会被用于政治宣传，进而影响公众舆论，因此需要提高警惕。

汉考克还强调了教育的重要性。他认为，为了应对人工智能技术在信息操纵领域带来的挑战，我们需要通过提升数字素养，从而区分真实信息和虚假信息，同时认识到人工智能的优势和局限性。

他还提到，为了应对深度伪造图像带来的挑战，我们需要在媒体和信息领域进行全面的能力建设。他认为，人工智能在支持大规模虚假宣传方面具有潜力，因此需要对此保持警惕，并发展相应的应对策略。