微软发布仿真面孔与声音的AI工具，深度伪造风险引发广泛关注

最近，微软在Ignite大会上推出了一款新的AI工具，名为Azure AI Speech，能够生成新的头像和声音，或者复制用户的现有外观和语音。这项技术利用人类图像进行训练，并允许用户输入文本，由AI创建逼真的头像来朗读。尽管微软强调了多种限制和保护措施以防止该工具被滥用，但这一发布仍引发了对深度伪造可能加剧的担忧。批评者称这款工具为“深度伪造制造器”，可能会被用来复制个人的面容和声音，制造虚假内容。微软回应称，该工具为限制访问工具，用户在使用时需要微软的批准，并在使用AI制作头像或声音时进行披露。