美国军方正在为掌握Deepfakes和其他AI 欺骗能力而努力

美国国防部正在资助一个试图确定由人工智能产生的日益逼真的虚假视频和音频是否很快就不可能与真实世界区分 - 即使是另一个AI系统的项目。

来自一份报告：今年夏天，在由国防部高级研究计划局（DARPA）资助的一个项目下，全球领先的数字取证专家将聚集一场人工智能的面包比赛。他们将参与竞争，以产生最令人信服的由AI生成的虚假视频，图像和音频 - 他们还将尝试开发能够自动捕获这些假冒产品的工具。比赛将包括所谓的“深度烙印”视频，其中一个人的脸部图片被缝合到另一个人的身体上。 可以预见的是，这项技术已经被用来制作大量假冒名人色情影片。但是这种方法也可以用来创建一个政治家说或做一些离谱的剪辑。DARPA的技术专家特别关注一种相对较新的AI技术，这种技术可能会使AI的制作几乎不可能自动进行。使用所谓的生成对抗网络或GAN，可以生成令人震惊的逼真的人造图像。