你有没有看过这些视频：奥巴马称特朗普为“彻头彻尾的笨蛋”，扎克伯格吹嘘自己“完全控制了数十亿人被泄露的数据”，或者目睹了囧诺为《权力的游戏》的烂尾而诚恳道歉？
是的，这就是Deepfake技术的应用。
Deepfakes 使用一种可以深度学习的人工智能来制作虚假的图像，因此得名 Deepfake。它可以让政治家说不符合其自身议题的言论，让一个电影中没有出现过的人出演主角，还可以让普通人像专业人士一样跳舞。
Deepfake 技术可以完全创建一个看上去可信度很高但完全为虚构的照片。
一位在彭博社查无此人的记者Maisy Kinsley在领英和推特上账户的个人资料，可能是用技术伪造的。领英上有一个名叫凯蒂·琼斯的人，声称自己在战略与国际研究中心工作，也同样被认为是Deepfake 技术伪造的。
音频也可以应用Deepfake技术。2019年 3 月，一家德国能源公司英国子公司的负责人在接到一名模仿德国 CEO 声音的欺诈者的电话后，将近 20 万英镑存入某匈牙利银行账户中。该公司的保险商认为该声音是伪造的，但证据尚不明晰。
据报道，类似的骗局是使用了录制好的 WhatsApp 语音消息。
Deepfake技术是通过使用两种 AI 算法实现的，其中一种称为生成器，另一种称为鉴别器。生成器用来制作虚拟多媒体内容，而鉴别器需要检测内容是虚拟的还是真实的。
生成器和鉴别器一起形成了一个叫做生成对抗网络 ( GAN ) 的东西。随着生成器在内容制作方面做得越来越好，鉴别器在识别方面也变得越来越好。相反，随着鉴别器越来越善于鉴别假视频，生成器也越来越善于制作它们。
两者一起训练过的数据集越大，就越容易创建出可信度高的Deepfake视频。这就是前总统和好莱坞名人的视频在早期的Deepfake内容中经常出现的原因——这类人有大量公开的视频片段可以用作训练GAN。
现在，Fake App和Deep Face Lab等简单的软件已经可以提供给普通人制作Deepfake内容。
Deepfake技术为各种创意的实现提供了有趣的可能性，从配音、改进和修复视频到解决视频游戏中的“恐怖谷效应”（图像与真实物体相似但不完全相似带来的视觉恶感），还有替换演员台词以及创建虚拟试衣间的应用程序。甚至Deepfake技术还被用于制作企业培训视频和培训医生。
从过去拼接音频和视频磁带到使用 Photoshop 和其他编辑软件，GAN 为我们提供了一种新的媒体播放形式。
在这种新的媒体播放形式中，DeepFake内容有可能吸引大量的关注和传播。人们永远会对一些不太可能发生的事件产生兴趣——一个说话含糊不清的政治家，一个处于妥协立场的名人，一个有争议的公众人物。而这些内容完全可以用Deepfake技术来制作。
通过制造能够引起大众广泛兴趣的内容，黑客当然有可能将此作为另一种网络钓鱼手段，诱使人们点击内容，从而让其设备感染病毒木马，或者将用户导向某个恶意网站。
但据当前对罪犯的了解，当有更好和更简单的钓鱼方法时，他们并不愿意在更复杂的方法上浪费时间和精力。由于很多人都会对那些已经流传多年并且仍然非常有效、常见、且简单得多的网络钓鱼手段上钩，所以Deepfake应该并不会为网络犯罪带来特别重大的改变。
不过，已有少量Deepfake 语音欺诈案例出现，这些案例中的罪犯试图说服公司员工将资金汇入一个虚假账户。这似乎是商业电子邮件网络诈骗领域的一个新形式，诈骗犯使用高级员工的 Deepfake 音频发出付款指令来诱导转账。
这表明犯罪分子总是会尝试新的策略以牟利，对普通人来说小心才能驶得万年船。
或许更令人担忧的是在个人诽谤攻击中使用 Deepfake 技术制作的内容，以及合成色情视频的广泛流行。Deepfake 被竞争对手用来诋毁某高管或某企业的可能性也并非没有。
不过，最有可能的威胁也许来自国家紧急状态和政治选举期间的信息战——人们普遍认为此类事件中使用 Deepfake 内容进行虚假宣传活动的时机已经成熟。