这个词通常描述用人工智能或合成媒体技术篡改过的视频，通常被称为Deepfake。研究人员和立法者担心，这些经过数字处理的视频可能会被替换，而传播假信息的阴险方法将会猖ramp。但是，如果我们不小心的话，这些进步可能会付出巨大的代价：同等的基础技术也可能导致欺骗。

几十年来，计算机软件已使人们能够管理照片和视频或从头开始创建假图像。通常为经过Adobe Photoshop或After Effects之类的软件培训的专家保留的过程。现在，人工智能技术正在简化策略，从而减少了篡改数字图像所需的价值，时间和技能。这些AI系统自行学习，通过分析数千个真实图像来构建伪图像；意味着他们将要处理大量的工作量。这也表明人们可以制造比他们需要的更多的假货。

用于创建深层伪造的技术仍然是相当新的，因此结果通常易于逃避。技术是一个不可阻挡的不断发展的领域。尽管这些工具可能会检测到这些虚假视频，但深度欺诈也在不断发展，但一些研究人员担心它们不会随时准备前进。

视频收藏可能是计算机数字欺骗的提纲。通过检查所有这些图像，人工智能系统确定了观察假货的方式。Facebook还试图与假货作斗争，让演员制作假视频，然后将其发布给外部研究人员。一家名为Dessa的加拿大公司的工程师专注于AI，最近他们测试了使用Google的合成视频制作的Deepfake检测器。它可以识别几乎完美的Google视频。但是，一旦他们在从网上获取的Deepfake视频上测试了检测器，它就会有40％的时间失败。这非常令人震惊，我们正在制造某种邪恶，甚至我们都无法阻止。

研究员Niessner博士正在努力开发能够自动识别并扣除深层造假的系统，这通常是同一枚硬币的另一面。检测人员通过分析图像来学习其技能。检测器也可以大大改善。Niessner博士和其他研究人员说，但这需要无休止的最新数据流，这些数据代表互联网上使用的最新Deepfake技术。收集和共享适当的数据通常很困难；例子很少，并且出于隐私和版权的原因，公司将不会总是与外部研究人员共享数据。

Deepfake技术的成本不仅仅是理论上的。合成声音正被用于大型欺诈交易，据称人造面孔支持间谍活动。尽管面临着挑战，以共同破解Beta级质量的软件，但所有这些都是如此。使用合成媒体的障碍仍然太大，以至于该技术无法吸引大多数恶意行为者，但是由于它已经从错误的Beta版转移到数十亿人的手中，因此我们有责任通过使其成为最坏情况来避免尽可能地使用伪造品来邪恶。最后，随着我们未来的发展，我们没有发布的技术也随之发展。人工智能是一种重要的贡献者，被用作“武器”会加剧事情的发展。因此，也许我们想重新思考AI的责任和道德规范（等等？道德规范！）