参考资料：
https://mp.weixin.qq.com/s/VnhyblNe2gI1HHWrB7rQrw
https://zhuanlan.zhihu.com/p/210812688
概念
- “深度伪造”，也被译作“深度造假”，译自英语中新出现的一个组合词Deepfake，是计算机的“深度学习”（Deeplearning）和“伪造”（fake）的组合，出现于人工智能和机器学习技术时代。它被称作一种合成媒体（synthetic media），是通过自动化的手段、特别是使用人工智能的算法技术，进行智能生产，操纵、修改数据，最终实现媒体传播行为的一种结果。通俗理解，“深度伪造”指的是把图片和声音输入机器学习的算法，从而可以轻易地进行“面部操作”（face manipulation）——把一个人的脸部轮廓和表情放置在其他任何一个人的脸上，同时利用对声音的逼真处理，制造出实为合成却看似极真的视频——用以躲避识别，混淆视听，娱乐用户，以及实现其他虚假宣传的目的。大多数深度伪造都依托于一种深度学习技术——生成式对抗网络（GANs）。
- 截至目前，深度伪造的技术展示大致分为如下四类：换脸、唇形同步、面部复现、动作转移。通俗来说，深度伪造就是利用深度学习技术进行精确“换脸”。当然，这一技术并不单纯用于“换脸”，还被较少争议地应用在影视、健康和教育等其他行业之中。去年大火的ZAO也是采用了这一技术。英文语境中，“深度伪造”涉及多个词汇，包括deepfake、deepfakes、deep fake、deep fakes等。
没有什么新技术可以检测到“深度伪造”
- 不幸的是，目前还没有商业上可用的工具来检测“深度伪造”。很明显任何技术解决方案都涉及人工智能的“军备竞赛”，因为deepfake的创造者很快就能赶上最新的检测技术。然而，这并没有阻止斯坦福大学的研究人员和学生探索出几种可能的解决方案。
- 一种巧妙的方法是使用基于同样的深度学习技术的工具进行反击，这些技术最初用于创建“深度伪造”视频。本杰明·潘查斯(Benjamin Penchas)和马尔科·蒙泰罗(Marco Monteiro)介绍了Sherlock AI，这是他们通过“ensembling convolutional models”（集成卷积模型）开发的一种自动检测工具，每个卷积模型都在视频中寻找异常。他们声称，他们的解决方案可以在“深度伪造”的大数据集上达到97%的检测精度，其中包括最大的“深度伪造”数据集FaceForensics++。他们想把Sherlock作为Chrome的扩展插件提供给用户，并致力于服务新闻编辑室。
- 斯坦福大学计算机科学专业的学生Nikhil Cheerla和Rohan Suri采用了NeuralHash的另一种方法，内容创建者可以使用深度神经网络在他们的媒体中嵌入不可擦除的数字水印。恶意攻击者可以修改视频、扭曲音频、交换另一个人的脸等等，但无论他们做什么改变，都无法删除NeuralHash在内容中嵌入的数字签名。这个签名始终指向原始的、未修改的内容。
- 区块链可能成为解决方案的一部分
- 最有希望恢复人们对视频的信任的方法可能是区块链技术。区块链是一种在互联网上记录数据的全新方式。它能够在分散的分布式分类账中为数据和交易提供不可变的、防篡改的记录。
- Truepic和Serelay等初创企业已经开发了一个包含移动应用程序的系统，用于捕捉和保存图像到公司的服务器上。Truepic上传整个图像，并使用区块链存储元数据，以确保其不变性；而Serelay只计算一个唯一的指纹，保存在其服务器上。这些方法看起来很有前途，但它们严重依赖于信任第三方来处理我们的数据。而区块链的关键在于分散和消除这些中介。
- 在斯坦福大学设计学院，我在2019年1月至3月这一时期探索了新的区块链应用程序。我们与学生卫斯理•佩施(Wesley Peisch)、希萨姆•哈姆达里(Hesam Hamledari)和菲利普•里尔(Philipp Lill)一起设计了一个原型，通过提供真实性证明，人们可以追踪数字图像的来源。重要的是，我们的模型是分散的，没有中介或第三方。
- 我们运用设计思维的方法来帮助用户追溯一个包含多个编辑版本的视频的起源。为此，我们开发了一个名为VidProv(视频来源的缩写)的前端分散应用程序，用于实现真实性过程的自动化。有了VidProv，我们的目标是提供一个高度安全和可信的历史追踪和跟踪工具。
- 每个视频片段都与指向其原始或母视频的智能合约相关联。如果无法跟踪到，则无法信任数字内容。VidProv可以通过帮助用户(记者、事实核查人员和数字内容消费者)确定视频是否可以追踪到可信和信誉良好的来源，从而打击“深度伪造”视频。如果进一步开发这个原型，我们相信这个解决方案可以集成到web浏览器或视频平台中，以表明数字内容的真实性。