对抗深度伪造“换脸“：SenseTime开发人脸伪造测试基准

“换脸”是人工智能深度伪造的一个应用，可以将图片或视频等数字文件中的人脸信息提取出来，替换到另外一个人（通常是AI和机器学习）上。国内在ZAO事件之后，换脸软件和换脸技术已经被新鲜出炉的法规禁止，但是你依然可以在MixBooth和SnapChat之类的应用程序找到这个功能，不过换脸基础技术的滥用，已经引发了全球性的担忧。

各个研究小组如今都在纷纷开发换脸技术的检测方法，但是到目前为止，已发布的换脸视频样本数量相对较少或过于人工。因此，香港科技创业公司SenseTime的研发部门SenseTime Research的研究人员与新加坡南洋理工大学合作，设计了一个新的大规模基准数据集来检测人脸伪造。他们称其为DeeperForensics-1.0，号称是是同类产品中体量最大的一个，拥有60,000多个视频，其中包含大约1,760万帧。

研究人员称，DeeperForensics-1.0中的所有源视频都是经过精心挑选的，因为它们的质量和多样性都很高。从表面上看，它们比其他数据集更真实，因为它们更接近于现实世界中的检测场景，并且包含与实际场景（例如监控头）类似的压缩，模糊和传输伪影的图像。

为了开发DeeperForensics-1.0，研究人员从26位不同国籍的100名付费男女演员中收集了面部数据，这些年龄从20岁到45岁不等，他们被指示在九种照明条件下转动头，并且用超过53种表情自然说话。他们通过AI框架（DeepFake Variational AutoEncoder或DF-VAE）来运行这些影片，并使用1,000个YouTube视频作为目标视频，其中100位演员的脸中的每一个都被交换为10个目标。他们故意以35种不同的方式扭曲每个视频，以模拟现实情况，从而最终数据集包含50,000个未操纵（本人）的视频和10,000个操纵（被换脸）的视频。

SenseTime的研究人员在预发布论文详细描述了他们的工作：“我们发现源面孔在构建高质量数据集方面比目标面孔的重要性要高得多。” “特别是，源面孔的表情，姿势和照明条件应该更丰富，以便进行可靠的面部交换。”

研究人员还在DeeperForensics-1.0中创建了他们所谓的“隐藏”测试仪——一个精心挑选的400个视频集，以更好地模拟真实场景中的假视频。整理这些数据涉及收集由未知的面部交换方法生成的伪造视频，并用真实场景中常见的失真来掩盖它们，然后在用户研究中仅选择那些能够成功欺骗超过50%观察者的视频。

为了评估DeeperForensics-1.0与其他公开数据集的质量，研究人员要求100位计算机视觉专家对其中包含的视频子集的质量进行排名。他们报告说，与FaceForensics ++，Celeb-DF和其他流行的Deepfake检测语料库相比，DeeperForensics-1.0在同规模上的真实性领先。

在未来的工作中，研究团队打算逐步扩展DeeperForensics，并与研究界合作，共同确定面部伪造检测方法的评估指标。

业界与深度伪造（Deepfake）的斗争似乎正在加剧。去年夏天，DARPA的Media Forensics计划的成员测试了一种原型系统，该系统可以通过查找不自然的闪烁等提示来自动检测AI伪造视频。像Truepic这样的初创公司  在7月筹集了800万美元的资金，他们正在尝试Deepfakes的“检测即服务”业务模式。2019年12月，Facebook与Partnership in AI、微软和一些学者共同发起了  Deepfake检测挑战赛，该挑战赛将提供数百万美元的赠款和奖励，以刺激Deepfake检测系统的开发。