“AI换脸越来越溜儿 谁能阻止它走向堕落”

本篇文章2737字，读完约7分钟

deepfake是一种可以把图像和视频中的a脸变成b头的面部交换技术。 它的名字是深机器学习和假照片的结合。 这个技术不需要操作者深入的专业信息，只要收集足够的素材，ai就能完成。 deepfake改变脸的效果很真实，很难辨别真伪，引起了很多伦理和隐私的问题。

史泰龙和施瓦辛格好莱坞顶级流量的超级明星最近合体出现在大屏幕上，还是在年上映的《金蝉脱壳》中，让很多影迷大吃一惊。 11月22日，据一篇报道，在海外视频网站上，一部名为《step brother》的电影短片利用deepfake技术，把两个超级明星的脸换成了两个演员的脸，脸的表情自然，没有痕迹，令人吃惊。 很多网民都很恐惧。 另外，最近国内的热门电视剧《了不起的儿科医生》也采用了这个ai的换脸技术。

根据安全分析公司sensity的最新调查结果，deepfake的在线假视频数量自去年12月以来每隔6个月增加一倍，截至去年6月，假视频达到49081个，比2019年7月增加了330%。

deepfake技术越来越容易改变视频的面貌，如何打假“李鬼”，避免成为假视频的“共犯”成为当务之急。

在视频中“成为活得很大的人”几步

deepfake技术被称为现代网络“易容术”，是比ps强大得多的动态面部交换技术。 “现在，deepfake技术已经成熟，主要技术分为两个部分，生成了自动编码器和对抗互联网。 》天津大学智能计算系教授翁仲铭介绍。

自动编码器是提取身体照片的特征，用数字表示的神经互联网技术。 但是，如果抓住一个身体的脸的特征，就不能抓住所有状态的特征，比如说话、哭、笑等。 这样的话，就必须用数字模拟来表现没有的表情。 通过训练，你可以用数学方法找到表现照片特征的最佳编码器。

有编码器就需要解码器，解码器把一系列数字还原成照片。 不同的解码器可以给演员再现不同的照片。 例如，斯特朗的解码器再现斯特朗的照片，再现施瓦辛格的照片需要施瓦辛格的解码器。 具体的操作是，首先用编码器提取小众演员和史泰龙的特征，然后用史泰龙的解码器复原，得到史泰龙的脸和小众演员的表情。

“deepfake正在训练设计、正确的编码器和解码器。 ”翁仲铭介绍说，编码器是抓住照片的特征，所以基本上一套就可以了。 但是解码器需要训练很长时间。 为了把一系列数字的特征和小演员联系起来，并且变得相似，需要长期的训练。 比如，要变成史泰龙的脸，在这个过程中需要输入史泰龙600—3000张照片，花48—72小时训练深度模型。

“有必要检查用自动编码器制作的照片是否自然是真的。 这需要对抗互联网的技术。 ”翁仲铭解释说，这包括两种机器学习模式，分别是为了生成互联网，判别互联网。 网络扮演“伪装者”，模型训练后制作伪造电影。 识别网络扮演“检查者”，继续看假电影，一直持续到结果无法辨别是假的时候。 数据越多，效果越理想，假电影越真实。

换脸的门槛越来越低

其实这种动态的换脸技术最初用于电影后期制作，但以前电影作品中的换脸操作非常多，只有专业的视频编辑和公共网关接口专家才能完成，同时需要耗费很多时间和精力。

但是随着像deepfake那样公开轻量化技术的出现，该技术采用的阈值也变低了。 特别是设计deepfake技术的“大神”，在可以自由共享代码的网站github中加入了代码，使之更容易获得该技术。

利用deepfake技术，即使是不熟悉视频剪辑的外行，也可以输入强大的gpu (图形解决方案)和数百张人物样本，至少输入一个算法即可交换面部，产生非常真实的视频效果。 “普通人花时间学习后完全可以掌握这项技术。 」翁仲铭感叹。

“现在这个技术操作简单，但用软件实现这个过程非常困难。 ”翁仲铭解释说，视频中人是动态的，例如在60帧( fps )的视频中，每秒更新60次画面，如果是ps，则需要解决60张静止图像，连接其前后形成动态图。 一个视频几分钟不动，需要10分钟以上。 如果一分钟解决3600张计算，一分钟的视频也需要强大的gpu来解决上万张照片。

翁仲铭认为，随着近年来gpu的迅速发展，其计算能力更强，利用deepfake技术解决照片也越来越简单，采用越来越方便。 这也可能是去年12月以来假录像倍增的理由之一。

用技制技打假“李鬼”还不够

这样强大的“黑科学技术”使用了最先进的人工智能技术，通过比较简单的计算，有可能生成假的真正的视频。 但是，deepfake技术几天后被唾弃，被世界禁止，被称为“最邪恶的”技术。

因为太假了，其破坏力无法估量。 事实表明，人们的担心不是杞人忧天。 deepfake出道的是将《神奇女侠》的盖尔后卫的脸嫁接给成人电影女主角。 另外deepfake制作的假录像引起了很多刑事事件，卷入了政治纠纷。

但是，完美的技术也不完美。 专家们提出了几种识别改变deepfake脸的视频的方法。 例如，眨眼率、用deepfake创建的对象眨眼率比正常人少。 声音和嘴唇动作的同步状况心情不一致； 模糊的痕迹，画面停止或变色。 但是翁仲铭说，这些做法可以通过deepfake加强样本的学习来处理，迟早可以通过deepfake技术制作人类肉眼无法识别的“假面”。

“很多人想用ai对抗ai”翁仲铭表示，美国国防部开发了世界上第一个“反ai变脸刑事检查工具”，专门用于检测ai变脸和面部伪装技术。 但是，人工智能基金会的研究副主席黛力普承认，即使现在的deepfake检测算法的精度达到97%，考虑到网络规模非常大，剩下的3%依然有破坏力。

现在有了改变deepfake脸的新想法。 这被称为“生物取证”。 这个技术最重要的是根据分辨率、三维新闻、眼睛的运动等来区分真伪。 因为翻过来的照片的分辨率和直接从实拍中采集的照片在质量、分辨率方面有所不同。

“整个算法遵循的注意法则是生物信号还没有留在假视频中，这些信号在生成噪声时也产生了不同的识别。 ”。 翁仲铭换句话说，假视频中显示的“人”没有表现出与实际视频中的人相似的心率模式。 由此，可以找到各个生成模型的唯一签名(识别符)。 值得注意的是，无论遮挡、照明条件如何变化，这些标志都不存在于实际影像中。 利用这些标识可以找到假视频背后的生成模型，相反可以提高整体的假视频检测精度。

“道高一尺魔高一丈，利用deepfake技术的人也在不断改善改变脸的水平。 这是因为从长期来看，我们必须寻求更有力的方法来维持和解释社交媒体新闻的真实性。 目前，很少工具能确定网民在网上看到的新闻来源是可靠的，没有被篡改。 ”。 翁仲铭强调，要改善这种状况，需要从实名制等视频发布源进行管理，加强立法，增加网络警察巡逻等，严厉打击这种假行为。 (记者陈曦)