用深度学习技术造假巨星短视频，狂揽几十万粉丝
技术编辑：宗恩丨发自 思否编辑部
三天前，一个名为@deeptomcruise的TikTok账号开始发布好莱坞巨星汤姆-克鲁斯的视频片段，从打高尔夫到在意大利的一家男装店里被绊倒后讲笑话，再到用硬币表演魔术。在这三段视频中，克鲁斯每一段都会发出他标志性的狂笑，不过虽然所有这些视频中的人看起来都和汤姆-克鲁斯如此相像，但这些都不是克鲁斯，而是用深度伪造视频技术「deepfake」制作的假视频。
如果仔细观察就可以发现一些疑点，首先视频里的汤姆-克鲁斯看起来要比58岁年轻很多，而且也要比真人高出很多。此外，他的声音也有明显的不同。
不过大多数网友并没有注意到这些，这个名为@deeptomcruise账号已经积累了23.6万名粉丝，并且粉丝数还在不断增加中。目前TikTok官方没有发表上传使用「deepfakes」技术的视频是否违反了服务条款，但有不少用户已经感觉事情的严重性，并且有人建议：每个公众人物都应该在那里注册一个经过验证的账号，即使他们不发布内容，这样更容易让用户识别假冒的账号。
麻省理工学院的研究人员对这项技术进行了详细的解释，@deeptomcruise 正在使用 「deepfakes」技术，这是一个结合了 「深度学习 」和 「假货 」的术语，一种特殊的合成媒体，在这种媒体中，图像或视频中的一个人与另一个人的肖像进行了交换。
为了制作一个深度伪造视频，制作者使用面部识别算法和一个称为变异自动编码器[VAE]的深度学习计算机网络，将一个人的脸换成另一个人的脸。VAE被训练成将图像编码成低维表示，然后将这些表示解码回图像。例如，如果你想将任何视频转化为影星尼古拉斯-凯奇的「深度伪造」，你需要两个自动编码器，一个是在演员脸部的图像上训练的，另一个是在多种脸部的图像上训练的。
这两个训练集所使用的人脸图像可以通过对视频帧应用面部识别算法来策划，以捕捉自然发生的不同姿势和照明条件。一旦完成这种训练，你就可以将在多样化的人脸上训练的编码器与在尼古拉斯-凯奇的脸上训练的解码器结合起来，从而在别人的身体上形成演员的脸。
这项技术早在2017年就出现公众视野中，那时有很多美国前总统特朗普的追随者发布了大量假新闻，在2019年的电影《爱尔兰人》中这项技术也被大量使用，人们对这项技术的评价非常两极化，喜欢的人觉得这将开启一个电影新时代，讨厌的人觉得会有人用它来进行「犯罪」。
目前来说@deeptomcruise账号里发布的视频并没有任何危害，但还是希望视频平台加速制定「deepfakes」制作视频发布规则，避免有用户上当受骗。
