AI换脸给国产剧擦屁股

2019年10月，唐德影视发布公告，称已与天猫技术签署了针对电视剧《赢天下》的补充协议，唐德承诺在2019年12月31日前采取包括但不限于：重新布景拍摄、技术手段、重新配音等将该剧原定主要演员在该剧中的镜头修改为由天猫技术另行确认的一线演员出演的镜头。

这部总投资超过5亿元的电视剧，早在2017年底就饱受关注，彼时的讨论热点还是，《赢天下》和《如懿传》到底谁能成为2018年开年大剧。

2年过去了，《如懿传》变成了网剧，默默开播，默默结束。

《赢天下》的播出之路更是一波三折，先是男主角高云翔在澳大利亚因为性侵案件被捕，随后范冰冰又卷入税务风波，这部剧的播出也数次搁浅。

此前，曾有拍摄路透照显示，李晨在进行补充拍摄，疑似代替高云翔。从这份补充协议来看，范冰冰的戏份也有可能被替代。

因为主演出现变故而不得不在作品拍好后临时换人的案例并不罕见。

2015年上映的《捉妖记》，原本由柯震东主演，结果后者吸毒东窗事发，制片方不得已找来井柏然重拍，虽然花了不少钱，但电影最终收获24亿票房，也算皆大欢喜。

电视剧《传奇大亨》就没这种好运气，女主角原本是韩国明星具惠善，但临近播出赶上了萨德事件，只能临时找来贾青重拍女主戏份，播出后毫无水花，几近“查无此剧”。

考虑到中国电视剧都是先拍再播，拍摄完成到播出，短则数月，长则数年，一旦主演遭遇丑闻，不播还是换人重拍，投入都巨大。有了AI换脸技术，影视行业的风控，多了一重保障。

知名影视制作公司已经盯上了这块市场。2019年，一家名为山影世嘉的公司低调成立，这是山影集团旗下的三级子公司，主营业务包括影视特效制作和AI智能的影视应用。

2019年9月接受骨朵传媒采访时，山影集团视效总监李大宝表示，该公司主要是用AI人脸生成技术为影视特效提供辅助，目前已完成2部电视剧和1部电影的角色替换业务。

在C端市场，明星们的粉丝是AI换脸技术的重要拥趸。

2019年初，94版《射雕英雄传》的一个片段走红网络，片段中黄蓉的扮演者变成了杨幂。

发布这段视频的B站up主“换脸哥”是AI神经网络学习的研究人员，也是杨幂的忠实粉丝。

因为涉嫌侵犯肖像权和版权，该组视频很快下架。但从传播角度来看，获得了流量的明星并不吃亏。

AI换脸技术让粉丝们看到了给自家偶像创造流量的新方式，也让普通人跃跃欲试，比如，像使用美图秀秀一样使用AI换脸，干脆把朱茵换成自己，或者和肖战来段共演。

换脸技术并不是新奇事物。早在2017年11月，美国的社交新闻论坛Reddit，名为“deepfakes”的用户就发布了一段视频，把一部情色片的女主角换成了《神奇女侠》主演盖尔·加朵的脸。

这类视频被统称为“Deepfake”，由深度学习（Deep learning）和伪造（fake）构成，指的是基于人工智能的人体图像合成技术。

这项技术在中国广为人知，是因为一款名为ZAO的产品。2019年8月底，一家疑似陌陌旗下的“孙公司”（三级子公司）推出了AI换脸软件“ZAO”，用户注册后上传照片，就能把各类视频中的人脸换成自己，在这款软件的帮助下，追星女孩们可以体验一把跟偶像谈恋爱的感觉。不过，由于隐私问题，这款软件很快成为流星。

ZAO刷爆朋友圈似乎只用了一个上午，但盛极而衰也只用了两天。

过了一把虚拟戏瘾的用户，很快开始意识到不对劲。打开注册时一扫而过用户协议，里面赫然写着：

使用这款软件的换脸功能，需要同意授予这款软件及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的肖像权利人的肖像权，以及利用技术对肖像权利人的肖像进行形式改动。

“完全免费、不可撤销、永久、可转授权和可再许可的权利”，这个条款显然吓到了第一波吃螃蟹的用户，毕竟刷脸已经渗透到生活的很多角落，包括支付、银行等各种业务办理等等，面部信息如果泄露，后果无异于密码泄露。

于是，刚刚在朋友圈刷屏完自己主演的小视频，用户们这时开始再度刷屏提问，“如何删掉ZAO里的人脸信息”？

引发争议后，ZAO很快修改了用户协议内容，不仅增加了“特别提示”，也把上述“完全免费、不可撤销、永久、可转授权和可再许可的权利”的字段删除。

截至2019年10月16日，ZAO在App Store娱乐类免费排行榜中，只排到15名，在这个榜单里，乐视视频排第22。

B站up“换脸哥”在杨幂换脸的争议视频发布后，接受新京报采访时曾表示，“科技替代某些东西是有必然性的，只不过我先把这个技术拿出来，让大家都能看一看，不是说我不拿出技术，它就不存在。”

几乎是ZAO推出的同一时间，一张来自旷视科技的概念图让很多人想起了学生时代，班主任在教师后窗监视的回忆。

在这张疑似监控画面的概念图中，两个学生在课堂上的表现被如数记录，除了听讲、阅读、举手的次数，甚至还有趴桌子、玩手机、睡觉的次数。

中国人民大学法学院教授张新宝曾撰文称，中国缺乏隐私权保护的传统，直到上世纪80年代中后期，隐私才作为法律上的利益被最高人民法院的司法解释所保护。

随着人工智能技术的不断发展，隐私保护的意识培养和法律保护，正在和隐私泄露的风险赛跑。

相比于中国民众对于隐私泄露的担忧，美国民众的担忧更多元，也更急迫。

AI换脸色情视频在Reddit走红后，发展的势头很快被暂时遏制，禁止该类视频的呼声越来越高。发布盖尔加朵视频的账号在拥有了9万粉丝后，在2018年2月关闭。但开发者开放了代码。精通编程的人可以在此基础上，自行开发能进行AI换脸的程序。

阿姆斯特丹的网络安全公司Deeptrace Labs的一项研究显示，从2018年12月到2019年7月，网络上的deepfakes视频数量增加了一倍，96%是色情视频，所有色情作品的主题都是女性。

2019年中旬，一款名为Deepnude的应用上线，用户通常称它为“一键脱衣”应用。只要上传一张人像照片，Deepnude就能一键操作，脱掉照片中人物的衣服。从测评结果来看，女性照片的脱衣效果十分逼真。

由于用户过于热情，Deepnude上线不久就由于服务器过载而宕机。

一年前还在积极研究AI换脸技术的学界，此时不得不多了一个新的研究方向，开发出能识别虚假视频的工具。

小步快跑试图跟上AI换脸技术的还有立法。弗吉尼亚州在2019年7月生效了修正后的“色情报复法”（revenge porn law），这项法案2014年推出，“色情报复”指的是，未经当事人允许的情况下，将那些被认为仍属私密的，与伴侣亲热的照片放到网上公开。

最初，色情报复法仅包括伪造的图形和视频，新版法案把“Deepfake”类视频也涵盖在内。

在自己的头像被“换”到色情片之后，斯嘉丽·约翰逊曾表示非常难过，“即使能够清除美国网站上的相关内容，可能也无法清除德国网站上的内容，不同国家的公民肖像保护法并不相同”。

相比于色情视频换脸这种“小打小闹”，美国民众更关注的是AI换脸在选举的潜在应用空间和风险。

在盖尔·加朵的AI换脸视频走红之前，华盛顿大学的研究者，曾经试图“合成”奥巴马，把他在一个场景下的嘴唇动作和另外一个来源的演讲合成为一个视频。

如果AI虚假视频被有心人利用，或许可以制造出一些子虚乌有的政客公开演讲，或者在原有的演讲中加入不存在的内容，借以混淆视听，干扰选举。

技术干扰选举的上一个案例还历历在目。

2016年的美国总统选举结束后，Facebook被曝出泄露用户数据给一家名为Cambridge Analytica的英国公司，后者利用这些数据帮助特朗普制定更有针对性的选举策略。

现在，2020年总统选举马上就要来了。在这个大背景下，美国人对AI换脸技术十分警惕。

事实上，youtube现在已经传播着不少虚假视频，人们用这种方式来调侃名人。2018年4月，就有人制作了一段奥巴马的虚假讲话视频，视频里，奥巴马“发表”了各种政治不正确的言论。

而美国国防部旗下的负责研发军用高科技的行政机构的DARPA（The Defense Advanced Research Projects Agency，国防高级研究项目局），也早在2016年就开始了为期4年的媒体取证项目（简称MediFor），用来自动评估图像或视频的真实性，找出可能被用来左右民众的虚假视频画面。

在预防AI换脸视频的滥用上，政界、商界和学界正在形成统一战线。

2019年6月，在一场由美国众议院情报委员举办的AI虚假视频专场听证会上，众议员亚当希夫表示，这类虚假视频的传播给2020年总统大选带来了一种“噩梦般的”场景，因为它会让议员、媒体和公众“难以分辨真实和虚假”。

2019年9月，谷歌发布了3000多个的换脸视频，谷歌自己找来演员，用市面上常见的换脸工具制作了这些视频，目的是建立数据库，帮助研究者们尽快开发出侦破工具。

一个月后，加利福尼亚州长加文纽森签署了AB 730号法案。法案规定，选举的60天内，任何人不得出于损害候选人声誉、欺骗选民的意图散布有关候选人的AI虚假视频。

时间倒回2012年，那一年，多伦多大学计算系教授Geoffrey E. Hinton 带领着自己的学生设计出深度学习模型AlexNet，开启了该领域工业化的序幕。人工智能领域的各种应用大多源于此。

不知道Geoffrey E. Hinton有没有预料到，自己打开了潘多拉的魔盒，一个真假难辨的世界即将出现。人们投入大量的资源实现技术进步，再花费更多精力消除技术进步带来的负面影响.