能让黑寡妇拍小黄片的技术，会给我们带来灾难？
把名人的头像移植到色情电影里是AI换脸普及以来用得最多的，基本上绝大多数国际一线女星，如斯嘉丽、霉霉等全都中过招，被出演了无数部色情电影。
但当数以万计的换脸名人色情电影迅速充斥网络，舆论这才意识到，AI换脸若不加以规范，失控成灾是迟早的事。 “知道”（nz_zhidao）跟你谈谈，AI技术流行背后的深思。 用AI技术修复后的林徽因（网络图） 近日，AI修复的林徽因16岁旧照引发了极大的网络讨论。一边是一众网友盛赞这位民国名媛的出众美貌和气质，另一边也有人对AI修复出来的这种网红脸效果嗤之以鼻，认为这做法拉低了大师的格调。 然而，比起修复的林徽因的审美争议，更值得关注的其实是其背后的AI算法。 可以说，让一张旧照片高清翻新，仅仅是AI换脸一类算法在图像领域技术含量相对较低的一种应用。今天的AI换脸技术已经能够让画中的蒙娜丽莎开口说话，让视频中的奥巴马骂特朗普是傻X，让饰演黑寡妇的斯嘉丽·约翰森变成色情电影女主角……从脸、声音到整体身形都可以换，关键是效果好得足以以假乱真。试想想，一段换过脸的假视频，一旦在适当的时机出现在不适当的地方，很可能会引发国际政治危机。 换脸并不稀奇，进入21世纪后不久，人们就在银幕上见到了很多返老还童起死回生的神奇应用，比如《本杰明·巴顿奇事》中布拉德皮特从老到小的变化，星球大战新作中仍年轻的莉亚公主，乃至近期漫威系列电影，如《美国队长3》中出现的青少年版小罗伯特·唐尼，《惊奇队长》里年轻三十岁的萨缪尔·杰克逊…… 但这些均与AI换脸无关，实现这些效果的过程费时费力，更费用高昂。以拍摄《惊奇队长》为例，年近七旬的萨缪尔·杰克逊要在脸上戴着一堆仪器的条件下，自己先把戏演一遍，然后这些仪器把脸部动作神态捕捉下来，再套上他年轻时的影像。整个流程下来成本可想而知，显然不是一般人玩得起的东西。 而今天我们所能见识到的AI换脸技术，大多以生成式对抗网络（GAN, Generative Adversarial Networks ）为基础实现功能。简单来说，一个算法在生成，另外一种算法在识别这些生成的图像，直到后者无法识别，系统便给出一个最佳的生成结果。随着算法的不断学习，效果将无限趋于以假乱真。 类似的技术最早可以追溯到1997年的一个实验性程序，当时的技术已经能运用机器学习，将一段讲话视频的音轨换成另一个人，并让人像的嘴型跟新音轨相对应。虽然多年以来一直没什么像样的实战应用，但实验室里的算法一直在不断升级，效果越变越好，成本越变越低。 到2018年初，一个叫“Deepfakes”的用户随手上传的AI换脸程序，马上在全球范围内传播开来，被数以万计的网友下载，制作出各种换脸视频。开源而且免费的程序，如DeepFaceLab，FaceSwap，myFakeApp，目前在GitHub等代码托管平台上可任意获取，手机版的换脸程序应用，如FakeApp，也在2018年初“Deepfakes”出现不久后问世。 大规模公开传播似乎进一步加快了这项技术的发展进程，到2018年8月，加州大学伯克利分校已经开发出类似“换身”的应用了——它能捕捉已有的视频人物动作，并同步到另一个人物身上。简单来说，哪怕你是个四体不勤几百斤重的胖子，以后在视频里跳街舞芭蕾都不是问题。 2018年11月14日，深圳，第20届高交会上展出的AI换脸技术。 （视觉中国/图） 《福布斯》一篇报道曾根据搜索关键词的分析发现，目前对于AI换脸的应用，绝大多数公众感兴趣的仍是小黄片。 把各种名人女性的头像移植到色情电影里一直是AI换脸普及以来用得最多，且至今仍让国外网友乐此不疲的玩法。基本上绝大多数国际一线女星，包括珍妮弗·劳伦斯、盖尔·加朵、斯嘉丽·约翰森、泰勒·斯威夫特等人在内，全都中过招，被出演了无数部色情电影。 以Naughty America为首的色情片厂商，甚至顺水推舟地发布了定制服务：让你和你最喜欢的人，无论普通人或名人，一起出现在一个场景中，还能把片中的人物放置于海滩、冰天雪地、天上人间等现实里不可能拥有的环境中。 玩完风月便是玩政治。世界政坛上叫得上的人物几乎无一幸免，极富争议的美国总统特朗普则是AI换脸视频的宠儿，他会在换脸视频中爆粗、骂人、侮辱女性，同时在奥巴马等人的换脸视频中，特朗普会被咒骂得一文不值。 被恶搞得最惨的斯嘉丽·约翰森此前接受采访时对此感到很无奈：“其实并没有给我带来什么太大影响，因为看的人也知道那不是我……但如果能这么折腾我，那么几乎所有人都无法幸免。”同时她也提出法律对AI换脸监管失控的担忧，因为“每个国家法律标准都不同，在这里违法，在别的地方可能又不违法”。 斯嘉丽的这种担心不无道理。全球范围内来看，近两年内出现了数不清的名人换脸视频，却从来没有出现过一桩相关的法律诉讼或者追究。虽然Reddit、Twitter、Tumblr等社交平台，甚至连Pornhub这样的色情视频网站都因为法律和公关风险全面封杀AI换脸视频，新的作品却仍在不断出现并广为流传。 类似情况在中国尚未大规模流行，但背后也存在纠缠不清的道德和法律隐患。比如今年3月份B站上开始出现一条1994年版射雕英雄传的片段，里面由朱茵饰演的黄蓉，脸被换成杨幂。这算是AI换脸技术在中国公众面前的首次大规模亮相，似乎也没带来什么恶性后果，不过也应当引起人们对这项黑科技能量的警惕。 一些国家已经在考虑相关立法的可能。就我国而言，今年4月20日，民法典人格权编草案二审稿提交十三届全国人大常委会第十次会议审议。其中拟规定：任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。同时还规定，其他人格权的许可使用和自然人声音的保护，参照适用本章的有关规定——这被媒体视为是对AI换脸的针对性立法。 （视觉中国/图） 2016年大选中，关于竞选者特朗普和希拉里·克林顿的多个假新闻在Facebook等社交平台上大量传播。 很不幸，标题党假新闻这种东西在全世界都很吃得开。虽然Facebook的创始人马克·扎克伯格曾极力辩解，认为Facebook上的假新闻不可能改变大选。不过，调查仍显示，在总统竞选的最后三个月里，Facebook上的假新闻比真新闻更受欢迎，也吸引了更多互动。 在 2016 年成功赢下大选后，特朗普自己也承认，他在 Facebook、Twitter和Instagram等社交媒体上有很多粉丝，这是一种巨大的力量。他认为这种优势帮助赢得了此次大选。特朗普还称：“对手花的竞选资金远比我多，但社交媒体有着更大的威力。我认为在一定程度上我证明了这一点。” 如果说单纯的文字假新闻已经能带来巨大影响，甚至改变国家政治进程的话，如果人们还抱着有图有真相的想法，无限逼真的假视频又能有多大力量？ 美国共和党参议员卢比奥，就曾将Deepfake与核武器相提并论。“过去，如果你想威胁美国，那你需要10艘航母、核武器，还有洲际导弹。现在，你只需要登录我们的互联网系统、银行系统、电网、基础设施网络，甚至，你只需要具备弄出一段可以以假乱真的虚假视频来搞乱我们的选举就行了。这就足以让我们的国家陷入巨大的内乱，深深削弱我们。” 2019年1月20日，美国三大情报部门——联邦调查局（FBI）、国家安全局（NSA）、中央情报局（CIA）联合发布了《全球威胁评估报告》。其中着重提到了网络攻击逐渐向人工智能转变，或将影响到大选的安全进行。报告指出：敌对势力，或是竞选对手很可能企图使用deepfakes或者其他的相似的机器学习技术来制造虚假图片、视频、音频，来抹黑候选人以及相关人士。 国家安全领域当然要更早地注意到这一新技术带来的挑战。美国国防部下辖的高级研究计划局（DARPA）便开始进行识别AI换脸视频的研究，在砸下6800万美元后，DARPA在2018年宣布成功开发出一套识别系统。 但同样有实验指出，目前最先进的人脸识别模型和检测方法，识别换脸视频的错误率高达 95%。专家认为，AI换脸技术会不断更新换代，如果要保持识别检测技术的绝对优势，需要持续不断的研究投入，这是个无底洞。 唯一可以确定的是，当有图不再有真相，未来人类社会的认知观念、伦理道德，都会迎来不同程度的改变。
