ZAO换脸APP刷屏真相:陌陌打造,技术曾被用于情色视频
转载May-akda: 创业最前线
Buod用户只需要在APP中上传一张照片,就能将自己的脸替换成“小李子”“周润发”“白展堂”“玛丽莲梦露”“绯红女巫”等人的脸,其人脸融合效果非常棒,几乎可以以假乱真。
▲人物原图
玩法解读
▲侧脸将会被系统拒绝
▲使用前要先验证
公司背景:陌陌联合创始人+COO
▲雷小亮
▲王力
AI换脸早在2017年就火爆全球其实,AI换脸视频并不是新鲜事了。早在2017年12月,国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上,它能够把照片和视频中的人脸替换成任何想要替换的人脸,且效果十分逼真,有些肉眼甚至难以分辨真假。▲deepfakes在Reddit上上传的部分换脸视频当时,“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星,这也是世界上所有人们第一次公开见识到AI换脸的强大。随后,由于大量受害者的投诉,Reddit论坛迫于压力封杀了“deepfakes”的账号,不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。在代码开源后,AI换脸技术已经有如普罗米修斯盗来的火种,一瞬间撒遍了世界各地。只要具备基础的电脑知识,即使一个“菜鸟”也能在几个小时内做出一部换脸视频,该项技术立刻风靡全球。人们为了纪念“deepfakes”,就采用它的ID命名了AI换脸技术,称之为“deepfakes”。而AI换脸真正在国内火起来还要说今年年初,B站UP主“换脸哥”发布的一段94版射雕英雄传视频。▲饰演黄蓉的朱茵的脸被替换成杨幂视频中,原本饰演黄蓉的演员朱茵的脸被用“deepfakes”技术替换成了杨幂的脸,从流出的视频和动图看,虽然是用AI合成的,但是整体效果十分逼真。虽然ZAO并没有表示其换脸技术源自开源的“deepfakes”代码,但其技术有着强烈的相似性。“deepfakes”技术背后的来源是一种名为GAN(生成式对抗网络)的AI模型,它在2014年10月由前谷歌著名神级技术大咖Ian Goodfellow发布的一篇GAN论文而奠定了地位,GAN是当前人工智能学界一个最热门的研究方向。(论文地址:https://arxiv.org/abs/1406.2661)今年4月,Ian Goodfellow正式宣布加盟苹果,他将在苹果公司领导一个“机器学习特殊项目组”,担任总监级别职务。结语:AI换脸技术火爆,背后隐忧重重
当下,AI换脸技术已经蓬勃爆发,并且被一再恶意使用。国内外都有用户使用该技术进行明星人物的换脸恶搞、甚至生成虚假视频——比如今年6月时,Facebook首席执行官马克•扎克伯格的一段被篡改过的视频浮出水面,在视频中他对该公司的用户数据隐私提出了质疑。▲扎克伯格视频被篡改在这些事件发生后,扎克伯格上个月在Aspen Ideas Festival上向观众讲述了Facebook正在考虑制定应对deepfakes的政策。(详见:美国刮起“反AI换脸”热潮,创企各出奇招,联合对抗deepfakes)更有甚者,目前AI换脸黑产已经在国内形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有提供,有的卖家甚至提供全产业链产品和售后服务。(参见智东西深度报道:AI换脸黑产:100元打包200部换脸情色片,5张照片就可定制视频)据部分卖家透露,现在定制视频要排队,因为前面有很多人也有这个需求,可见AI换脸黑产已经发展到一定程度。对于目前火爆的ZAO软件,智东西也有两大疑问:1、视频素材的版权如何保证?视频素材的版权是个关键点,软件的版权声明中说:“ZAO产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权。”很少有看到有特别声明的素材,言下之意说素材都是用户传的,这有甩锅的嫌疑。但奇怪的是,在上传素材的菜单下,显示上传素材需要通过权限认证,但认证并没有开放,灰色按钮显示“暂停申请”,那现有的这些用户上传的素材是哪来的呢?2、如何保障用户隐私,不被随意换脸虽然APP在开始时需要进行活体验证,且软件的长长隐私保护协议对可能对用户隐私有影响的地方做了说明,但是否能完全避免用户拿到一张别人照片后恶搞存疑。
(责任编辑:Aimee)
▲deepfakes在Reddit上上传的部分换脸视频
▲饰演黄蓉的朱茵的脸被替换成杨幂
结语:AI换脸技术火爆,背后隐忧重重
▲扎克伯格视频被篡改
转载声明转载声明:本文系后花园转载发布,仅代表原作者或原平台态度,不代表我方观点。后花园仅提供信息发布平台,文章或有适当删改。对转载有异议和删稿要求的原著方,可联络[email protected]