刷屏的“换脸” 有什么风险？
原创： Lens WeLens
一夜之间， 人们仿佛被“克隆人”占领：一款 主打视频换脸功能的应用软件“ZAO”刷屏了。
这个功能并不新鲜， 但会成为现象，恰恰在于“ZAO”的功能极简、难度极低，人人皆可快速上手，又可利用社交网站病毒式传播。
据悉，“ZAO”应用由陌陌科技旗下的“孙公司”长沙深度融合网络科技有限公司开发。另有消息称，“ VC已经在排着队约见团队要投资了。 一堆仿的APP也已经连夜在提交审核，很快就可以上线。”
该应用在iOS商店里排在前列的评论
但也正因为太过火爆，它引发了很多争议。
01
你看过它的“用户协议”吗？
“ZAO”用户协议（部分）
很多用户并没有仔细去看 “ZAO”这份非常有中国互联网特色的“用户协议”—— 从协议中可以发现：
6.1的授权充斥着“完全免费 ”“不 可撤销”“永久”“可转授权”等字眼， 这意味着它可将你的肖像和资料，任意授权给自己想授权的第三方，并且可修改；
还有第6.2项，“如果您把用户内容中的人脸换成您或其他人的脸， 您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利， 包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权， 以及利用技术对您或肖像权利人的肖像进行形式改动。 ”
这意味着将明星肖像权问题甩给了用户。
第7项则是在说：一旦有纠纷产生，技术无罪，要用户来承担。
……
换脸视频会侵犯肖像权、著作权、影视改编权等，还待法律意义上的厘清。
部分用户意识到了隐私问题。
如果不经提醒，很多人都没有查看这些协议的习惯。
百度CEO 李彦宏之前就说过：“中国人对隐私不敏感，愿意用隐私交换便捷性”。他只是说出来了，更多的人是默默地干着。
看得出来，“ZAO”在功能设置考虑过一些安全问题，比如需要人脸安全认证；上传照片不支持低像素和下载的照片；拍照方式上传，仅支持前置摄像头，并且会识别公众人物。未认证过的人脸生成的视频无法分享，并且在视频上面会有动态水印。
但这些限制，通过录屏等第三方软件，不难绕过去一些。
更重要的是，包括面部识别在内的重要隐私数据和权利让渡出去，一旦泄露，就极易被用于违法行为。
央行科技司司长李伟在一个论坛上表示，“人脸是非常敏感的个人信息，一旦泄露或被盗取，会带来非常大的影响……有技术也不能滥用，有技术也不能任性。”
大数据专业人士也提醒存在的风险：
对换脸技术表示担忧的声音。
8月31日午间，支付宝回应称，目前换脸技术无法突破刷脸支付。虽然如此，将自己的面部识别信息交出去，还是留下了巨大的安全隐患。
在“ZAO”之前，已经有不少类似的软件存在，但多数还属小众。不妨把它的火爆，视作一种提醒：
这种技术离我们如此之近，未来某天，如果发现自己出现在某条色情视频中、 被人指控从事诈骗，或者听说有人替你和亲朋好友通过话，你都不要太过惊讶……
话题的讨论让人们注意到同类技术中的安全问题
02
挡不住的技术
其实，恰恰因为AI换脸是一项很好用的技术，门槛很低，很容易上手，才会带来这么剧烈的冲击。
早在2017年12月，一个ID名为“deepfakes”的Reddit用户首次将自己制作的AI换脸视频发在网上，其中包括将情色电影里的女主角换成盖尔·加朵等好莱坞明星。
情色片女主角的脸被换成盖尔·加朵
这让人们第一次见识到AI换脸的强大，也引来众多受害者的投诉。
“deepfakes”账号因此被封杀后，直接开源了其AI换脸项目的代码，此后，这项技术就被命名为“deepfakes”。
它后来的发展也呈星火燎原之势，门槛越来越低。
AI换脸在国内火起来，是年初一段94版“射雕”视频。 饰演黄蓉的朱茵的脸被替换成杨幂。
因为是机器学习，“deepfakes”的技术进化极快。
《经济学人》的一篇文章里指出 ：“毫无疑问，换脸技术出现后，制作假视频的门槛已经大大降低了。以前，只有专业人士才能做出来；而现在，只要能连上网，手头有几张照片，人人都可以做。”
生成式对抗网络（GAN）让假视频变得更真。这是一种机器学习技术，一个系统不断生成虚假的图像，另一个系统不断识别图像的破绽。两个系统相互博弈，最终制作出统计学意义上完美的虚拟图像。
现在的假视频，早就不是把几张现成图片粗制滥造地混在一起。深度学习的软件可以在分析现有图片后，做出一张完全不依赖它们的新图。
的确，技术本身是无辜的，它可以被用于很多正面的用途，比如像《速度与激情7》，因为主演保罗·沃克遭遇车祸，就是靠换脸技术完成了他余下的戏份。
但利用它来作恶的，也已形成了完整的产业链。
03
情色片早就盯上这个技术
下面的动图截自早前一些使用 AI 换脸技术制作的情色片。 现在的技术已经更为强大。
“艾玛·沃森”
“娜塔丽·波特曼”
今年初，斯嘉丽·约翰逊就在多个场合，炮轰这种假色情片行为。她说：
“互联网是一个巨大黑暗的虫洞。我没法阻止一个陌生人把我的照片拼接到另一个人的身体上。这件事对我个人造成的影响不大，因为大家都知道那不是我。但是我希望，女性和小孩们今后在网上能够倍加小心。因为很快就会有普通人被盯上。”
事实上， 针对普通人的假色情片制作已经形成了一个灰色产业 。
在国内很多网络交易平台上，100元就可打包200部换脸情色片，囊括国内一二线女明星；定制换脸视频， 低于1小时只需100元，可为你制作自己同事、同学或朋友的假色情片。
“ZAO”的app宣传页上写着“仅需一张照片”。 假色情片制作同样只需要照片而已——而你的这些个人照片，网上可能很容易找到，对吧？
有一天，如果你中招出现在某个不可描述的画面里时，连嫌疑人都很难锁定。
换脸视频的受害者几乎没有反击的工具。 美国法律专家表示，换脸视频往往难以追踪，无法调查，而且存在一个法律灰色地带： 它们建立在公开照片的基础上，实际上是新的创作，这意味着它们可以作为言论自由受到保护。
几个月前，有个ID为 “阿尔贝托”（Alberto）的程序员开发了 一款名叫DeepNude的应用： 只需要上传一张女性照片，该应用就能自动移除女性身上的衣服并“填补”出裸体。
这种“一键脱衣”使用的是和AI换脸类似的算法。 后来，迫于全网压力，DeepNude宣布下线。
但就像开发者辩解所说， “技术已经发展到这一步了，如果我不这样做，别人也会在一年内做出来。”
技术本身是挡不住的， 所以更需要人们来予以约束。
谷歌公司在这个问题上的态度也很有代表性。他们说自己很重视道德责任，但认为如果对新技术严加限制，可能会让延缓开发出一些对人类有益的用途。
计算机科学家法里德认为这是一种狡辩：“你能想象一个生物学家对人们说：“嘿，这有一种非常酷的病毒，我们看看如果人人都能感染它会怎么样”吗？”
法里德说：“这项技术太不成熟了，科技公司必须放慢推广它的步伐。”
04
它会摧毁我们对外界的信任吗？
“ZAO”在图片上传时，对公众人物的照片进行了拦截。有用户疑问说：“它如何充分定义和识别公众人物呢？”
这种拦截，是因为公众人物的换脸视频危害更大，特别是利用他们来发表一些观点。奥巴马、特朗普，都曾是此类视频受害者。
今年6月初，一则以Facebook总裁扎克伯格为素材的换脸视频在Instagram上传播开来。在视频里，假的扎克伯格说：“试想一下，一个人拥有几十亿人的数据，他知道这些人的秘密、他们的生活，甚至他们的未来。而这些数据全是偷来的。”
它以扎克伯格的名义讽刺了他自己。
此前，扎克伯格一直对Facebook上的假视频态度暧昧，强调不应该由平台来判断什么是真假。
到6月底，扎克伯格宣布，Facebook已经在制定新的换脸视频监管政策，来预防它们造成恶劣影响，并且表示：在未来，Facebook可能会完全禁止换脸视频。
而与此同时，“语音克隆”也取得了突破，现在，只需提供几秒钟的语音样本，就可以模拟出非常相似的人声。百度，谷歌、Adobe等公司都在开发相似的项目。
视频加上声音，恐怕你自己来鉴别都会有难度。
“人在家中坐，祸从天上来。”未来不要感觉太奇怪。
当这种换脸视频的泛滥，耗尽人们去核查辨别的耐心之后，这种新技术很可能会摧毁公民社会里的相互信任。
你如何看待换脸AI？
主要参考资料：
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
阅读原文
新闻推荐
小米撤回CDR发行申请8月30日，证监会更新首次公开发行股票申请终止审查企业名单。名单显示，小米集团、南通国盛智能科技集团...