换脸一时爽？推特发布首个反Deepfake策略草案
原创： Synced 机器之心
机器之心报道
作者：张倩、蛋酱
昨天，推特正式发布了首个反 Deepfake 策略草案。该公司表示，如果 Deepfake 内容威胁到某人的人身安全或可能造成严重伤害，他们会将该内容从推特上删除。目前，推特还在为这项草案征集公众意见。
还记得火遍全网的换脸 APP「ZAO」吗？这款应用一经上线就引爆了社交网络，将换脸的门槛拉到新低，只要下载一个 APP 就能轻松玩转换脸。
换脸一时爽，但一旦被滥用，可就不能一直爽了。10 月份的一份调查报告显示，目前的 Deepfake 视频 96% 仍为色情内容，会对广大女性造成极大的困扰。此外，美国等国家的政客也担心 Deepfake 会被用于抹黑政客、干预大选，所以一直非常警惕，并敦促各大科技巨头出台相应措施。
作为响应，昨天，推特公布了一版关于打击 Deepfake 策略草案的细节。
这家社交媒体表示，当发现有人上传试图引导大众或者混淆视听的 Deepfake 文件时，他们会做出以下处理：
在涉及 Deepfake 视频、图像等文件的公开推文旁边，进行相应提醒；
在用户试图「分享」或「点赞」Deepfake 文件的推文之前，进行警告性提示；
添加一个链接（指向新闻报道或者推特 Moment），以便人们可以参考更多来源来判断这条确实是 Deepfake 文件。
推特表示，如果一个 Deepfake 内容威胁到某个人的人身安全或可能造成严重伤害，他们会考虑将该内容删除。
目前，该公司正在进行一项调查，征集用户的反馈意见。调查结果显示，用户认为，如果一个 Deepfake 内容对某人的心理健康、隐私、尊严、财产或其他方面造成威胁，该内容也应该被删除。
该管管 Deepfake 了
在 AI 技术的加持下，Deepfake 视频等内容数量激增，仅去年一年就翻了一番。这让人们更容易制作以假乱真的音视频文件，但当这种技术变得人人可用时，事情就越来越危险。因为它导致了「眼见不一定为实」。
2017 年底，Deepfake 刚刚在 Reddit 上火爆起来，网友们群起而入，短时间内就出现了大量 AI 换脸的视频——但问题在于，这个「Deepfakes」社区慢慢变成了色情作品的聚集地，最后被彻底关闭。
今年 7 月份的时候，有一款叫做「DeepNude」的「自动脱衣」APP 一度火热，但又迅速下架。它的功能很简洁却又很恐怖： APP 可借助神经网络自动「脱掉」照片中女性身上的衣服，从而展现其裸体。
除了以上不可描述的应用，Deepfake 在政治上也容易被不轨之徒所利用。
比如在政治选举活动中，Deepfake 可以制作某位候选人从未说过或做过的事情的文件，无中生有或者歪曲事实，故意破坏该候选人的声誉。
几个月前，美国民主党议员南希·佩洛西（Nancy Pelosi）在美国进步中心的一段演讲视频在 Facebook 上疯传。视频中佩洛西的语速被降到了原版的 75% 左右，同时音调也被人为调高，阴阳怪气，宛如醉酒一般。这条恶搞视频对当事人的心理产生了很恶劣的影响。但当时 Facebook 拒绝下架该视频。
该事件引发了美国政客对这些大型社交媒体的不满。有消息称，在 Facebook 决定保留佩洛西「醉酒」的视频之后，扎克伯格曾试图打电话给佩洛西，探讨社交媒体假视频的应对方案，但却被佩洛西拒接。之后，美国政府不断呼吁社交媒体加强对虚假视频等内容的监管。
10 月初，参议院情报委员会的两名成员 Mark Warner（D-VA）和 Marco Rubio（R-FL）呼吁大型科技公司们（包括 Facebook，推特，YouTube，Reddit 和 LinkedIn）共同制定一项计划，联手打击平台上的 Deepfake。为了配合这项计划，推特在当月晚些时候宣布了自己的下一步计划，并寻求有关该策略的公众反馈，所以我们才能看到昨天公布的这项草案。
除了推特，其他科技巨头也没闲着
其实，除了推特之外，Facebook、亚马逊谷歌等科技巨头也采取了一系列抵制 Deepfake 假视频泛滥的措施。
今年 9 月份，Facebook 宣布将斥资 1000 万美元，与微软、Partnership on AI 及多所高校共同发起一场 Deepfake 检测挑战赛。他们通过用 GAN 等工具生成的假视频来测试检测工具的效果。
10 月份，亚马逊也宣布支持这场挑战赛，为机器学习专家提供「技术支持和指导」，并将向需要云服务以完成检测工作的团队提供 100 万美元的 AWS 积分。此外，他们还将为竞赛提供数据集等帮助。此外，该项目还涉及来自康奈尔科技大学、麻省理工学院、牛津大学、加州大学伯克利分校、马里兰大学帕克分校和纽约州立大学奥尔巴尼的学者。
当然，在这种公益活动面前，「不作恶」的谷歌也不甘落后。今年 10 月份，谷歌宣布开源大型 Deepfake 视频数据集，以支持社区对 Deepfake 检测的研究。为了制作该数据集，谷歌在过去一年中与多名有偿和无偿演员合作拍摄了数百个视频。然后，他们使用公开可用的 Deepfake 生成方法，基于这些视频创建出数千个 Deepfake 视频。这些真、假视频共同构成了 Deepfake 视频数据集。
即使 Deepfake 代表着人物图像合成技术的进步——但在监管和审查尚不够给力的阶段，大家面对的仍然是「泥沙俱下」。在走上正轨前，我们与 Deepfake 之间，恐怕还要经历几轮博弈。
参考链接：
https://techcrunch.com/2019/11/11/推特-drafts-a-Deepfake-policy-that-would-label-and-warn-but-not-remove-manipulated-media/
原标题：《推特发布首个反Deepfake策略草案：换脸一时爽？推文火葬场》
阅读原文
新闻推荐
美国卡特中心（TheCarterCenter）当地时间11日发布消息说，美国前总统卡特已被送往亚特兰大的一家医院，以治疗因近期跌倒造成的...