换脸APP引发隐私泄露担忧西安科技公司推出检测技术 是否换过脸 慧眼一看便知
8月30日晚开始，一款名为“ZAO-逢脸造戏”的AI换脸APP突然爆红，用户只需上传一张正脸照片，即可一键将自己的脸部无痕换到明星脸上，从而生成以自己为主角的经典电影片段、热门表情包，跟明星同场飙戏。截至8月31日15时，ZAO跃升至ios免费APP下载榜第1位，超越爱奇艺、腾讯视频，登上微博热搜第6位，同一时间等待体验AI换脸的超过1万人。
■记者张潇实习生杜荣
ZAO的爆红，引发个人隐私数据泄露的担忧。近日，记者采访了西安深信科创信息技术有限公司（以下简称深信科创）副总经理鲍帅，他解释说，AI换脸这一技术在2017年出现后，就曾引起轩然大波，当时有人将知名女星的脸换到某些情色影片中，甚至有普通人沦为这项技术的受害者，AI伦理与内容安全的问题也随之浮出水面。治理AI换脸方面的问题，绝不能再走过去“先乱后治”的老路，鲍帅对此十分认同。他所在的深信科创已经投入了大量的研究，致力于解决人工智能时代虚假多媒体、语音造假等新的社会问题。据悉，深信科创同时也是清华交叉信息核心技术研究院的孵化公司之一，致力于提升人工智能、金融科技等新兴软件系统的质量和安全。
鲍帅介绍，AI换脸的成本普遍在0.5-1元之间，随着互联网用户的大规模参与和技术的发展，这种低成本造假的问题日渐严重，很容易滋生诈骗，或者在各种人像识别场景盗用，甚至刷脸支付。一些有目的的人只需用视频或照片对AI进行训练，就能轻易完成换脸。目前，AI换脸一方面难以鉴定，另一方面执法成本太高，在网络上已经形成了换脸的灰色产业链。而一些以假乱真的换脸视频在网络上广泛传播，导致虚假广告、电信诈骗的出现，严重的还可能对国家的舆情安全、国防安全产生很大的危害。
互联网厂商的传统审核模式，很难快速精准地过滤虚假内容。如何用技术鉴定视频有没有被换脸？如何迅速检测网络存在的内容异常？成为网络信息安全问题的一项新的重大课题。
这些不安全到底是怎么回事呢？鲍帅解释，人脸识别、打卡签到、门禁、自动驾驶这些场景，在攻击者眼中都是可以攻破的。比如一些特别制作的标记图案，就能把机器视觉欺骗：把“你”变成“他”，或让你直接从机器的视野里消失掉。由于人工智能模型的数学解释性还不足，实际应用中可能会出现一些问题。深信科创从测试和安全的角度，去弥补数学解释性不足的问题：用前沿的质量测评算法和对抗数据，告诉厂商以及开发者，他们所使用的人工智能模型质量和安全性是否过硬。
“我们相当于一个人工智能算法的质检部门，质量测试不通过，或者我攻击你的模型成功了，那你就是不合格。换句话说，测试和攻击都是为了保障安全。”鲍帅告诉记者，深信科创目前的产品包含两个内容：一是深度学习的模型质量保障；一是多媒体内容安全，也就是前面提到的如何辨别AI换脸造假的技术。鲍帅是2017华为研究所优秀工程师，也是华为公有云CTO办公室成员。他表示，公司在AI换脸检测、合成检测、造假识别这些领域已经积累了大量的研究和实践，推出了AiMediaGuard合成视频检测技术。该技术可以检测视频中人脸的真假，即是否存在换脸。针对此次ZAO的爆红，深信科创也在第一时间用AiMediaGuard检测了大量视频，检测的成功率达到了99%。
据介绍，人工智能安全领域是新兴的行业，对技术和科研积累的要求很高，国外大多数从业者都是一些高校实验室，还没有出现商业公司，国内商业化公司目前只有深信科创一家。目前深信科创联合中国电子技术标准化研究院（CESI），成立了“人工智能测评技术创新实验室”，旨在为国家建立人工智能质量测评和安全的行业标准，共同推动行业的健康发展。作为初创团队的深信科创，有着良好的技术积累和学术背景，依托清华交叉信息核心技术研究院，持续为我国人工智能技术的发展献智献力，力争成为人工智能安全领域的独角兽企业。
新闻推荐
对于准爸爸妈妈来说，等待小生命出生的每个瞬间，都值得纪念。日前，西安市第三医院妇产科举办孕妇彩绘走秀活动，准爸爸们手持画...
西安新闻，讲述家乡的故事。有观点、有态度，接地气的实时新闻，传播西安正能量。看家乡事，品故乡情。家的声音，天涯咫尺。