四川> 今日四川> 正文

AI 与 脸

成都商报 2019-09-10 02:30 大字

编者按

近日,AI换脸APP引发热议,其背后的网络数据安全问题被广泛关注。

与此同时,另一个引发关注的事件则是,通过“AI认脸”技术,四川、深圳两地警方先后寻回10余名被拐十余年以上的孩子。

认脸和换脸,AI技术在我们面前呈现的两张脸孔,似乎正应了那句古话——福兮祸之所倚,祸兮福之所伏。

那么,如何更好地运用AI造福人类,应该成为更值得我们关注的话题。

AI换脸

深度伪造面部和声音

专家担心这项技术被武器化

近期,一款名为ZAO的人工智能换脸APP在国内引发热议,工信部就网络数据安全问题约谈了相关公司。

与此同时,“换脸” 软件所依托的的一项AI技术,也引起了人们的关注,它被称为:DeepFake(深度伪造)。

近日,长沙市反电诈中心发布紧急预警,提醒市民使用AI“换脸”及类似软件风险极高,不仅可能造成个人隐私数据泄露,甚至可能被不法分子用于实施电信网络诈骗。

网络视频打假专家:

曾经的电影特技

如今泛滥“成灾”

据全球多家媒体报道,深度伪造技术(AI换脸)是利用人工智能合成以假乱真的视频,可以实时伪造面部表情,并将其渲染成2D合成视频的人工智能技术。这种高科技手段,甚至可以把某些话塞进某人嘴里。

早在2017年12月,一个名为“DeepFakes”的用户在Reddit网站发布“假视频”,将成人色情电影中演员的脸替换成了斯嘉丽·约翰逊等知名女演员的脸,画面以假乱真。这为人工智能换脸技术吸引来了一大波流量,“DeepFake”深度伪造,也逐渐成为这一技术的代称,同名算法也在Github开源,这是一个面向开源及私有软件项目的托管平台。

网络视频打假专家沃德尔博士说,深度伪造用来形容人工智能技术合成的视频或音频文件。它起初就是一种非常基本的面部更换,后来成了电影特技。“有了这样的爆款技术,天啊,我们不能相信任何东西了。深度伪造只会变得更容易,制作成本也更低廉。”

计算机专家:

我担心这项技术被武器化

还担心它影响我们整个社会

李浩是美国南加州大学的助理教授,“针幕动画”公司的联合创始人,这家公司推出的软件可以让用户在玩虚拟现实游戏和购物时,即时定制自己的三维虚拟化身。他说,这种戏法可以用在任何人身上,当然也包括政界要人。“这个技术可以用来做一些很坏的事。但主要目的绝不是如此,它被用于娱乐、时尚、生活方式各方面,带给我们更多体验。”李浩说。

但随着技术的发展,这样的合成图像或视频,真实度越来越强,欺骗性也越来越强。对此,研发者也不无担忧。“我们都假设会有一个临界点,届时将无法区分真假。我的意思是,从视觉效果上说,你已经可以做到非常接近了,只是取决于你花多少努力在上面。”李浩说。

2018年1月,一个名为FakeApp的软件上线,宣称可以实现“一键换脸”。可生成的视频内容包括恶搞美国总统特朗普,或是将自己的脸贴到好莱坞明星身上。

虽然有的社交新闻站点比如Reddit网站,已明令禁止在自己的平台传播换脸视频和图片,但仍有超过9万名用户在Reddit上传播这类视频。

计算机科学专家法里德表示:“我担心这项技术被武器化,还担心它影响我们整个社会。”

AI伪造声音

四国语音欺诈案件增加350%

脸书拟投千万美元“打假”

据《华尔街日报》报道,今年3月,有犯罪分子利用“深度伪造”技术,电脑合成某公司CEO的声音,成功诈骗22万欧元。

电脑合成声音真的这么难以识破吗?2018年,三名蒙特利尔大学的博士联合创办了一家名为“琴鸟”(Lyrebird)的公司。该公司开发出了一种“语音合成”技术,只要对目标人物的声音进行1分钟以上的录音,把录音丢给“琴鸟”处理,就能得到一个特别的密钥,利用这个密钥可以用目标人物的声音,生成任何想说的话。而且,“琴鸟”还能在合成声音中加入“感情”元素,让声音听上去更逼真。

网络安全公司Pindrop在2018年五月对美英德法四国共500家企业展开网上调查,结果显示,从2013年到2017年,语音欺诈案件的数量增加了350%,每638个欺诈电话中就有1个是人工合成声音。

美国卡内基国际和平基金会也警告称,深度伪造正在带来破坏性的影响,也会对反恐和国家安全造成危害。今年6月,图片分享网站Instagram出现这样一段视频。脸书公司创始人扎克伯格就大数据的威力发表演讲。但很快,扎克伯格就辟谣说,自己从未说过这些话。事实上,这是以色列一家科技公司利用深度伪造技术合成而来的。

近日,脸书、微软等科技公司和众多学术机构联合发起一场“揪出深度伪造影像挑战赛”。9月5日,脸书宣布将为此投入1000万美元。

如何应对

世界多国开始进行立法

强化对人脸信息收集的约束

目前,世界多国开始进行立法,强化对人脸信息收集和识别技术应用场景的约束。作为人工智能发展大国,中国也已经在加强政策和技术方面的监管,应对人工智能新技术可能带来的安全风险。

而如何从技术手段应对AI换脸?计算机科学专家法里德表示,我们建立了软生物识别模型。这些生物特征指的是指纹、虹膜、面部等。它没有那么独特,但其目的是捕捉微妙的面部表情、头部移动,这些每个个体独有的,但在假视频制作时被打乱了的特征。据央视新闻

AI认脸

凭借童年照片找回12名被拐者

包括19年前被绑架的男童

如果孩子被拐10年时间,案件线索中断,仅凭一张被拐时两三岁的照片,如何找到他?

2019年,借助跨年龄人脸识别技术,四川警方成功找回10名被拐男孩中的7人。随后,深圳警方同样依托该技术,找回5名被拐儿童,其中时间最久的,已经被拐19年。

公安部刑事侦查局打拐办主任陈建锋认为,跨年龄人脸识别技术将原本十几万的数据范围缩小到三位数以内,大大缩小了警方的侦查和落地工作。

传统画像

比对十余万张照片 没有找到一个

2009年前后,四川发生10起拐卖儿童案,2014年嫌疑人被四川警方抓获时,由于买卖儿童的中间人没找到,10名儿童一直下落不明。

2015年,专案组联系了沈阳著名刑事相貌专家、中国刑警学院的赵成文教授画像,根据孩子们被拐时3岁左右的照片,模拟出他们10岁左右的画像。

根据这些画像,民警前往汕头,花了10天时间,从当地十几万张适龄男孩的照片中一张一张比对,挑出300多张照片带回四川,组织家长和幼儿园老师进行辨认。青少年时期正是相貌变化最大的时候,蒋晓玲说,家长辨认时,时常会觉得这都是自己的孩子,看着看着,夫妻之间有时又会为了当初丢孩子的事,陷入争吵。

四川省公安厅打拐处处长蒋晓玲回忆民警从这300多张照片中提取了176张“特别像的”进行DNA比对,可最终,一个也没比中。

专案组没有放弃,所有可以想到的办法,专案组民警都有尝试,然而局面还是陷入了困境。

科技助力

依托跨年龄人脸识别技术 找到19年前被绑架的男孩

2017年,正是人工智能(AI)快速发展的时期,人脸识别技术,已经运用到警方的办案领域。公安部刑侦局副局长陈士渠到企业调研,在得知人工智能和跨年龄人脸识别技术后,他想起了四川的这起拐卖案,他曾多次前往四川督办此案,希望找到突破口。事后,他让企业的技术团队和四川警方对接。

工作的第一步,是四川警方从家长手中收集10个孩子被拐时的照片,统一送往企业的优图实验室里,企业再用数字化高清仪器将照片提取出来。

和普通人脸识别技术不同,跨年龄比对是一个公认的难点,青少年阶段人脸特征变化最大,而这些年龄跨度超过了10年的儿童,技术应用是一个非常大的挑战,需要告诉AI,一个人的面部随年龄演变时,不变的那些量是什么。比如,一个人的耳垂长得很特别,或者他的眉峰、眉骨走向不一样,再将这些转化成数学语言。

2018年11月,比对照片交回到四川警方,后续仍有繁杂的侦查和确认工作。蒋晓玲组织民警,先用四个多月的时间,进行了基础的刑侦和落地工作,最终的认定,还是需要通过DNA的数据比对。

比对工作先后进行了三次,第一次的比对,找到4个被拐孩子。2019年2月进行第二次比对,找到1名儿童。2019年3月第三次比对,又找到两名儿童。至此,这10名被拐儿童中,只有3人尚未被确认身份。

鉴于四川的成功案例,2019年四五月,深圳警方将17个拐卖儿童的积案重新整理收集照片,利用AI技术在广东省的数据库进行比对。

广东省公安厅刑侦局反黑处打拐科袁炎良在四川这次行动前,就已经联系过多家企业,他想到既然成年人可以比对,能否尝试将儿童小时候和长大后的相貌也进行比对,但此前的多次尝试,均以失败告终。

深圳是一个外来人口较多的城市,与四川不同的是,这17起积案,他们没有找到嫌疑人,也没有孩子的明确去向,这次比对,属于盲比。“用这个技术试一试,孩子是否被拐卖在广东省内。”袁炎良也没有想到,最终能在17起积案中,比中5人,其中时间最久的,已经被拐19年时间。

那是2000年,深圳罗湖发生一起绑架儿童案,绑匪索要赎金二十万元,随后小孩和绑匪却消失了。多年来,警察没有放弃寻找,也曾找画像专家进行跨年龄模拟画像。孩子失联时只有3岁,19年过去了,他被找到时在深圳一家餐厅当厨师。

未来如何

AI寻亲向全国范围推广或面临难题

四川和深圳的成功,能否将跨年龄人脸识别技术从个案推向全国范围,这是公安部打拐办新的考虑。

近些年,从公安部、民政部到腾讯、百度、今日头条,政府和企业在合力完成一项任务:借助跨年龄人脸识别技术,让被拐和走失儿童回家。

根据公安部的数据显示,2016年5月15日,公安部研发,阿里巴巴集团提供技术支持的“公安部儿童失踪信息紧急发布平台‘团圆’”系统正式上线,截至2019年5月15日,平台发布儿童走失信息3978条,找回3901名,找回率98%,其中解救被拐儿童57名。这意味着,在近3年公安部发布的走失儿童中,仅有57名儿童是被拐卖。

但AI寻亲要想大规模应用,对于企业来说,还有很多复杂的难题。腾讯安全管理部安全专家汤海鹏在接受媒体采访中提到,跨年龄识别技术要想大规模应用起来,复杂的不是技术,是难以落到实处却又更加触及根本的伦理道德难题,如果想在全国推广,这个过程会很长,因为涉及很多要协调的事情。据新京报

新闻推荐

法考客观题全国合格分数线180分

2019年国家统一法律职业资格考试客观题考试成绩7日公布,全国合格分数线为180分。根据有关政策规定,继续对艰苦边远...

四川新闻,新鲜有料。可以走尽是天涯,难以品尽是故乡。距离四川再远也不是问题。世界很大,期待在此相遇。

 
相关推荐

新闻推荐