有毒!莫让这些动画成孩子噩梦 “儿童邪典视频”充斥网络,背后潜藏利益链条
2017年,YouTube儿童频道上,突然出现大量以“艾莎公主”形象呈现,却包含大量色情、血腥暴力等儿童不宜情节的视频。(资料图片)1月22日,迪士尼经典卡通人物“米妮”在好莱坞星光大道印上属于自己的那颗星。然而,在某一个阴暗的角落,有一些人正用充满暴力、血腥和色情的改编“动画”荼毒着电子设备前的孩童。腾讯视频23日回应新华社记者证实,截至当天,腾讯下架涉儿童“邪典”原视频1464条,对23万条存疑视频作批量下架处理,对53万余条视频撤回复审,封禁恶意账号621个。相关视频的清理工作还会持续进行。
技术难以完全鉴别
同样来自迪士尼的“艾莎公主”是“儿童邪典视频”里出现频率最高的人物之一。近两年,国外知名视频网站“优兔”(YouTube)曝出“邪典视频”,被媒体称为“艾莎门”。
这些视频情节简单粗暴,多在手机和平板电脑客户端上播放。美国媒体认定,视频由成人制作,目标瞄准不太识字、极易受画面影响的学龄前儿童。试想,一个三四岁的孩子看到艾莎公主做开颅手术,会对心理造成什么影响?
颇具迷惑性的是,这些动画大多配以欢快音乐和儿童笑声,上传者把视频标签定为“卡通”“教育”等,与正常动画视频混杂在儿童频道中。除非家长“一陪到底”,否则粗看之下难以发现异样,防不胜防。
“优兔每分钟上传的内容达到300小时,一秒一秒地审查每部视频不可能,”美国技术伦理学者波尔格接受记者采访时说。
“为简化流程,优兔等主要平台结合使用人工智能工具、用户报告和版主。然而,不少家长可能会想当然地认为,优兔儿童频道等完全由人工挑选并审查。坏人正是利用这个漏洞,故意把不良内容标记为看似适合儿童的内容。”长期从事儿童发展心理学和早期教育研究的心理咨询师高璇告诉记者,在画面、声音和文字三种传播途径中,低幼儿童是最易受画面影响的,因为从儿童发展心理学来看,孩子一直到八九岁,都是“画面处理信息优先”。
高璇说,画面带来的影响,在孩子记忆中储存的时间比文字和声音都要长。孩子因为无法理解和处理看完恐怖画面后产生的害怕、焦虑情绪,常常出现睡眠障碍。
更让人心惊胆战的是,在“算法”推波助澜下,只要不慎点开类似视频一次,后续视频就会源源不断推送至用户。“艾莎门”曝光后,“优兔”迫于各方压力,去年11月宣布删除超过15万个视频。
国内视频网站纷纷中招
这些“精神垃圾”早已大规模流入国内,优酷、爱奇艺等国内高流量视频网站的儿童频道纷纷中招。更有甚者,包括动画及真人的“本土”视频已然出现,部分视频甚至有儿童出镜,一些视频点击量颇高。
有网友在社交网站上写道,这些视频饱含来自成人世界的“恶意”。网络平台行业人士认为,恐怕不止“恶意”这么简单。“儿童邪典视频”的背后,潜藏一条外人难见的利益链条。
国内外视频网站通行规则是,只要视频点击达到一定数量,网站就会自动在视频开头或中间插入“贴片广告”。只要用户打开视频,广告就会自动播放,视频上传者由此获得广告收入分成。
全国“扫黄打非”办公室22日说,已部署开展深入监测和清查。多个网站也开始自查和清理相关内容。腾讯视频表示,已第一时间成立了集运营、安全、技术等在内的专项清理小组,北京、成都、深圳三地联合,投入超过100人,24小时不间断处理有害视频,并且与其他视频网站保持紧密联络,共享关键字和有害样本。
腾讯视频认为,此次“儿童邪典视频”在国内呈现总量大、分布广、密集上线、变种类型多等特点,大部分上传账号多为个人账号和搬运类账号,一些搬运账号有上传热点以吸引点击的动机。不过,如此大规模的集中爆发,涉及账号较多,还需要进一步分析和调查。目前,腾讯已采用音视频指纹、ES搜索等技术,以快速处置有害视频。“针对少儿内容,我们将重新制定审核标准和尺度,运用人工智能(AI)学习有害的视频样本,打击后续有害内容的上传和传播。”据新华社
新闻推荐
新华社记者李延霞3452张罚单，1877家机构、1547名责任人员被罚，罚没金额近30亿元！在银行业监管史上，从来没有这么多银行机构在一年内吃了这么多罚单。与2016年相比，处罚机构数量增长近3倍，罚没金额超过1...
成都新闻，讲述家乡的故事。有观点、有态度，接地气的实时新闻，传播成都正能量。看家乡事，品故乡情。家的声音，天涯咫尺。