人脸识别“试水”课堂引热议 本意是提高学生到课率,但专家称规范缺失易导致侵犯学生隐私
近日,南京某大学在部分教室“试水”人脸识别系统引发网友热议。该系统不但可以识别每个进出教室的学生,自动签到签退,还能识别学生发呆、打瞌睡、玩手机等行为。校方称,此举是为提高学生到课率,严肃课堂纪律。
近年来,人脸识别进校园的尝试越来越多,但每一次曝光都伴随着极大的争议。有专家对记者表示,人脸识别进课堂已经超出了正当、合法、必要的限度,涉嫌技术滥用。
2019年秋季开学伊始,南京某大学就因为几天前的一段视频被顶上了微博热搜。
原来,该校在校门、图书馆、宿舍安装了新的人脸识别门禁,部分教室内还装上了人脸识别系统,不仅可以有效杜绝由别人代签到的情况,还能识别学生发呆、打瞌睡、玩手机等行为。校方表示,未来还将实现“刷脸”吃饭、借书等。
“从进教室的那一刻起,你往那一坐,它(摄像头)对你已经全程进行识别了……比如你抬头了几次、低头了几次,你是否在玩手机,是否在发呆,是否在看别的书,都能监测到”,该校图书与信息中心主任称,目前课堂人脸识别系统会先在两间教室试点,效果好的话将在全校推广。
他还表示,学校之前已向公安部门和法务部门咨询,由于教室属于公开场所,因此不存在“侵犯隐私”的说法。
记者注意到,这则新闻距离上一次引发广泛讨论的上海某小学智能课堂行为分析系统,仅仅过去了一个星期。
据媒体报道,该小学正在构建智能课堂行为分析系统,运用姿态评估、表情识别、语言识别、关键词匹配等技术,探索对课堂教学过程的定量分析。
比如孩子在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为,或者快速奔跑、摔跤、打架、拥挤等危险动作。系统还可以采集学生姿态行为如打哈欠、坐姿、走姿的图像数据,对孩子的走姿倾斜、不良坐姿和睡眠不良等情况等进行识别判断,生成预警报告。
事实上,早在去年5月,杭州某中学联合海康威视研发的全国首个智慧课堂行为管理系统——“慧眼”就曾引发过关于新技术在教育领域应用边界的争议。
据了解,“慧眼”可以针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。有学生直言:“自从教室装了慧眼,上课都不敢开小差了。”
人脸识别摄像头入驻高校中小学
南京某大学正在安装调试的人脸识别系统。 网络图片
争议焦点
采集人脸信息是否侵犯学生隐私
逾八成网友不赞同
与人脸识别技术在教育领域内的席卷之势相对的,是公众对人脸识别进课堂的疑虑和担忧。
对此,记者以“你赞同学校用人脸识别系统采集学生的课堂行为吗?”为题,发起了话题讨论。调查结果显示,参与投票的3269名网友中,84%不赞同,86.1%认为该行为侵犯了学生隐私。
有网友认为,“这个系统只会教孩子虚伪”“学生会把注意力集中在表情上,而不会专注学习了!”还有网友质疑,“监狱都不带这么控制表情的,这是把孩子当机器人来培养?”
针对公众对隐私的担忧,上述杭州某中学校长回应,称人脸识别系统只采集学生的行为状态信息,不会进行课堂录像。例如,认真听课的为A,趴下睡觉的是B,起立回答问题为C,系统只是统计这些符号信息。
据了解,该系统采用的摄像头背后都是一个小型处理器,操作原理为通过对学生面部进行判断,之后形成一个与之相对应的代码。系统采集的对象为代码,而非学生的面部影像。
鼓励建设智慧课堂 但规范缺失
记者梳理发现,人脸识别系统在高校、中学、小学的全面开花,不仅得益于AI技术的广泛应用,也符合国家鼓励的发展方向——教育部在2016年教育信息化工作要点中,首次正式提出智慧校园建设与应用。
2018年4月,教育部印发《教育信息化2.0行动计划》,提出构建智慧学习支持环境,推动人工智能(AI)在教学、管理等方面的全流程应用。此后,各地的教育厅和学校纷纷在实践中摸索出了适合自身情况的路径。
比如同年5月印发的《江苏省中小学智慧校园建设指导意见(试行)》提出,“支持教学行为数据采集和分析的智慧教室和学习体验中心”；随后出台的《广东省中小学智慧教室建设指南(试行)》则进一步明确,支持对课堂教学过程的数据分析,实现课堂对学生情绪分析、人脸识别及抬头率等课堂参与性指标的分析。
在业界,这些基于人脸识别的课堂专注度分析已经形成了较为成熟的解决方案。从传统的班级授课到借助智能手段实现个性化教学,智慧教育是大势所趋——除了AI技术提供商,传统教育类公司和互联网企业也都想“分一杯羹”。
然而,由于行业标准和规范的缺失,市场上的智能教育产品显现出质量良莠不齐、存在潜在数据安全风险等问题。另一方面,也鲜少有地方在相关文件中从保护学生隐私和AI伦理的角度提出要求。
记者梳理发现,公众的讨论主要聚焦在三个问题上:在安防目的之外使用人脸识别系统是否必要?学生被收集人脸信息是否侵犯隐私?课堂行为采集是否会对教师和学生的心理产生不好的影响,导致“作秀式”教学?
有无必要性
“学校是公共场所,也是敏感区域,因为涉及到学生之间的危险行为、教师体罚学生等情况,容易有纠纷,所以在教室里装摄像头总体应该还是起到一个正向作用”,中国信息安全研究院副院长左晓栋指出。
但他强调,安装摄像头的目的应该限制在公共安全上面,用来识别开小差的学生的做法存在争议,“至少目前还看不到课堂行为分析的必要性”。因此,左晓栋认为,人脸识别进课堂已经超出了正当、合法、必要的限度,涉嫌技术滥用。
是否侵犯隐私权
据上述杭州某中学副校长透露,为了避免信息外泄,系统使用的是本地服务器。后期统计出的数据也分权限,如校领导和中层管理人员,可以看到的数据信息也不同。至于代码运算出来的结果,则仅供任课教师关于课堂效果作参考。
在北京师范大学刑事法律科学研究院暨法学院副教授吴沈括看来,利用人脸信息识别学生的行为,对其进行课堂上的有效管理,是法律允许的行为；但若将信息影响大范围披露,借此对学生予以当众羞辱,或对采集内容未尽到妥善保管义务导致信息发生泄露,以及在信息泄露事故发生后未能采取及时的止损措施等,则是法律禁止的行为。
对于中小学生来说,采集人脸信息还涉及未成年人隐私的问题。“如果没有获得学生及家长同意,学校就没有权利进行监测”,中国政法大学传播法研究中心副主任朱巍还提到,采集的信息不能作为商业化用途,也不得对外公开；学生毕业后,学校需保障其能够及时删除信息的权利。
是否对学生心理有影响
北京师范大学中国教育与社会发展研究院讲师高莉曾撰文指出,无论对于教师还是学生,人脸识别摄像头分析课堂行为的功能都可能带来负面效果。
如果把系统结果异化为评价教师教学的一种方式,那么在摄像头监控下的教学很可能会演变成一种拘谨的“作秀式”教学,比如降低教学难度,减少学生“困惑”表情产生；甚至为了取悦学生,增加与教学内容无关的“段子”,博取掌声。她提到,教学本应是一种高度自主化的过程,教师与学生之间的关系应该是相互尊重和融洽的,教育环境也应该是自由和充满信任的。
“面部识别技术一旦走进学校、监控课堂,学生的身体,甚至连注意力、一举一动、喜怒哀乐也将被纳入监控范畴。长期生活学习在这种不信任环境所带来的逆反心理,会对学生的身心健康有影响。”她说。
新闻推荐
9月7日，市民杨某途经新桥新街一写商品楼时，险些被一个从天而降的纸团砸中。她捡起纸团打开一看，是几张残缺的纸，上面用红笔和...