学生“生物信息采集”引教育部关注,“慎用”背后凸显隐私伦理难题未解

当人们在恐惧“人脸识别”时,究竟在恐惧什么?

近日,“ZAO致歉”“ZAO被工信部约谈”相关话题接连登上微博热搜榜。但至今,这场引发惶恐的人脸识别之乱仍未落幕。许多人发现,这项技术甚至已经深入到未成年人的课堂中。

近日被媒体广泛的旷世科技课堂“黑科技”,可以监控学生的面部表情乃至肢体的一举一动,从而分析上课听讲状况,引发了巨大争议。

资料图。图据视觉中国

但其实,早在几年前,安徽省濉溪县二中的学生们就曾发微博,控诉班级装摄像头监视学生;2017年,360水滴直播也因涉嫌监控学生隐私,被推上了风口浪尖;2018年,杭州第十一中学、重庆二十九中均因人脸识别进课堂,分析学生表情、动作等而广受质疑……

今年,该应用技术并没有因质疑声日渐高涨而冷落,反而“高调”出现在更多学校、教育机构以及各类大型科技展上。

回到最初的问题,“人脸识别”之所以引发人们质疑,无非是两个问题:伦理和隐私。直至今日两个问题一题未解,仍缺少权威声音“一锤定音”。

如今,成年人的隐私泄露已然如此,若未成年的孩子也将面临这些风险,甚至忽视教育伦理,让教育变了“味”,谁来解释人们心中的焦虑与恐惧?

教育部科技司:人脸识别的教育APP 要慎重日前,在教育部的新闻发布会上,有关生物信息采集问题,教育部科技司司长雷朝滋对未来网(教育能不采就不采,能少采就少采,尤其是涉及到学生个人生物信息,对于人脸识别或者肢体识别的教育APP加以限制和规范,同时我们希望学校慎重使用。

雷朝滋表示,关于AI进校园要严肃对待,既包括数据安全也有个人隐私,要格外慎重。目前正在组织专家进行研究。

未来网(教育

不久前,北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所等单位发布《人工智能北京共识》(下称《北京共识》),其中特别指出,人工智能的研发应充分尊重人类的隐私、尊严、自由、自主、权利;人工智能不应被用来针对、利用或伤害人类。

同时,在研发方面要服从人类的整体利益,设计上要合乎伦理。使用方面要避免误用和滥用,应确保利益相关者对其权益所受影响有充分的知情与同意。

数日前,《儿童个人信息网络保护规定》(以下简称《保护规定》)经国家互联网信息办公室室务会议审议通过并定于2019年10月1日起施行。其中明确,网络运营者收集、使用、转移、披露儿童个人信息的,应当以显著、清晰的方式告知儿童监护人,并应当征得其同意。

此外,网络运营者征得同意时,应当同时提供拒绝选项,并明确告知收集、存储、使用、转移、披露儿童个人信息的目的、方式和范围,以及信息存储的地点、期限和到期后的处理方式;儿童个人信息的安全保障措施;拒绝的后果;投诉、举报的渠道和方式;更正、删除儿童个人信息的途径和方法等事项。

现实盲点:如何保障孩子的知情权与隐私权?

上述各方都明确指出了要重视用户的隐私权和知情权。事实上,这两点问题也早已是人们所约定俗成的、本不应是问题的问题。但是在实际应用中,仍有相当一部分的用户,知情权和隐私权未被尊重。

2017年,安徽省濉溪县二中的学生们就发微博表示:“我们感觉一个学生的隐私生活受到侵犯,这样和坐监狱有什么区别。”“课下也不能和同学正常交流,生怕怀疑。这样真的是为我们好吗!”

对于此类事件,许多网友在微博上发表评论:“太恐怖了,根本没有了隐私。”“学生做错了什么要被这样监视?”“以尊重师生隐私为前提就不应该开发这样的系统。”

也有网友表示,只要口子一开,就收不住了。长此以往,以后孩子们的各种信息、行为习惯都会变透明,被采集信息了解需求便于广告精准投放,从中获取商业价值。如果信息被别有用心之人或犯罪分子获得,后果将更不堪设想。

对此,中国法学会研究部副主任彭伶也告诉未来网(教育但如果把这种技术用于课堂,用于特定个体如学生,就相当于隐私被监控,更可怕的是一举一动还会被人分析,甚至会形成分析报告。在这种情况下,按照我们一般的逻辑推断,这些数据是会留存的,甚至会作为内部的一个资料来交流使用,那么这些未成年人的信息就很可能会泄露出去。”

她还指出,仅分析本身就牵扯到了使用,在这种情况下,毫无疑问已经侵犯了未成年人的隐私,涉嫌违法。

北京市炜衡律师事务所律师周浩在接受未来网(教育网络运营者收集、使用个人信息,应当遵循合法、正当、必要的原则,公开收集、使用规则,明示收集、使用信息的目的、方式和范围,并经被收集者同意。

所以,教育机构收集学生人脸表情等信息,正当性和必要性都大大存疑,很可能就违反了“合法、正当、必要的原则”。

此外,第四十一条还规定:网络运营者不得收集与其提供的服务无关的个人信息,不得违反法律、行政法规的规定和双方的约定收集、使用个人信息,并应当依照法律、行政法规的规定和与用户的约定,处理其保存的个人信息。

“但是,教育机构在收集学生人脸信息时是否经过了孩子和家长的同意,是否有明确提醒和询问,家长和孩子对其收集使用的风险性和后果知情多少,这些都很难保证。”周浩说。

伦理难题:谁让教育变了“味”?教育不是用机器去分析机器,不是用机器去控制机器,不是去培养能通过考试的合格流水线产品。教育是用生命去影响生命,用生命去感动生命。”在微博上,一位网友的评论引发了众多

教育本应是知识的传输、真理的探讨、情感的互动,但不知何时,充满温度的教育渐渐被冰冷的工具“渗入”。在首都师范大学附属育新学校副校长王强看来,任何技术手段都只是一个工具,并不能替代老师的所有工作。如果过度依赖AI分析学生上课状态的结果,会让老师变懒,即使效率高了,速度快了,但是却会加剧老师对学生的不了解。

王强告诉未来网(教育对老师而言,无论如何都不能被AI带偏,脱离教学规律和实践,省去了解、观察、分析孩子的时间,这是对孩子是极不负责任的行为。另一方面,从学生角度而言,21世纪教育研究院副院长熊丙奇在接受未来网(教育教育本身包含情感、心理和知识交互的过程,过度强调技术手段是对学生和老师的控制,必然会导致教育缺乏应有的温度。而学生长期处于监控环境之下,很容易养成表演性人格。教育首先是教做人,反人格的教育万万不可取。

“这是必须引起教育系统与全社会高度重视的,学校是育人的地方,培养学生健康成长,所有教育创新必须以尊重学生人格为基本出发点。”熊丙奇说。

对此,中国教育科学研究院研究员储朝晖在接受媒体采访时表示,教室虽然是公共场所,但是监控下的教师和学生都不是真实的状态。

在他看来,这个问题争论了几十年了,大家从专业这个角度一个得出一个共同的结论,在教室里是不能装监控的。首先保护学生的隐私,也是不让课堂处在一个被这种控制的状态重要的原则。不遵循这个原则,那么学生可以在教室教室里面去作假,伪装。那么教师也可以伪装业绩作假,那么真实的教学就不可能发生。

试想,一旦真实的教学不复存在,一个个被不信任感、无隐私感、恐惧感裹挟的老师和学生该如何面对彼此,而被AI的负面影响所侵害的教育又将会走向何方?