学生“生物信息采集”引教育部关注，“慎用”背后凸显隐私伦理难题未解

当人们在恐惧“人脸识别”时，究竟在恐惧什么？

近日，“ZAO致歉”“ZAO被工信部约谈”相关话题接连登上微博热搜榜。但至今，这场引发惶恐的人脸识别之乱仍未落幕。许多人发现，这项技术甚至已经深入到未成年人的课堂中。

近日被媒体广泛的旷世科技课堂“黑科技”，可以监控学生的面部表情乃至肢体的一举一动，从而分析上课听讲状况，引发了巨大争议。

资料图。图据视觉中国

但其实，早在几年前，安徽省濉溪县二中的学生们就曾发微博，控诉班级装摄像头监视学生；2017年，360水滴直播也因涉嫌监控学生隐私，被推上了风口浪尖；2018年，杭州第十一中学、重庆二十九中均因人脸识别进课堂，分析学生表情、动作等而广受质疑……

今年，该应用技术并没有因质疑声日渐高涨而冷落，反而“高调”出现在更多学校、教育机构以及各类大型科技展上。

回到最初的问题，“人脸识别”之所以引发人们质疑，无非是两个问题：伦理和隐私。直至今日两个问题一题未解，仍缺少权威声音“一锤定音”。

如今，成年人的隐私泄露已然如此，若未成年的孩子也将面临这些风险，甚至忽视教育伦理，让教育变了“味”，谁来解释人们心中的焦虑与恐惧？

教育部科技司：人脸识别的教育APP 要慎重日前，在教育部的新闻发布会上，有关生物信息采集问题，教育部科技司司长雷朝滋对未来网（教育能不采就不采，能少采就少采，尤其是涉及到学生个人生物信息，对于人脸识别或者肢体识别的教育APP加以限制和规范，同时我们希望学校慎重使用。”

雷朝滋表示，关于AI进校园要严肃对待，既包括数据安全也有个人隐私，要格外慎重。目前正在组织专家进行研究。

未来网（教育

不久前，北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所等单位发布《人工智能北京共识》（下称《北京共识》），其中特别指出，人工智能的研发应充分尊重人类的隐私、尊严、自由、自主、权利；人工智能不应被用来针对、利用或伤害人类。

同时，在研发方面要服从人类的整体利益，设计上要合乎伦理。使用方面要避免误用和滥用，应确保利益相关者对其权益所受影响有充分的知情与同意。

数日前，《儿童个人信息网络保护规定》（以下简称《保护规定》）经国家互联网信息办公室室务会议审议通过并定于2019年10月1日起施行。其中明确，网络运营者收集、使用、转移、披露儿童个人信息的，应当以显著、清晰的方式告知儿童监护人，并应当征得其同意。

此外，网络运营者征得同意时，应当同时提供拒绝选项，并明确告知收集、存储、使用、转移、披露儿童个人信息的目的、方式和范围，以及信息存储的地点、期限和到期后的处理方式；儿童个人信息的安全保障措施；拒绝的后果；投诉、举报的渠道和方式；更正、删除儿童个人信息的途径和方法等事项。

现实盲点：如何保障孩子的知情权与隐私权？

上述各方都明确指出了要重视用户的隐私权和知情权。事实上，这两点问题也早已是人们所约定俗成的、本不应是问题的问题。但是在实际应用中，仍有相当一部分的用户，知情权和隐私权未被尊重。

2017年，安徽省濉溪县二中的学生们就发微博表示：“我们感觉一个学生的隐私生活受到侵犯，这样和坐监狱有什么区别。”“课下也不能和同学正常交流，生怕怀疑。这样真的是为我们好吗！”

对于此类事件，许多网友在微博上发表评论：“太恐怖了，根本没有了隐私。”“学生做错了什么要被这样监视？”“以尊重师生隐私为前提就不应该开发这样的系统。”

也有网友表示，只要口子一开，就收不住了。长此以往，以后孩子们的各种信息、行为习惯都会变透明，被采集信息了解需求便于广告精准投放，从中获取商业价值。如果信息被别有用心之人或犯罪分子获得，后果将更不堪设想。

对此，中国法学会研究部副主任彭伶也告诉未来网（教育但如果把这种技术用于课堂，用于特定个体如学生，就相当于隐私被监控，更可怕的是一举一动还会被人分析，甚至会形成分析报告。在这种情况下，按照我们一般的逻辑推断，这些数据是会留存的，甚至会作为内部的一个资料来交流使用，那么这些未成年人的信息就很可能会泄露出去。”

她还指出，仅分析本身就牵扯到了使用，在这种情况下，毫无疑问已经侵犯了未成年人的隐私，涉嫌违法。

北京市炜衡律师事务所律师周浩在接受未来网（教育网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意。

所以，教育机构收集学生人脸表情等信息，正当性和必要性都大大存疑，很可能就违反了“合法、正当、必要的原则”。

此外，第四十一条还规定：网络运营者不得收集与其提供的服务无关的个人信息，不得违反法律、行政法规的规定和双方的约定收集、使用个人信息，并应当依照法律、行政法规的规定和与用户的约定，处理其保存的个人信息。

“但是，教育机构在收集学生人脸信息时是否经过了孩子和家长的同意，是否有明确提醒和询问，家长和孩子对其收集使用的风险性和后果知情多少，这些都很难保证。”周浩说。

伦理难题：谁让教育变了“味”？教育不是用机器去分析机器，不是用机器去控制机器，不是去培养能通过考试的合格流水线产品。教育是用生命去影响生命，用生命去感动生命。”在微博上，一位网友的评论引发了众多。

教育本应是知识的传输、真理的探讨、情感的互动，但不知何时，充满温度的教育渐渐被冰冷的工具“渗入”。在首都师范大学附属育新学校副校长王强看来，任何技术手段都只是一个工具，并不能替代老师的所有工作。如果过度依赖AI分析学生上课状态的结果，会让老师变懒，即使效率高了，速度快了，但是却会加剧老师对学生的不了解。

王强告诉未来网（教育对老师而言，无论如何都不能被AI带偏，脱离教学规律和实践，省去了解、观察、分析孩子的时间，这是对孩子是极不负责任的行为。另一方面，从学生角度而言，21世纪教育研究院副院长熊丙奇在接受未来网（教育教育本身包含情感、心理和知识交互的过程，过度强调技术手段是对学生和老师的控制，必然会导致教育缺乏应有的温度。而学生长期处于监控环境之下，很容易养成表演性人格。教育首先是教做人，反人格的教育万万不可取。

“这是必须引起教育系统与全社会高度重视的，学校是育人的地方，培养学生健康成长，所有教育创新必须以尊重学生人格为基本出发点。”熊丙奇说。

对此，中国教育科学研究院研究员储朝晖在接受媒体采访时表示，教室虽然是公共场所，但是监控下的教师和学生都不是真实的状态。

在他看来，这个问题争论了几十年了，大家从专业这个角度一个得出一个共同的结论，在教室里是不能装监控的。首先保护学生的隐私，也是不让课堂处在一个被这种控制的状态重要的原则。不遵循这个原则，那么学生可以在教室教室里面去作假，伪装。那么教师也可以伪装业绩作假，那么真实的教学就不可能发生。

试想，一旦真实的教学不复存在，一个个被不信任感、无隐私感、恐惧感裹挟的老师和学生该如何面对彼此，而被AI的负面影响所侵害的教育又将会走向何方？