开学AI盯着你！上课说话、打瞌睡就不是好学生？

当爆红全网的换脸App  ZAO风波还未平复之时，9月2日，全国开学第一天，一张图片在网上刷屏，课堂上，趴桌子几次、玩手机几次、睡觉几次、举手几次、阅读几次、听讲几次，都被摄像头捕捉，因为印有旷视的logo，这被认定为是它的视觉AI系统。

精彩评论

有网友如此评价：关于校园的美好记忆，来自于上课时的纸条、干脆面、偷瞄喜欢的女生，我不懂天才少年眼中的精英教育是什么样子的，也不知道估值800亿的旷视有多了不起，只是觉得，如果有人要控制、扼杀和剥夺亿万人少年时代的情感，那他的公司技术再突破也并不会青史留名。

知乎网友也表达了自己的态度：

旷视回应

旷视因此备受大众质疑，回应称这张图片只是一个概念演示，公司在教育领域的产品专注于还在校园的安全，但其实类似的AI课堂分析系统已经开始进入课堂。

南京中国药科大学在课堂上安装人脸识别系统，学生无法逃课或替同学签到，关键是学生在课堂上的一举一动都逃不开这套“鹰眼”。

旷视不是唯一一家研究AI课堂分析的AI企业，中国药科大学也不是唯一一个安装课堂人脸识别系统的学校。2018年的安博会上，可提供场景解决方案的安防厂商中，有一半都表示可以做AI+教育为基础的人脸识别监控。

AI课堂分析是否侵犯隐私？

AI课堂分析到底有没有侵犯学生的隐私？老师先分成了两派，“为了（敦促）你学习，你还抱怨，请问你还是学生吗？” 中国药科大学图书与信息中心主任许建真表示，学校已向公安部门和法务部门咨询，由于教室属于公开场所，因此不存在“侵犯隐私”的说法。

北大附中朝阳未来学校语文老师唐伊豆则对雷锋网表示不赞成AI摄像头分析进入课堂，教室是存在隐私的，它更像是一个特定的师生群体共有的空间，“用摄像头考勤可以接受，但采集和监控课堂行为是一种过度的介入，它暗含着对教师、对学生的不信任，会影响师生共同建设的一个安全互信的、自在舒适的环境。”

在教室这个场景里，需要被监督的只是学生吗？如果老师也被监督，课堂的教学会被提高吗？教育专家熊丙奇认为，从育人的角度看，好的课堂教学应是交互式、探究式，在教学过程中引导学生思考的，这需要宽松的允许批评、质疑的氛围。毫无疑问，在明知有人脸识别系统监控、记录教室里的一举一动时，教师的教学很可能选择照本宣科，而学生对照本宣科的教学不满，又不得不在AI监控下，表现出对教学内容“兴趣盎然”。

AI发展与隐私的保护

如今，AI已然进入了场景落地的关键时间点，争议推动着AI应用落地和法律法规的完善，政府和人工智能企业当下应该思考的是，AI的边界在哪里？AI的推广与隐私的保护如何平衡？

从AI仿声到AI换脸，再到AI课堂分析，科技向善成了2019年世界人工智能大会最热的衍生话题，AI立法被全球共同关注。

在欧美，人脸识别推行困难，旧金山等美国城市通过立法禁止该技术，英国首例警用人脸识别案于近日开庭，而瑞典GDPR第一案——瑞典学校因使用面部识别技术登记学生出勤率而被罚款20万。

“新一代信息技术的全面、深度的应用，引发了隐私保护的丧失，中国社会进入了一个零隐私的社会。”在2019世界人工智能大会法治论坛上，清华大学法学院院长申卫星指出了人工智能武器化，这个全局风险使得人工智能的国际治理成为必要。

如果有一天人工智能武器化了，它会由谁掌控？这个世界还安全吗？以核能为例，核能已经发展成为了武器化的技术，人类命运或多或少系于其上，因此国际社会也一直对这项技术有所约束。“核能相对来说，入门门槛较高，成本也比较高，不是所有的主体都可以参与，但是信息技术，特别是人工智能领域的门槛、成本都相对较低，甚至有一些非国家的主体有较深的介入，我们应当关注到这方面的安全风险。”申卫星说。

目前，在许多AI问题上，法律尚未完善，大部分情况依靠企业的道德约束。AI治理面临这么多挑战，上海市科学学研究所所长石谦表示，最大的原因，是“用”走在了“治”之前。AI治理，一方面需要完善法律建设，一方面在“用”的时候，需要把“底线”守住。在IT界流传着“数据就是价值”的说法，但是数据不能滥用。

在8月全国人大常委会审议的民法典人格权编草案稿中，针对收集、处理自然人个人信息有了明确规定，要求必须“征得该自然人或者其监护人同意”等，而且把个人生物识别信息也纳入保护的范围。

AI+教育的边界在哪

AI课堂分析引起的争议，并没有否定AI进入教育行业，进入学校的作用。

“王小明同学在学校西面围墙边摔倒”，一则消息同步发送给班主任和保健科，校医检查后将学生的伤情同步给家长。为了避免各种校园安全事故，上海中医药大学附属闵行蔷薇小学用AI搭建起了一个“隐形盔甲”，及时发现楼梯拥挤、学生打架等一系列安全事故隐患。

在卢湾高级中学的AI实验课上，几位学生合力做出了一个智能分类垃圾桶，清洁工不需要再问，你是什么垃圾？AI垃圾桶会直接告诉你，你是湿垃圾还是干垃圾。

“8月1日小学劳技教室，8月27日生命科学实验室……”在一位家长的手机上，清楚地记录着孩子暑假期间的到校活动，甚至可以看到孩子在学校里花4.2元买了一罐牛奶。在上海市建青实验学校，从买点心饮料的自助贩卖机，到借体育器材的体育馆，再到借书的图书馆，学生们都可以“刷手”来完成购买、借还等动作。

上海学生的十二时辰正在被AI浸透，各种AI+教育的应用在学校里试水，那么，“什么才是AI+教育最合适的落地场景”“什么才是AI+教育的试探的边界”“AI的发展与隐私的保护如何平衡”，才是政府、学校和AI企业需要思考的问题。

---

作者／孙妍 钱奕昀 李玉洋

编辑／挨踢妹

图片／网络

来源／《IT时报》公众号vittimes