开学季摄像头潜入课堂，AI商业化后的隐私黑盒能关得住吗？

2019-09-04 03:08:26

[本文来自：www.ii77.com]

在 C 端用户质疑其存在的隐私与伦理问题同时，较量机视觉方案落地线下教育场景的真实应用近况究竟若何，教育市场的需求存量有几多，教室学生状况监控方案落地后将带来哪些社会问题？这些问题亟待查询与解答。

[本文来自：www.ii77.com]

撰文 | 寓扬、茜茜

编纂 | 四月

九月伊始，又是一年开学季，和学生一同走进教室的还有摄像头和人工智能。

近日，一组教室上学生行为剖析的视频截图在微博激发热议。照片中，摄像头经由较量机视觉算法获取两逻辑学生的教室示意，并以标签的形式较量出「听讲、阅读、举手，趴桌子、玩手机、睡觉」等动作次数。截图显露该手艺方案来自旷视科技。

商议区，网友对人工智能「看管」教室行为所带来的隐私、伦理价格问题的声讨络续。有网友透露，「进展有人来注释一下教室监控 AI 产物的正当性，尤其是人权和隐私权等权力的珍爱。」

机械之心向旷视科技求证该方案今朝的应用情形，旷视科技方面透露，该图片为手艺场景化概念演示。旷视在教育范畴的产物首要专注于珍爱孩子在校园的平安，同时也将对峙合法性、数据隐私珍爱等焦点原则，接管社会的普遍建议和监视。

事实上，据机械之心认识，今朝视觉方案在教室教育场景的应用已经不是新颖事，摄像头生产厂商、教育巨头、AI 手艺公司三大类数十家企业。

在 C 端用户质疑其存在的隐私与伦理问题同时，较量机视觉方案落地线下教育场景的真实应用近况究竟若何，教育市场的需求存量有几多，教室学生状况监控方案落地后将带来哪些社会问题？这些问题亟待查询与解答。

聪明教室是一块什么样的市场？

据机械之心认识，旷视关于聪明教室的解决方案在 2018 年的中国教育装备展上就已经表态。其时，连系校园场景的需求，与自身在人脸识别、行为识别、脸色识别等方面的 AI 手艺，旷视就推出了聪明教育解决方案。

在教授场景，旷视重点打造的是教室智能考勤系统和教授评价系统。个中，考勤系统基于旷视的考勤摄像机，巡航拍摄教室并主动变焦拍摄人脸，再合营旷视的考勤主机盒子，以人脸识别验证的体式对上课学生进行身份核实。

而本次备受争议的则是教室教授评价系统。旷视的大略做法是，经由其考勤及行为剖析摄像机 MegEye-C3V-920 获取人脸、行为以及脸色等数据，经由行为剖析办事器对教室视频数据进行构造化剖析，并反馈学生的行为、脸色、专注度等数据，辅助教授评估。

旷视科技敷陈机械之心，今朝旷视在聪明校园中首要供应门禁系统，好比应用在教室、宿舍中的门禁系统，学生能够刷脸经由，而且这些系统是离线布置在学校，旷视只供应手艺支撑。

针对网上流出的教室行为剖析图片，对方称，「这张图源于旷视一次小规模线下运动的 Demo 展示照片，今朝还停留在手艺展示阶段，并没有落地应用。」

不只是旷视，BAT、科大讯飞、好将来以及多家创业公司在近两年均环绕教室场景推出了相关的视觉解决方案，这些玩家大体能够分为三类，离别是：设备厂商（摄像头生产商），教育公司和 AI 手艺公司。

好比，一位该范畴的手艺方案供应商向机械之心透露，一样教授剖析系统需要 800 万像素摆布的摄像头对教室进行拍摄，典型情形下能够笼盖一个 40 人的教室。

系统会先对每小我进行人脸跟踪，跟踪每小我的位置，然后把每个 ID 零丁存储为序列数据，即一系列的图片。随后，在学校布置的工作站会使用深度进修模型进行「感情较量」，对学生们的肢体、头部、视线等动作完成剖析，获得一系列数值。

办事器会把这些值打包发到发到云端，加载加倍抽象的模型进行二次剖析，最终输出整堂课的活跃度和专注度互动度等指标。在机械进修范畴，检测专注度姿态的体式经由行为检测手艺来完成。

AI 摄像头陆续潜入教室

从应用端来看，尽管教室监测方案存在必然争议，但不少学校的聪明教室应用已经落地，以此进行系统化的学生治理，提拔教授质量。

近日，位于江苏南京的中国药科大学，在两间教室「试水」安装了人脸识别系统，用于平常考勤和教室规律治理。学生是否卖力听讲，教室上是否昂首垂头，昂首垂头了几回，昂首垂头了多长时间，垂头是否在玩手机，是否闭眼打打盹儿，都逃不外人脸识别系统的「高眼」。

报道称，此举意在削减学生的逃课行为，严峻教室规律。当问及在教室安装人脸识别系统是否入侵学生隐私时，该负责人称，学校之前已向公安部门和法务部门咨询，因为教室属于公开场合，是以不存在「入侵隐私」的说法。

浙江省杭州第十一中学也在客岁 3 月份引入了一套雷同系统，该校率先在高一的两个班级试运行聪明教室，经由在教室安装 3 个组合摄像头来实现无感刷脸考勤。同时经由摄像头，还可对教室上学生的行为进行统计剖析，并对非常行为实时反馈。

据新京报缓引杭州第十一中学负责人介绍，传统意义上的口头点名和刷卡在实行过程中都有毛病，如口头点名耗时太长，因为省内教授实行走班制，即每个学生每次上课地点的教室都分歧，每位先生每节课所面临的学生也分歧，使用刷脸考勤能够简化审核轨制。

至于教室行为剖析，校方称，系统每隔 30 秒会进行一次扫描，针对学生们阅读、举手、书写、起立、听讲、趴桌子等 6 种行为，再连系面部脸色是愉快、悲伤，照样气愤、反感，剖析出学生们在教室上的状况，用以教师的教授反馈。但校方也透露，教室学生行为统计剖析属附加功能，「如今应该说连 (考评) 参考都谈不上」。

上个月，上海中医药大学从属闵行蔷薇小学也被爆出正在构建智能教室行为剖析系统，运用如姿态评估、脸色识别、说话识别、教师轨迹热力剖析等手艺，索求对教室教授过程的定量剖析。

能够看出，聪明教室的应用首要知足两方面需求，一个是全校教授治理，另一个则是教授评估。各家聪明教室的进展尚属初级阶段，人脸签到、教室状况监测是首要应用范畴，至于办事与教授的教室行为剖析，仍处于试水阶段。

但一位从业者也称，「学生教室行为剖析，从手艺层面讲，已经能够实现商用。」

据前瞻财富研究院数据显露，2018年我国聪明教室硬件设备市场规模将达到4741.32亿元摆布，到2023年整个市场规模将达到8827.38亿元。这无疑为设备的AI化供应了广宽的市场空间。

手艺背后的隐患有多大

粗略让网友激发热议的，是聪明教室行为剖析或者激发的隐私问题，AI 究竟是保障学生平安照样「全景敞视牢狱」？

一位业内子士连系从业履历分享道，聪明教室类的教育方案往往采用内陆离线布置，数据是把握在校方手中的，手艺公司只是供应手艺，其实并不把握数据。

在数据剖析环节，摄像头采集到的数据（人脸、动作、脸色）会在校内的内陆办事器上处理，然后把脱敏后的数据上传到云端进一步剖析。

换句话说，上传到云端的只是构造化的数据，好比感情和动作，给到云端供进一步剖析的「感情」不是学生的照片，而是他/她在某个时间点上存在某种感情的概率；「动作」也不是照片，而是他/她显现某种行为概率（一串数值）。

此外，他也称学校会跟家长签署数据授权和谈，并对学校工作人员设定分歧的使用权限，从而珍爱学生隐私。

「若是 AI 系统的初志是匡助先生去治理学生规律，这实际上是有问题的。」该业内子士称，「但若是我们以匡助先生提拔教授水平、个性化提拔每个学生进修水平的懂得进行斥地，就会获得很好的究竟。」

近期欧盟一路由使用视觉手艺激发的隐私惩罚值得思虑。

在瑞典谢莱夫特奥市，所有教师每年要花约 1.7 万个小时来对学生进行点名以及追踪学生运动。为了改善这一状况，市当局准许个体学校进行试验，使用人脸识别手艺统计学生出勤情形。

然而即使是在这种情形下，一所高中因试验用人脸识别系一切计学生出勤率，而被瑞典数据监管机构处以 20 万瑞典克朗（约合 145 万元人民币）的罚款。

固然学校称，他们事先获得了学生和家长的赞成，但瑞典数据监管机构指出，鉴于数据的持有者及数据的治理者之间，存在显着的信息纰谬称，是以校方和家长的和谈不克组成有效的司法依据。

瑞典数据监管机构还称，固然学校的某些场合能够被视为「公共场所」，但学生何时进入教室，依旧是小我隐私。

从我国AI落地情形来看，各家聪明教室的进展尚属初级阶段，人脸签到、教室状况监测是首要应用范畴，至于办事与教授的教室行为剖析仍处于试水阶段，而这背后的隐患固然经由手艺手段解决了一部门，但对于C端消费者和司法角度而言仍然存在较大的质疑与否决。

机械之心Pro

追踪动态 | 手艺调研 | 财富研究 | 深度阅读

机械之心Pro 是基于「机械之心团队构建的百万级规模人工智能常识图谱及构造化数据库」搭建的人工智能范畴专业信息..。

今朝已上线四个模块：dashboard、新闻数据库、行业数据库和深度精选，笼盖 38 个手艺范畴及 55 个智能应用范畴。

点击图片，查察官方使用手册

pro.jiqizhixin.com

盯动态、找标的、做调研

上一篇：化繁为1，ABB TruONE®轻松实现“1步”自动转换
下一篇：央视网如何提升海外客户体验？

开学季摄像头潜入课堂，AI商业化后的隐私黑盒能关得住吗？

热门文章

小编推荐

推荐文章