人在坐,AI在看

乾明 鱼羊 发自 凹非寺

量子位 报道 | 公众号 QbitAI

教室之内,你做什么AI都有记录?!

为此旷视不得不回应了。

昨天,一张带有“MEGVII旷视”图标的视频监控图像在社交网络上疯传。

图中显示,两名在教室中的女生身边,显示出了相应的课堂行为数据,比如趴桌子、玩手机、睡觉、听讲、阅读、举手等等。

伴随这张图,还有大量网友严厉的指责与质疑,认为这样的技术不应该出现在课堂中。加之变脸AI应用ZAO引发的关注,隐私话题再次被谈及。

不过相比起来,旷视对这些批评感觉有些冤,按照其官方回应,“这只是技术场景化概念演示”。

但引发的关注还在继续,更多教育场景内的AI应用,也引起前所未有的重新审视。

摄像头盯着你上课

事情跟刚刚进入的开学季有关。

九月新学期开始后,不少学生就发现,自己熟悉的校园中出现了人脸识别系统。

比如位于南京的中国药科大学,在校门、图书馆和宿舍都安装了人脸识别门禁。

对于智能门禁,学生们的接受度倒是很高。有人认为这套系统识别准确,速度也很快;有人表示不再担心忘带校园卡,确实很方便。

学校保卫处负责人也表示,比起从前实行的校园卡刷卡通行,人脸识别系统的引入解决了过去师生忘带校园卡的麻烦,也解决了代刷卡、复制卡等校园安保问题。

但这套来自“刷脸之王”旷视Face++的系统,可能不止是人脸识别刷门禁。

在梨视频的采访中,校方介绍,这套系统不仅能对进入教室的学生进行全程人脸识别,还能监测到学生抬头低头,是否玩手机,是否发呆等行为细节。

关于这类系统,旷视也早有过相关介绍,目标所指是辅助教育:

在课堂教学评价系统中,旷视科技将自主研发的人脸识别、行为识别、表情识别等技术,集成在考勤及行为分析摄像机MegEye-C3V-920和行为分析服务器中。

通过对课堂视频数据进行实时的结构化分析,反馈学生行为、表情、专注度、前排上座率等多维度课堂数据,辅助教学评估评价。

没想到,竟然在社交媒体上引发大讨论。

旷视在官方回应中说,自己在教育领域的产品专注于保护孩子在校园的安全。

相应的解决方案,可以协助学校管理人员提升效率并保障学生安全,主要用于智能校门、教室门及宿舍的出入,方便学生安全出入校园。

至于引发讨论的课堂行为分析图片,是技术场景化概念演示。

但根据校方说法,相关系统已在两间教室中进行试点,如果效果好,会进行全校推广。

其实,这样的技术和应用并不算稀奇。有网友表示,这种校园分析的新闻去年前年就有了,现在竟然来了个大爆发……而且成为热搜事件,着实意料之外。

教育场景正成为AI落地跑马场

但不容忽视的事实是,这几年来AI赋能落地千行百业的声势越来越大,在这样的大趋势面前,教育场景可以说是蓝海一片。

《2019年中国智慧教育行业市场发展及趋势研究报告》数据显示,2010-2018年中国智慧教育行业规模持续扩大,增速保持在10%以上,2018年市场规模超过5000亿元。

众多AI技术公司、教育场景公司,都纷纷加入战局,加入新红利的争夺中。

而且作为AI领域最为成熟的技术方向,各种计算机视觉/人脸识别方案早已见怪不怪。在校园中采用人脸识别技术,也都已经不稀罕。

但没有哪家公司的方案,止步于门闸刷脸。

闸机只是切入点,更多方案提供商希望的是用AI来重构整个教育全流程,课堂自然是一个能够大展拳脚的地方。

当然,水大鱼大,竞争者也多。提供这样方案的,远不止旷视一家。

打开搜索引擎搜索“课堂人脸识别”,能够得到621万条结果,各种大大小小的公司,都有相应方案。

其中甚至不乏更为惊人的“黑科技”方案。

比如掌门1对1,已经与商汤达成战略合作,在情绪智能识别等领域进行研究,目的就是通过在线辅导的情绪识别,看学生是否处于认真上课的状态。

创始人兼CEO张翼还分享过用“脑电波”的设想:

脑机交互的可穿戴智能设备可以实时监测学生的脑电波数据,通过脑电动态数据采集分析,对学生在学习过程中进行情绪识别、疲劳度识别,分析判断学生在学习过程中的精神状态、思维活跃度和学习专注力。

此外,还有英特尔、K12在线教育机构海风教育,少儿英语教育结构VIPKID等等都有相应系统与解决方案提供。

总体来说,之前“一块屏教育”的故事延续,就是AI可以帮助教学过程实现数据化、机器学习化。

而且谈到AI落地传统学校,也不是只有这次引发关注的中国药科大学。

随手一查,案例新闻非常丰富:

比如2018年5月,浙江省重点杭州第十一中学(阿里云之父王坚母校),将名为“智慧课堂行为管理系统”的科技应用于课堂教学。

新京报报道中表示,这一系统也可以对课堂上学生的行为进行分析,并对异常行为实时反馈,工作流程是这样的:

系统每隔30秒会进行一次扫描,针对学生们阅读、举手、书写、起立、听讲、趴桌子等6种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。

目前仅趴桌子一项为负分行为。若此类不专注行为达到一定分值,系统就会向显示屏推送提醒,任课教师可根据提醒进行教学管理,而显示屏仅任课教师可见。

不过,校方也给出了回应,在系统设计伊始,便考虑到了隐私问题,系统只采集代码,并非学生面部影像。

此外借AI落地之名进入校园,也不仅仅只是基于人脸识别的解决方案,还有基于各种传感器的“智慧校服”。

去年12月底,贵州10多所中小学的学生穿上“智能校服”引起大量关注。

供应商介绍称,这套智能校服,能精准、及时记录他们的出勤和活动。只要身着这套校服,学生进出校门的准确时间就会自动发送给学校老师和家长。

而且如果未经许可出校门,那也会激活自动语音报警器。校服还会配合校门口的智能摄像头一起使用,假如学生互换校服,警报也会响起。甚至它也能发送准确的具体位置,帮助学校和家长快速定位。

但类似方案,也不是中国专利,全球同此凉热。

早在2012年3月份,巴西也推出了类似智能校服,引发了媒体广泛关注。

巴西维多利亚达孔基斯塔市最早推出一款智能T恤,这条T恤内置了芯片,可以让家长知道孩子究竟有没有逃课了。

还有瑞典(真欧洲国家)一中学,使用人脸识别等技术对22名学生进行了为期三周的跟踪调查,记录下他们每次进入教室的情况。

毫无疑问,这样的人工智能入校、AI+教育,也同样引起了争议与广泛的讨论。

争议四起:隐私何在?

核心热议焦点,依然是AI技术落地中的技术。

有抖机灵的网友说,学霸们研发的AI,正在不断压缩学渣摸鱼的空间。

但更多网友,关注的还是技术价值观的话题:技术本身无罪,但这并不代表技术的落地,不需要多方面权衡考量。

而且日常工作学习为摄像头所监控,监控背后的AI还要分析量化你的一举一动,未免让人有些毛骨悚然。

另外在这场突然掀起的风暴之中,AI落地带来的“隐私”边界,也令人深思。

有微博网友认为,这种无死角全过程的AI监控,是在扼杀情感。

有人表示绝对不会让自己的孩子处在这种环境之中。

也有人指出,这是对教育的本末倒置,学校应用这种技术,不是在培养人,而是在培养升学率。

“技术再好,用的地方不对有什么意义呢?”

这种评论也代表了很多吃瓜网友的心声。就像《黑镜》中描述的未来科技,诞生之初哪有正邪之分呢?

除了隐私、自由,教育场景中令人担心的还有数据安全问题。

2018年8月的一则判决文书中,就披露了一起非法出售学生信息的案例。

当时负责管理维护安徽全省学籍管理系统的张某,利用职务之便,以每条1毛钱的价格,出售了4万名学生的隐私信息。据新浪财经报道,张某任职的公司正是科大讯飞。

前沿技术的发展,有时候远超公众的想象。当一项技术真正走向落地,就不再是小众的狂欢,而要接受大众的审视。

如何选择更合适的技术落地场景,如何兼顾科技与社会人文,或许是AI赋能,必须要去面对和思考的问题。

国内国外,也开始越来越多传递出这样的风向。

比如谷歌开始越来越多科普利于隐私的“联邦学习”,腾讯在创办20周年时将“科技向善”写入公司使命和愿景,而即将IPO上市的旷视实际也在招股书中明确建立“AI道德委员会”。

掌舵微软AI的沈向洋还呼吁,应该每一项AI技术和产品应用前,都要通过伦理道德委员会审查。

虽然人类在发明汽车80年后才发明安全带,但AI时代里,我们需要现在就为AI技术系上安全带了。

总而言之,AI和隐私安全的话题,一切还不会就此终止,还会有更多事件、更多应用被放在聚光灯下审视。

你觉得呢?

版权所有,未经授权不得以任何形式转载及使用,违者必究。

相关阅读