開學(xué)季,有關(guān)人臉識別進(jìn)校園“侵犯隱私權(quán)”的消息引發(fā)網(wǎng)友熱議。事實(shí)上,人臉識別進(jìn)校園已經(jīng)不是新鮮事,此前,智能校服、智能手環(huán)等校園智能產(chǎn)品,已有不少爭議。從考勤、安防,到智慧教學(xué),各個(gè)科技新興企業(yè)、教育培訓(xùn)公司、互聯(lián)網(wǎng)巨頭,包括各大運(yùn)營商等,都在布局智慧校園這一領(lǐng)域,紛紛提出各自的解決方案。
盡管入場的企業(yè)眾多,但目前AI在教育行業(yè)落地還處于早期階段,尚未大規(guī)模出現(xiàn)成熟化的、能夠因材施教的商業(yè)應(yīng)用。與此同時(shí),AI進(jìn)校園背后的隱私泄露、數(shù)據(jù)安全問題,也引發(fā)了企業(yè)和教育部門的關(guān)注。針對AI進(jìn)校園,生物識別技術(shù)在校園逐步開始應(yīng)用的現(xiàn)象,教育部科學(xué)技術(shù)司司長雷朝滋就指出,目前教育部已經(jīng)在關(guān)注,并正在組織專家論證研究,希望學(xué)校慎重地使用相關(guān)的技術(shù)軟件。
智能監(jiān)測、智能校服、智能手環(huán),AI進(jìn)校園引發(fā)爭議
9月伊始,新學(xué)期報(bào)到,不少同學(xué)都在自己的校園中發(fā)現(xiàn)了“新面孔”。機(jī)器人當(dāng)“接待”、“刷臉”報(bào)到,上海健康醫(yī)學(xué)院、上海理工大學(xué)、復(fù)旦大學(xué)等上海高校都在迎新中啟用了多個(gè)AI設(shè)備,給新生們帶來了極具智能感的入學(xué)體驗(yàn)。
然而,AI給學(xué)生們帶來的并不全是愉快的體驗(yàn)。據(jù)報(bào)道,近日,中國藥科大學(xué)在教室試點(diǎn)安裝人臉識別系統(tǒng),除了能自動(dòng)識別學(xué)生的出勤情況外,還能夠?qū)崿F(xiàn)對學(xué)生課堂聽講情況的全程監(jiān)控,蹺課、上課玩手機(jī)都逃不過它的“法眼”。據(jù)悉,此舉是學(xué)校教務(wù)部門的要求,意在減少學(xué)生逃課、早退、花錢找人代課以及上課不認(rèn)真聽講等行為。
8月,上海中醫(yī)藥大學(xué)附屬閔行薔薇小學(xué)將人臉識別帶入校園,據(jù)悉,使用了這套系統(tǒng)后,學(xué)生在日常生活中有無微笑、有無跟老師問好、有無主動(dòng)撿垃圾、隊(duì)列是否整齊等細(xì)節(jié)都會被AI捕捉。
事實(shí)上,安裝“人臉識別”系統(tǒng)并非上述幾所學(xué)校首創(chuàng)。目前,國內(nèi)多所學(xué)校都已進(jìn)入“刷臉時(shí)代”,人臉識別功能大多用于學(xué)校或宿舍門禁、食堂支付等場景。在2018年安博會上,現(xiàn)場可提供場景解決方案的安防廠商中,有一半都表示支持以校園場景為基礎(chǔ)的人臉識別監(jiān)控。
隨著智能教育的逐步推進(jìn),對學(xué)生的行為、知識及情感進(jìn)行分析,實(shí)現(xiàn)精準(zhǔn)化教學(xué)成為發(fā)展重點(diǎn)。2018年,教育部頒布的《教育信息化2.0行動(dòng)計(jì)劃》,也讓提高教學(xué)質(zhì)量與更多復(fù)雜的技術(shù)手段聯(lián)系在一起。
今年3月,廣東廣雅中學(xué)一智慧校園信息化采購項(xiàng)目引發(fā)熱議,該校采購了3500個(gè)電子手環(huán),記錄學(xué)生的行為數(shù)據(jù)及部分健康數(shù)據(jù)。智能載體也不局限于電子手環(huán),2018年12月底,貴州10多所中小學(xué)的學(xué)生穿上“智能校服”引發(fā)關(guān)注。據(jù)稱,該校服中縫制了可以記錄生物數(shù)據(jù)的智能芯片和隨時(shí)定位的 GPS 芯片,學(xué)生的進(jìn)出數(shù)據(jù)會自動(dòng)發(fā)送到家長和老師的手機(jī)應(yīng)用中,下課離校后也可以對學(xué)生進(jìn)行定位。
AI全方位滲透教育教輔類場景為主要領(lǐng)域
從刷臉門禁,到課堂監(jiān)測,AI已經(jīng)開始滲透到校園生活的方方面面。近年來,《國家教育事業(yè)發(fā)展“十三五”規(guī)劃》《教育信息化十年發(fā)展規(guī)劃(2010-2020年)》《教育信息化“十三五”規(guī)劃》等文件相繼出臺,無一例外都提到了“教育信息化”。在此背景之下,AI落地教育場景的聲勢越來越浩大。《2019年中國智慧教育行業(yè)市場發(fā)展及趨勢研究報(bào)告》數(shù)據(jù)顯示,2010-2018年中國智慧教育行業(yè)規(guī)模持續(xù)擴(kuò)大,增速保持在10%以上,2018年市場規(guī)模超過5000億元。
各式科技新興企業(yè)、教育培訓(xùn)公司、以及互聯(lián)網(wǎng)巨頭紛紛利用“現(xiàn)代信息技術(shù)”,布局智慧教育領(lǐng)域,其切入點(diǎn)包括考勤、安防、智慧教學(xué)、家?;?dòng)等方面。以人工智能企業(yè)曠視科技為例,在2018年舉辦的第75屆中國教育裝備展示會上,曠視就展示了其覆蓋智慧教學(xué)、智慧管理和智慧后勤的智慧教育產(chǎn)品及解決方案。
南都記者發(fā)現(xiàn),在該解決方案中,“智慧教學(xué)”主要指以人臉識別驗(yàn)證的方式對上課的學(xué)生身份進(jìn)行核實(shí),同時(shí),運(yùn)用人臉識別、行為識別、表情識別等技術(shù),反饋學(xué)生行為、表情、專注度、前排上座率等多維度課堂數(shù)據(jù)。“智慧管理”指運(yùn)用人臉識別技術(shù),解決校園安全防護(hù)、學(xué)籍審核、考生身份核驗(yàn)等管理工作中存在的難題。而“智慧后勤”,則包括宿舍管理系統(tǒng)、門禁通行系統(tǒng)、會議簽到系統(tǒng)以及刷臉支付系統(tǒng)。近日,令曠視備受爭議的,正是“智慧教學(xué)”這一產(chǎn)品。
AI在教育領(lǐng)域的應(yīng)用,并不局限于校園內(nèi)部,也不限于教學(xué)、管理和后勤這幾個(gè)場景。監(jiān)考判卷、鋼琴陪練、課堂評估、答疑診斷,甚至代替老師上課,8月29日,科技部新一代人工智能發(fā)展研究中心聯(lián)合羅蘭貝格管理咨詢公司發(fā)布《智能教育創(chuàng)新應(yīng)用發(fā)展報(bào)告》顯示,因?yàn)橛辛薃I的賦能,這些關(guān)于智能教育的設(shè)想已經(jīng)實(shí)現(xiàn)。
該報(bào)告同時(shí)指出,當(dāng)前智能教育的主要場景,以基于智能識別技術(shù)的教學(xué)輔助類場景為主,如“拍照搜題”、“校園安防”等,這些場景的復(fù)雜程度較低,是目前人工智能在教育領(lǐng)域主要發(fā)揮優(yōu)勢的領(lǐng)域。在教學(xué)評估和校園管理環(huán)節(jié),人工智能技術(shù)適配性和成熟度均較低。而對于一些服務(wù)屬性的場景,一旦技術(shù)實(shí)現(xiàn)突破,將爆發(fā)出潛在價(jià)值。
各行多家企業(yè)上馬布局 智慧校園解決方案層出不窮
《智能教育創(chuàng)新應(yīng)用發(fā)展報(bào)告》數(shù)據(jù)顯示,2014年至2016年是智能教育行業(yè)熱度最高的三年,三年間新成立43家智能教育公司,占2011~2018年智能教育公司成立數(shù)量總和的56%。報(bào)告指出,目前,智能教育市場上主要有四類關(guān)鍵代表企業(yè),分別是教育類公司、互聯(lián)網(wǎng)公司、智能技術(shù)提供商與計(jì)算機(jī)平臺提供商。
在教育培訓(xùn)公司方面,好未來、新東方、英語流利說、VIPKID、掌門一對一等都已有人工智能布局。例如,好未來在2017年8月就成立AI Lab人工智能實(shí)驗(yàn)室,其“魔鏡系統(tǒng)”利用人臉表情識別等技術(shù),來判斷學(xué)生上課時(shí)的舉手、練習(xí)、聽課、發(fā)言等課堂狀態(tài)和面部情緒變化;掌門1對1在2017年底宣布與人工智能企業(yè)商湯科技進(jìn)行戰(zhàn)略性合作,在情緒智能識別等領(lǐng)域進(jìn)行技術(shù)上的研究,以監(jiān)測學(xué)生是否在認(rèn)真上課,其創(chuàng)始人還分享過用“腦電波”進(jìn)行監(jiān)測的設(shè)想;海風(fēng)教育則在2018年推出“好望角”AI系統(tǒng),通過追蹤眼球焦點(diǎn)來分析學(xué)生視線。
在互聯(lián)網(wǎng)巨頭方面,百度、阿里巴巴、騰訊、字節(jié)跳動(dòng)也都有相應(yīng)的“AI+教育”布局。除教育培訓(xùn)機(jī)構(gòu)、互聯(lián)網(wǎng)巨頭公司和人工智能科技公司之外,三大電信運(yùn)營商的各省級分公司、系統(tǒng)集成服務(wù)商、一體機(jī)和服務(wù)器等硬件廠商等,也都推出了自己的教育解決方案。每一個(gè)陣營的企業(yè),都在各自擅長的領(lǐng)域向教育行業(yè)滲透。
南都記者發(fā)現(xiàn),被質(zhì)疑“侵犯隱私權(quán)”以及“過度延伸學(xué)校管束權(quán)利”的“智慧校服”由貴州冠宇科技有限公司開發(fā)。根據(jù)貴州冠宇科技官網(wǎng)信息,該公司于2015年成立,落戶在貴州貴陽國家高新區(qū),主營“智慧校園”、“智能校服”、“二維碼墓碑”、“二維碼家庭相冊”、“碼上結(jié)婚”等業(yè)務(wù),其中“二維碼墓碑”的介紹稱,“文明緬懷先輩,結(jié)束焚香燒紙的祭奠年代”。該公司稱,目前已在多地設(shè)立分支機(jī)構(gòu)或合作伙伴100余家,與上百所學(xué)校和眾多海外客戶都建立了合作。
南都記者以“校園智能手環(huán)”為關(guān)鍵詞進(jìn)行搜索,得到了不少解決方案。隨機(jī)點(diǎn)開搜索結(jié)果中某科技有限公司的官網(wǎng),其介紹稱,“智能手環(huán)”可實(shí)現(xiàn)無感知自動(dòng)考勤、進(jìn)出校、定位分析、家?;ヂ?lián)、運(yùn)動(dòng)監(jiān)測、資產(chǎn)追蹤等功能。該公司“位于硅谷和北京,核心團(tuán)隊(duì)由來自頂級互聯(lián)網(wǎng)和通訊公司,至今已成功在全國大部分省市實(shí)現(xiàn)了智慧校園的建設(shè)”,并附有具體的學(xué)校案例。天眼查頁面顯示,該公司成立于2014年,屬于科技推廣和應(yīng)用服務(wù)行業(yè),已于2019年實(shí)現(xiàn)了B+輪融資。
雖然提供解決方案的企業(yè)眾多,但有業(yè)內(nèi)人士指出,目前AI在教育行業(yè)落地還處于早期階段。《智能教育創(chuàng)新應(yīng)用發(fā)展報(bào)告》也指出,智能教育正處于從教學(xué)輔助向價(jià)值創(chuàng)造階段的過渡時(shí)期,尚未大規(guī)模出現(xiàn)成熟化的、能夠因材施教商業(yè)應(yīng)用。
隱私泄露、數(shù)據(jù)安全 AI進(jìn)校園規(guī)范在即
從現(xiàn)有的AI產(chǎn)品落地校園的情況來看,隱私泄露、數(shù)據(jù)安全等問題,是消費(fèi)者質(zhì)疑和反對的主要聲音。有業(yè)內(nèi)人士指出,如何選擇更合適的落地場景,如何兼顧科技和人文,或許是AI賦能教育需要思考的重要問題?!癆I求快,但在教育行業(yè)必須慢下來、沉進(jìn)去。未來我們看好對教育有敬畏之心,尊重教育規(guī)律、善用技術(shù)的團(tuán)隊(duì)。”
近期,瑞典一所高中因試驗(yàn)用人臉識別系統(tǒng)統(tǒng)計(jì)學(xué)生出勤率,而被瑞典數(shù)據(jù)監(jiān)管機(jī)構(gòu)處以 20 萬瑞典克朗(約合 14.8 萬元人民幣)的罰款。正如瑞典數(shù)據(jù)監(jiān)管機(jī)構(gòu)相關(guān)負(fù)責(zé)人所說,“人臉識別技術(shù)還處在起步階段,但是發(fā)展非常迅速,我們看到了建立一個(gè)適用于所有參與者的清晰準(zhǔn)則的巨大需求。”
6月17日,國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》,首次發(fā)布發(fā)展人工智能治理原則,提出發(fā)展負(fù)責(zé)任的人工智能。與此同時(shí),越來越多的企業(yè)也開始提出人工智能倫理規(guī)范。近日,騰訊研究院和騰訊AI Lab聯(lián)合發(fā)布了人工智能倫理報(bào)告,倡導(dǎo)面向人工智能的新的技術(shù)倫理觀;微軟全球執(zhí)行副總裁沈向洋表示,微軟計(jì)劃未來推出的人工智能產(chǎn)品都要經(jīng)過道德倫理審查;而即將IPO上市的曠視科技也推出了基于企業(yè)自身管理標(biāo)準(zhǔn)的《人工智能應(yīng)用準(zhǔn)則》,并在招股書中明確建立“AI道德委員會”。
9月5日,為促進(jìn)“互聯(lián)網(wǎng)+教育”的健康發(fā)展,全面規(guī)范教育App,教育部等八部門聯(lián)合印發(fā)《關(guān)于引導(dǎo)規(guī)范教育移動(dòng)互聯(lián)網(wǎng)應(yīng)用有序健康發(fā)展的意見》(以下簡稱《意見》)。在數(shù)據(jù)安全上,《意見》明確要求,教育移動(dòng)應(yīng)用提供者應(yīng)當(dāng)建立數(shù)據(jù)保障機(jī)制。收集使用個(gè)人信息應(yīng)當(dāng)明示收集使用信息的目的、方式和范圍,并經(jīng)用戶同意。收集使用未成年人信息應(yīng)當(dāng)取得監(jiān)護(hù)人同意、授權(quán)。
同日,教育部科學(xué)技術(shù)司司長雷朝滋在接受采訪時(shí)稱,教育部已經(jīng)在關(guān)注人工智能進(jìn)校園一事,并正在組織專家論證研究,他表示,“(對于人臉識別技術(shù)應(yīng)用)我們要加以限制和管理?,F(xiàn)在我們希望學(xué)校非常慎重地使用這些技術(shù)軟件?!?/p>
-
安防
+關(guān)注
關(guān)注
9文章
2245瀏覽量
62434 -
人臉識別
+關(guān)注
關(guān)注
76文章
4003瀏覽量
81688 -
數(shù)據(jù)安全
+關(guān)注
關(guān)注
2文章
669瀏覽量
29908
發(fā)布評論請先 登錄
相關(guān)推薦
評論