開學季,有關人臉識別進校園“侵犯隱私權”的消息引發網友熱議。事實上,人臉識別進校園已經不是新鮮事,此前,智能校服、智能手環等校園智能產品,已有不少爭議。從考勤、安防,到智慧教學,各個科技新興企業、教育培訓公司、互聯網巨頭,包括各大運營商等,都在布局智慧校園這一領域,紛紛提出各自的解決方案。
盡管入場的企業眾多,但目前AI在教育行業落地還處于早期階段,尚未大規模出現成熟化的、能夠因材施教的商業應用。與此同時,AI進校園背后的隱私泄露、數據安全問題,也引發了企業和教育部門的關注。針對AI進校園,生物識別技術在校園逐步開始應用的現象,教育部科學技術司司長雷朝滋就指出,目前教育部已經在關注,并正在組織專家論證研究,希望學校慎重地使用相關的技術軟件。
智能監測、智能校服、智能手環,AI進校園引發爭議
9月伊始,新學期報到,不少同學都在自己的校園中發現了“新面孔”。機器人當“接待”、“刷臉”報到,上海健康醫學院、上海理工大學、復旦大學等上海高校都在迎新中啟用了多個AI設備,給新生們帶來了極具智能感的入學體驗。
然而,AI給學生們帶來的并不全是愉快的體驗。據報道,近日,中國藥科大學在教室試點安裝人臉識別系統,除了能自動識別學生的出勤情況外,還能夠實現對學生課堂聽講情況的全程監控,蹺課、上課玩手機都逃不過它的“法眼”。據悉,此舉是學校教務部門的要求,意在減少學生逃課、早退、花錢找人代課以及上課不認真聽講等行為。
8月,上海中醫藥大學附屬閔行薔薇小學將人臉識別帶入校園,據悉,使用了這套系統后,學生在日常生活中有無微笑、有無跟老師問好、有無主動撿垃圾、隊列是否整齊等細節都會被AI捕捉。
事實上,安裝“人臉識別”系統并非上述幾所學校首創。目前,國內多所學校都已進入“刷臉時代”,人臉識別功能大多用于學校或宿舍門禁、食堂支付等場景。在2018年安博會上,現場可提供場景解決方案的安防廠商中,有一半都表示支持以校園場景為基礎的人臉識別監控。
隨著智能教育的逐步推進,對學生的行為、知識及情感進行分析,實現精準化教學成為發展重點。2018年,教育部頒布的《教育信息化2.0行動計劃》,也讓提高教學質量與更多復雜的技術手段聯系在一起。
今年3月,廣東廣雅中學一智慧校園信息化采購項目引發熱議,該校采購了3500個電子手環,記錄學生的行為數據及部分健康數據。智能載體也不局限于電子手環,2018年12月底,貴州10多所中小學的學生穿上“智能校服”引發關注。據稱,該校服中縫制了可以記錄生物數據的智能芯片和隨時定位的 GPS 芯片,學生的進出數據會自動發送到家長和老師的手機應用中,下課離校后也可以對學生進行定位。
AI全方位滲透教育教輔類場景為主要領域
從刷臉門禁,到課堂監測,AI已經開始滲透到校園生活的方方面面。近年來,《國家教育事業發展“十三五”規劃》《教育信息化十年發展規劃(2010-2020年)》《教育信息化“十三五”規劃》等文件相繼出臺,無一例外都提到了“教育信息化”。在此背景之下,AI落地教育場景的聲勢越來越浩大。《2019年中國智慧教育行業市場發展及趨勢研究報告》數據顯示,2010-2018年中國智慧教育行業規模持續擴大,增速保持在10%以上,2018年市場規模超過5000億元。
各式科技新興企業、教育培訓公司、以及互聯網巨頭紛紛利用“現代信息技術”,布局智慧教育領域,其切入點包括考勤、安防、智慧教學、家校互動等方面。以人工智能企業曠視科技為例,在2018年舉辦的第75屆中國教育裝備展示會上,曠視就展示了其覆蓋智慧教學、智慧管理和智慧后勤的智慧教育產品及解決方案。
南都記者發現,在該解決方案中,“智慧教學”主要指以人臉識別驗證的方式對上課的學生身份進行核實,同時,運用人臉識別、行為識別、表情識別等技術,反饋學生行為、表情、專注度、前排上座率等多維度課堂數據。“智慧管理”指運用人臉識別技術,解決校園安全防護、學籍審核、考生身份核驗等管理工作中存在的難題。而“智慧后勤”,則包括宿舍管理系統、門禁通行系統、會議簽到系統以及刷臉支付系統。近日,令曠視備受爭議的,正是“智慧教學”這一產品。
AI在教育領域的應用,并不局限于校園內部,也不限于教學、管理和后勤這幾個場景。監考判卷、鋼琴陪練、課堂評估、答疑診斷,甚至代替老師上課,8月29日,科技部新一代人工智能發展研究中心聯合羅蘭貝格管理咨詢公司發布《智能教育創新應用發展報告》顯示,因為有了AI的賦能,這些關于智能教育的設想已經實現。
該報告同時指出,當前智能教育的主要場景,以基于智能識別技術的教學輔助類場景為主,如“拍照搜題”、“校園安防”等,這些場景的復雜程度較低,是目前人工智能在教育領域主要發揮優勢的領域。在教學評估和校園管理環節,人工智能技術適配性和成熟度均較低。而對于一些服務屬性的場景,一旦技術實現突破,將爆發出潛在價值。
各行多家企業上馬布局 智慧校園解決方案層出不窮
《智能教育創新應用發展報告》數據顯示,2014年至2016年是智能教育行業熱度最高的三年,三年間新成立43家智能教育公司,占2011~2018年智能教育公司成立數量總和的56%。報告指出,目前,智能教育市場上主要有四類關鍵代表企業,分別是教育類公司、互聯網公司、智能技術提供商與計算機平臺提供商。
在教育培訓公司方面,好未來、新東方、英語流利說、VIPKID、掌門一對一等都已有人工智能布局。例如,好未來在2017年8月就成立AI Lab人工智能實驗室,其“魔鏡系統”利用人臉表情識別等技術,來判斷學生上課時的舉手、練習、聽課、發言等課堂狀態和面部情緒變化;掌門1對1在2017年底宣布與人工智能企業商湯科技進行戰略性合作,在情緒智能識別等領域進行技術上的研究,以監測學生是否在認真上課,其創始人還分享過用“腦電波”進行監測的設想;海風教育則在2018年推出“好望角”AI系統,通過追蹤眼球焦點來分析學生視線。
在互聯網巨頭方面,百度、阿里巴巴、騰訊、字節跳動也都有相應的“AI+教育”布局。除教育培訓機構、互聯網巨頭公司和人工智能科技公司之外,三大電信運營商的各省級分公司、系統集成服務商、一體機和服務器等硬件廠商等,也都推出了自己的教育解決方案。每一個陣營的企業,都在各自擅長的領域向教育行業滲透。
南都記者發現,被質疑“侵犯隱私權”以及“過度延伸學校管束權利”的“智慧校服”由貴州冠宇科技有限公司開發。根據貴州冠宇科技官網信息,該公司于2015年成立,落戶在貴州貴陽國家高新區,主營“智慧校園”、“智能校服”、“二維碼墓碑”、“二維碼家庭相冊”、“碼上結婚”等業務,其中“二維碼墓碑”的介紹稱,“文明緬懷先輩,結束焚香燒紙的祭奠年代”。該公司稱,目前已在多地設立分支機構或合作伙伴100余家,與上百所學校和眾多海外客戶都建立了合作。
南都記者以“校園智能手環”為關鍵詞進行搜索,得到了不少解決方案。隨機點開搜索結果中某科技有限公司的官網,其介紹稱,“智能手環”可實現無感知自動考勤、進出校、定位分析、家校互聯、運動監測、資產追蹤等功能。該公司“位于硅谷和北京,核心團隊由來自頂級互聯網和通訊公司,至今已成功在全國大部分省市實現了智慧校園的建設”,并附有具體的學校案例。天眼查頁面顯示,該公司成立于2014年,屬于科技推廣和應用服務行業,已于2019年實現了B+輪融資。
雖然提供解決方案的企業眾多,但有業內人士指出,目前AI在教育行業落地還處于早期階段。《智能教育創新應用發展報告》也指出,智能教育正處于從教學輔助向價值創造階段的過渡時期,尚未大規模出現成熟化的、能夠因材施教商業應用。
隱私泄露、數據安全 AI進校園規范在即
從現有的AI產品落地校園的情況來看,隱私泄露、數據安全等問題,是消費者質疑和反對的主要聲音。有業內人士指出,如何選擇更合適的落地場景,如何兼顧科技和人文,或許是AI賦能教育需要思考的重要問題。“AI求快,但在教育行業必須慢下來、沉進去。未來我們看好對教育有敬畏之心,尊重教育規律、善用技術的團隊。”
近期,瑞典一所高中因試驗用人臉識別系統統計學生出勤率,而被瑞典數據監管機構處以 20 萬瑞典克朗(約合 14.8 萬元人民幣)的罰款。正如瑞典數據監管機構相關負責人所說,“人臉識別技術還處在起步階段,但是發展非常迅速,我們看到了建立一個適用于所有參與者的清晰準則的巨大需求。”
6月17日,國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》,首次發布發展人工智能治理原則,提出發展負責任的人工智能。與此同時,越來越多的企業也開始提出人工智能倫理規范。近日,騰訊研究院和騰訊AI Lab聯合發布了人工智能倫理報告,倡導面向人工智能的新的技術倫理觀;微軟全球執行副總裁沈向洋表示,微軟計劃未來推出的人工智能產品都要經過道德倫理審查;而即將IPO上市的曠視科技也推出了基于企業自身管理標準的《人工智能應用準則》,并在招股書中明確建立“AI道德委員會”。
9月5日,為促進“互聯網+教育”的健康發展,全面規范教育App,教育部等八部門聯合印發《關于引導規范教育移動互聯網應用有序健康發展的意見》(以下簡稱《意見》)。在數據安全上,《意見》明確要求,教育移動應用提供者應當建立數據保障機制。收集使用個人信息應當明示收集使用信息的目的、方式和范圍,并經用戶同意。收集使用未成年人信息應當取得監護人同意、授權。
同日,教育部科學技術司司長雷朝滋在接受采訪時稱,教育部已經在關注人工智能進校園一事,并正在組織專家論證研究,他表示,“(對于人臉識別技術應用)我們要加以限制和管理。現在我們希望學校非常慎重地使用這些技術軟件。”
-
安防
+關注
關注
9文章
2254瀏覽量
62635 -
人臉識別
+關注
關注
76文章
4012瀏覽量
81958 -
數據安全
+關注
關注
2文章
681瀏覽量
29955
發布評論請先 登錄
相關推薦
評論