[[278770]]

制圖/李曉軍

● 人臉識別進校園,既有數據安全也有個人隱私問題,包含學生的個人信息要非常謹慎,能不采集就不采集,能少采集就少采集,尤其涉及個人生物信息的

● 網絡安全法規定,網絡運營者收集、使用個人信息,應當遵循合法、正當、必要的原則,公開收集、使用規則,明示收集、使用信息的目的、方式和范圍,并經被收集者同意

● 表情監控在某種程度上侵犯了學生的尊嚴,也是對學生自主學習能力和教師授課能力的不信任。學生長期在監控環境下學習、成長,容易養成“表演性人格”

隨著人工智能不斷發展,人臉識別技術被越來越多地應用于校園中。

據了解,一所知名大學2019級新生“刷臉”就能瞬間完成報到程序,系統是這所學校的學生研發的,學生對著攝像頭,人臉識別系統就開始進行比對,眨眼間就能完成掃描,整個報到注冊手續幾乎不到一秒鐘。此外,通過人臉識別還可以對學生進行考勤,以及實時觀察學生的上課狀況等。

對此,教育部科學技術司司長雷朝滋認為,“(對于人臉識別技術應用)我們要加以限制和管理。現在我們希望學校非常慎重地使用這些技術軟件。教育部已經開始關注這個事情,組織專家論證研究”。

雷朝滋還說,人臉識別進校園,既有數據安全也有個人隱私問題,“包含學生的個人信息都要非常謹慎,能不采集就不采集,能少采集就少采集,尤其涉及個人生物信息的”。

人臉識別進校園究竟會有哪些利弊?《法制日報》記者對此進行了采訪。實時監控課堂表現老師學生壓力增大

近日,中國藥科大學試水“人臉識別進課堂”,在校門口、學生宿舍、圖書館及部分教室等場所安裝人臉識別系統。這個系統除了能自動識別學生的出勤情況外,還能識別出學生是否認真聽講,課堂上抬頭低頭了幾次,低頭是否在玩手機,是否閉眼打瞌睡等。有網友認為,這樣的系統在校園廣泛應用或涉嫌“侵犯隱私”。

據了解,早在2015年,國內一所知名高校就曾在高校信息化建設中首次引入人臉識別技術。近年來,有些地方的初中出于“提升校園安全”考慮,在校園門口安裝人臉識別考勤系統。

“現在是互聯網科技時代,到處都講‘互聯網+教育’,這是教育的創新,我們也很樂意看到新技術的應用能給教育行業帶來新的生機。”一位從教近10年的高中老師楊妮(化名)對《法制日報》記者說。

“初、高中學生上課自覺性比較差,需要老師的督促,如果上課期間需要老師不停地維持課堂紀律,那么課堂質量就會有所降低。而且傳統的點名方式浪費時間,準確率也不高。從這個方面來說,在教室安裝人臉識別系統確實能幫助老師維持課堂的秩序,從而專心把精力放在對課堂內容的把控上,很大程度上提高了課堂效率。”楊妮說。

楊妮認為,盡管人臉識別系統能給教學帶來一些好處,但是如果老師和學生長期處于人工智能的“監視”之下,有可能會適得其反。一旦學生意識到自己處于監控狀態之下,那他們在課堂中的表現就必然是失真的,老師們無法得到真實的教學反饋,也不能準確了解學生們的興趣點和對知識的掌握情況。

“對于老師而言,在監控之下教學,難免會出現迎合的心態,無法完全放開自主發揮。老師們把課堂教學變成表演,學生們也在表演,長此以往,教學效果就會不斷降低。”楊妮說。

西安一名大學生陳霖(化名)告訴《法制日報》記者,沒有哪個學生會喜歡這種上課方式。“這就像是有人在一直監視你,沒有人會喜歡被監視。對于類似的系統,我們肯定是比較抵觸的,如果強制安裝,那只會讓大家的逆反心理更重,根本達不到提高課堂質量的效果,學習關鍵還是要靠自覺。”

陳霖就讀的大學目前已經開始通過人臉識別進行考勤,出入宿舍也會有人臉識別。

“這些都是出于安全考慮,我們可以理解,但如果人臉識別真的推廣到教室里,連大家的細微表情都能監控,那就有點可怕了。”陳霖說。人臉識別侵犯隱私教育創新尊重學生

據中國藥科大學圖書與信息中心有關負責人介紹,目前學校在兩間教室試點安裝的人臉識別系統,除了自動識別學生出勤情況外,學生是否認真聽講,課堂上是否抬頭低頭,低頭是否在玩手機,是否閉眼打瞌睡,都逃不過系統的“法眼”。

上述人臉識別系統引起關注后不久,該人臉識別系統的開發企業回應稱,該圖為技術場景化概念演示。針對網友熱議的隱私保護等問題,這家開發企業稱,在人工智能技術的各種場景中,會堅持正當性、數據隱私保護等核心原則,接受社會的廣泛建議和監督。

中國傳媒大學法律系主任鄭寧認為,人臉識別系統在校園推廣確實有侵犯學生隱私的可能性。人臉屬于個人生物信息,而且屬于可以識別的個人信息,一旦被泄露或被不法分子利用,風險遠遠高于其他信息。

鄭寧告訴《法制日報》記者,網絡安全法中提到,網絡運營者收集、使用個人信息,應當遵循合法、正當、必要的原則,公開收集、使用規則,明示收集、使用信息的目的、方式和范圍,并經被收集者同意。網絡運營者不得收集與其提供的服務無關的個人信息,不得違反法律、行政法規的規定和雙方的約定收集、使用個人信息,并應當依照法律、行政法規的規定和與用戶的約定,處理其保存的個人信息。民法總則也明確提出,自然人的個人信息受法律保護。任何組織和個人需要獲取他人個人信息的,應當依法取得并確保信息安全,不得非法收集、使用、加工、傳輸他人個人信息,不得非法買賣、提供或者公開他人個人信息。

鄭寧認為,人格尊嚴是法律規定的人的基本權利,表情監控在某種程度上侵犯了學生的尊嚴,也是對學生自主學習能力和教師授課能力的不信任。

“作為一線教師,我認為,靠人臉識別系統對學生進行表情監控來提高課堂效率,既不合法,也不合理。提高課堂效率,歸根到底,還是要靠先進的教學理念和教學方式、豐富生動的教學內容。”鄭寧說。

21世紀教育研究院副院長熊丙奇告訴《法制日報》記者,去年,某中學使用“黑科技”打造“智慧教室”,對學生進行表情監控,以提高課堂教學效率,輿論對此普遍質疑,認為此舉不尊重學生的人格權利,侵犯學生隱私。學生長期在監控環境下學習、成長,容易養成“表演性人格”。因此,對這種所謂的技術創新應該持十分慎重的態度。

熊丙奇還認為,在資本逐利和學校提高教學效果的雙重驅動下,一些企業開發并推廣這種以監控學生上課表情、行為的人工智能系統,也有一些學校采用這樣的系統,并以使用后的效果,諸如學生上課更投入,老師管理學生更方便,學生成績提升以及學生間、師生間的沖突與糾紛減少,來論證采用這一系統的科學性、合理性。

“現代科學技術當然可以用于教育教學中,但需要首先分辨清楚教育是什么。很顯然,在教室里安裝監控,全天無休地對著學生,適時采集學生的表情、動作,這種做法的反教育性質比較明顯,但卻得到個別教育管理者和學校的認可。這是因為有的教育者和辦學者忽略了教育的本質,只是考慮怎么管理方便以及怎樣提高成績。”熊丙奇說,學校是育人的地方,必須幫助學生健康成長,所有的教育創新必須以尊重學生的人格為基本出發點。新技術推廣須謹慎教育不能偏離正軌

另據了解,除了中國藥科大學之外,某小學也在使用同一套系統。這套系統運用在姿態評估、表情識別、語言識別、教師軌跡熱力分析等方面,可以捕捉到學生在校園生活中是否有微笑、向老師問好、主動撿垃圾、列隊整齊等良好行為,或者快速奔跑、摔跤、打架、擁擠等危險動作。

鄭寧認為,在學校推廣人臉識別技術要特別慎重。一些學校啟用人臉識別進出校門,作為校園安全管理措施,有其正當性,但應該向師生明示收集、使用個人信息的目的、方式、范圍,并取得他們的授權,并且建立完善的個人信息安全保護措施,防止相關信息泄露或被不法分子利用,否則要承擔相應的法律責任。在課堂里利用人臉識別進行表情監控,除非經過學生明確授權,否則應當禁止。

在熊丙奇看來,教室里可以安裝監控,但應該只在兩種情況下使用,一是在考試時監控考場秩序,二是在獲得教師和學生同意的情況下,直播課堂教學,與其他學校、課堂共享教育資源。如果一直使用監控,盯著學生和教師的上課情況,會讓整個教學活動變為表演,對學生的人格成長產生很大的負面影響。

“也有人說安裝監控系統,便于教師管理學生,但其實在監控體系之下,教師也是被管理對象,長期使用監控系統,對教師的職業化、專業化發展也會有很大的負面影響,教師上課就依靠智能系統的‘反饋’,告訴教師哪個學生不認真,哪個學生不專注,這是技術識別的結果。離開了技術手段,老師還會教學嗎?教育是有情感和靈魂的事業,無節制地使用人臉識別等技術,會把教育變得沒有靈魂和情感,那還不如使用教育機器人。”熊丙奇說。

熊丙奇認為,要讓教育創新符合教育規律,應該由教師委員會和學術委員會進行論證,并廣泛聽取教師和學生的意見,不能由少數人決定。在資本驅動下,某些企業傾向于對一些教育領域的新概念進行炒作,某些學校會因此變得急功近利,讓“人工智能+教育”的路越走越偏,因此需要及時正本清源、回歸正道。(記者 杜曉 實習生 景千姿)