• 正文
  • 相關推薦
申請入駐 產業(yè)圖譜

美國又跟人臉識別杠上了,AI技術為何永遠走不進校園?

2020/07/27
162
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

2022 年之前,紐約禁止在學校中使用任何生物特征識別技術。

美國跟人臉識別徹底杠上了。

美國紐約州近日通過了一項法令:2022 年之前,禁止在學校中使用人臉識別和其他生物特征識別技術。

這也將成為全美首個明確規(guī)定學校不允許使用該技術的法案。

據南方都市報報道,這項法案提出的背后,是針對去年發(fā)生的一起有關校園 AI 應用爭議的回應。

2019 年 5 月,紐約州西部城市洛克波特市在全市校園部署人臉識別設備,主要目的是增強學校的安全性。

洛克波特市學區(qū)負責人米歇爾·布拉德利(Michelle Bradley)在接受外媒采訪時說,“這是讓學生、員工和訪客更加安全的又一措施”。

洛克波特市官方信息顯示,人臉識別系統(tǒng)將識別學校不允許出現的人員,并在識別到異常情況時發(fā)出警報提醒。

系統(tǒng)重點識別的人員包括二級或三級性犯罪者、被停職的學校員工、法院判決未經批準禁止進入學校的人員、執(zhí)法部門信息顯示會構成威脅的人員等等。

由于隱私等問題的存在,人臉識別應用在美國向來爭議頗多。

由此,洛克波特市也在紐約州教育廳等部門的監(jiān)督下反復修改了系統(tǒng)設置,最終決定只讓系統(tǒng)記錄人員比對的情況,不收集或存儲任何個人信息,學生的照片等個人信息也不會被添加到系統(tǒng)中。

另外,根據當地法律要求,監(jiān)控視頻保存 60 天后將從服務器上刪除。

2020 年 1 月,這一系統(tǒng)在洛克波特市正式投入運營。然而,一些美國民間團體還是認為人臉識別系統(tǒng)太具侵略性,不應在學校這樣的場所中部署。

他們認為,萬一系統(tǒng)出現了誤報,會給學生帶來種種傷害,比如影響學生上課、給學生扣上莫須有的犯罪記錄。

今年 6 月,紐約公民自由聯盟提起訴訟,要求洛克波特市停用該系統(tǒng)。

這一起訴得到了當地部分官員的支持。

當地時間 6 月 23 日,紐約州議會眾議員莫妮卡·華萊士(Monica Wallace)和參議員布萊恩·卡瓦納(Brian Kavanagh)發(fā)表聯合聲明,重申了對隱私問題的擔憂:

“我們擔心該技術的使用可能侵犯學生、教職員工和訪客的隱私權及其他公民權利。這是一種無效的維護校園安全的形式,并且可能無法安全地存儲學生數據?!?/p>

據悉,目前紐約州參眾兩院已經投票通過的新禁令。

接下來,禁令將被提交給紐約州州長安德魯 · 庫莫(Andrew Cuomo)。如果他簽字通過,禁令就將成為正式的法律。

?

校園裝“天眼”

美國紐約之外,相關應用此前也在中國教室中被另類應用,并引發(fā)了一些社會輿論。

它可以洞察課堂上的一切行為。

此前,浙江省杭州市某中學課堂上多了一位神奇的新朋友:智慧課堂行為管理系統(tǒng)。

通過這套系統(tǒng),校園管理者可以清楚地看清、分辨哪些同學在專注聽課,哪些同學在開小差。

該系統(tǒng)內置三個攝像頭,用以捕捉同學們的面部表情和動作,然后進行一系列大數據分析,最終計算出課堂實時考勤數據、課堂專注度偏離分析、課堂行為記錄數據以及課堂表情數據,并將結果反饋給校園管理方。

該校負責人表示,系統(tǒng)每隔 30 秒就會進行一次掃描,針對學生們閱讀、舉手、書寫、起立、聽講、趴桌子等 6 種行為,再結合面部表情是高興、傷心,還是憤怒、反感,分析出學生們在課堂上的狀態(tài)。(其中,僅趴桌子一項為負分行為。)

若此類不專注行為達到一定分值,系統(tǒng)就會向顯示屏推送提醒,任課教師可根據提醒進行教學管理及調整。

據悉,該系統(tǒng)還可與學校醫(yī)務室等其他后臺的數據打通,倘若學生有身體抱恙等突發(fā)情況,還可被暫列入“白名單庫”。

換句話說,在這套系統(tǒng)的“加持”下,同學們每天 8 節(jié)課的 320 分鐘,任何行為都可一目了然地得以展示。

對于該系統(tǒng)的落地、應用,某教育工作者黃老師表示:華而不實。

“學生有沒有開小差,老師在講桌前可以看得一清二楚。”

在他看來,如何能將“學”作為主動權緊緊握在學生手中已成教育管理者需要思考的問題。

學習從來都是一種自主性過程,教育的核心突破不是靠教具形式的升級,學生在課堂的認真程度取決于授課老師的魅力,強行監(jiān)督只會讓很多學生成為“面具人”。

同時,該系統(tǒng)的應用也遭到了不少網友的痛擊:

暫且避開隱私、倫理等層面不談,單從技術角度出發(fā),這項技術的落地應用是否真的可行?

校方稱該系統(tǒng)在課堂應用中可以起到兩大作用:

一、課堂實時考勤數據。由于教室學生基數不大;另外教室范圍也不大。目前很多人臉識別技術廠商都能夠很好滿足此項需求,不作詳敘。

二、課堂專注度偏離分析(微表情數據)。

從系統(tǒng)運行流程來說,它在安裝使用后將會進行兩步操作:

一是人臉檢測,通過人臉相機檢測到同學們的臉部,從而完成第一大點所說的實時考勤;

二是基于這些人臉數據做實時的深度分析,通過微表情識別來判斷學生們是否分神、開小差。

人臉表情由若干條細微的小肌肉控制,與常見人們發(fā)出的較為夸張或者平常的表情不同,微表情持續(xù)時間很短、動作幅度很小。

另外,微表情是一種自發(fā)式的表情,在人試圖掩蓋內在情緒時產生, 既無法偽造也無法抑制。

與其他生物識別技術的研發(fā)相比,微表情識別因為太過細微,一直是計算機視覺領域一個具有挑戰(zhàn)性的技術難題,該技術的研發(fā)門檻較高,技術難點主要體現在三個方面:

數據收集,這里的數據必須是動態(tài)的視頻數據;

肌肉單元很難做標注,每個人對表情的定義都不相同,“微笑”“難過”等標準難以判定;

微表情識別必須在五分之一秒內抓取到情緒變化,也就是要做到一秒鐘處理五幀以上畫面,讓數據做到實時。

雷鋒網 AI 掘金志了解到,目前這一技術在金融領域有所應用。

以信貸行業(yè)為例,如今騙貸行為頻發(fā),當涉及大額的貸款申請時,金融機構在批放貸款之前都會讓面審員與用戶進行一個十到十五分鐘的問答。

起初會核對用戶的基本信息,在用戶回答的過程中,會為用戶進行一個微表情的側寫,記錄一個用戶回答問題的習慣。

隨著面審員問題的深入,用戶在回答之后地問題時,如果出現了違反他之前的回答習慣(例如眼睛從直視屏幕轉為眼睛往上瞟或往腳下看),系統(tǒng)則會為其標記一個異常。

當整個面審環(huán)節(jié)結束后,系統(tǒng)會根據之前記錄的異常次數、等級進行一個綜合評估反饋給面審員。

如果前后差距過大,就意味著從基礎問題到追問環(huán)節(jié),此人的情緒、心理變化較大,如此就可提醒面審員此人有一定風險,要做更多地調查,以更好地降低風險。

也就是說,這項技術應用的前提還需配合面審員問題的逐步深入而出現的細微面部表情變化。

回到主題,學生們在上課過程中,沒有任何言語上的思考及負擔,也就意味著所有的面部表情都是自然狀態(tài)下而產生的,斷不可從單一的面部表情的變化去判斷他的心理活動或者是否分心(缺乏標準)。

宇視智能算法開發(fā)部專家楊治昆直言,“對于這套系統(tǒng)的可操作性,我持懷疑態(tài)度”。

在他看來,這套系統(tǒng)在實際應用過程中,會存在以下幾個問題:

任何 AI 技術的落地都要保證誤識率可控。一般來說,正常教室的長度在十二米左右,不近的距離通過機器去判斷每個同學們的面部細微變化,難度巨大;

任何產品的落地,都需要考慮光照等各種復雜環(huán)境的影響,這套系統(tǒng)也需要考慮上午、下午、夜間等教室內的環(huán)境變化。機器如何能夠確保實時復雜場景下的準確識別?

視頻監(jiān)控下的學生是動態(tài)的,應用場景是非配合式的,這種情況下識別難度會進一步提升。機器如何能夠做到不同角度的準確識別?

楊治昆表示,這些年 AI 技術發(fā)展迅速,教育市場也的確成為未來 AI 安防落地的重點拓展方向之一,如今各大安防廠商都在緊盯這塊市場。

但從產業(yè)界角度來看,相關技術不能盲目落地。人工智能應用要保證識別率、誤識率、魯棒性,唯有滿足這三點,技術的落地才會具有意義。

目前來看,比較容易落地的場景包括門禁、人臉考勤等等,而該系統(tǒng)提出的微表情分析,就目前 AI 發(fā)展水平來看,還存在很長一段距離。

在他看來,“一個產品的落地,除了要考慮客戶的需求也要考慮到受眾人群的體驗”。

相關推薦