學(xué)校正在使用人工智能保護(hù)學(xué)生

在過去的10年中，目睹了180起學(xué)校槍戰(zhàn)，其中有356人受害。由于該國的槍支管制法律較弱，學(xué)校正在轉(zhuǎn)向人工智能（AI）來保護(hù)學(xué)生。但是據(jù)Recode稱，最近在9所公立學(xué)校中安裝的AI系統(tǒng)引起了一些隱私方面的擔(dān)憂。

　　基于AI的軟件稱為外觀搜索，由一家名為Avigilon的公司開發(fā)。該軟件能夠根據(jù)學(xué)生的外貌，年齡，性別，衣服和某些面部特征在校園內(nèi)尋找學(xué)生。

　　該軟件使學(xué)校管理人員可以找到學(xué)生，并找到他們可能在校園內(nèi)有監(jiān)控?cái)z像頭的地方的位置。它使用身體描述，例如年齡，性別和人的頭發(fā)顏色。通過分析特征，該軟件從其他視頻素材中搜索匹配項(xiàng)。因此，該工具無法分辨出該人的確切身份，但卻可以判斷出他們在學(xué)校期間可能去過的地方。

外觀搜索的工作方式

　　該軟件已集成到學(xué)校的監(jiān)視系統(tǒng)中。因此，如果學(xué)校安全官員目睹任何可疑的學(xué)生活動(dòng)，則他/她可以單擊特定學(xué)生的身體以獲得該學(xué)生的更多信息。該軟件將分析學(xué)生的物理特性，例如衣服，性別，頭發(fā)顏色以及Avigilon所說的某些面部特征。在分析了所述特征之后，該軟件將隨后將該圖像與具有與其他相機(jī)饋送的類似特征的任何圖像進(jìn)行匹配。

　　隱私問題

　　像往常一樣，使用AI軟件會(huì)帶來明顯的隱私問題，并且該軟件也是如此。許多安全和隱私專家已經(jīng)質(zhì)疑Avigilon的外觀搜索。

　　“人們在觀看時(shí)的行為會(huì)有所不同，”隱私未來論壇的AI和道德總監(jiān)Brenda Leong提醒道。“我們是否真的希望年輕學(xué)生和高中生以及其他任何人都感覺自己一直在這種環(huán)境中工作？”

　　盡管該軟件可以提高安全性并減少學(xué)校的暴力行為，但其使用方式有所不同。學(xué)校管理員正在使用此工具監(jiān)視學(xué)生的欺凌行為，違反行為守則的情況，并協(xié)助對學(xué)校員工進(jìn)行調(diào)查。

　　該技術(shù)并非完全基于面部識別，但是它是可以識別面部某些特征的軟件。在AI Now Institute研究機(jī)器學(xué)習(xí)的學(xué)者Varoon Mathur認(rèn)為外觀搜索使用“對象檢測”。非營利性數(shù)字版權(quán)非營利組織Logan Koepke稱其為“人檢測”軟件，因?yàn)樗治隽巳说钠渌卣?，而不僅僅是面部表情。

?

　　在大多數(shù)學(xué)校中使用此軟件，學(xué)生將永遠(yuǎn)無法獲得隱私。學(xué)校管理員報(bào)告說，沒有關(guān)于該軟件的侵犯隱私的報(bào)告。

　　但是，前Marjory Stoneman Douglas高中（已經(jīng)安裝了該軟件的學(xué)校）的學(xué)生Koerber說：“學(xué)校槍擊事件可能隨時(shí)隨地發(fā)生。我們知道。但是，為了防止這種情況，我們是否需要侵犯每個(gè)在特定學(xué)校就讀的人的隱私？我認(rèn)為并非如此。”