微軟的面部識別可以更好地識別膚色較暗的人

據(jù)公司博客文章稱，微軟表示其面部識別工具在識別膚色較暗的人群方面正在變得越來越好。皮膚較深的男性和女性的錯誤率降低了20倍，所有女性的錯誤率降低了9倍。

該公司表示，它正在通過更大，更多樣化的數(shù)據(jù)集來培訓(xùn)其AI工具，這已經(jīng)取得了進(jìn)展。“如果我們正在培訓(xùn)機(jī)器學(xué)習(xí)系統(tǒng)，以模仿在偏見社會中做出的決策，使用該社會產(chǎn)生的數(shù)據(jù)，那么這些系統(tǒng)必然會重現(xiàn)其偏見，”微軟高級研究員Hanna Wallach在博客文章中說。

今年2月，麻省理工學(xué)院媒體實驗室的一份報告測試了微軟，IBM和中國Megvii的面部識別系統(tǒng)，發(fā)現(xiàn)高達(dá)35%的膚色較深的女性的性別被系統(tǒng)誤認(rèn)。該報告僅證實了許多人多年來一直懷疑的情況 - 面部識別系統(tǒng)可能受到有限數(shù)據(jù)集和其他因素(如系統(tǒng)性種族主義)的偏見。早在2015年，谷歌就在一張照片中將軟件工程師的黑人朋友稱為“大猩猩”，并不得不為此錯誤道歉。

盡管如此，雖然微軟今天的公告顯示其面部識別系統(tǒng)中的種族偏見有所減少，但如果執(zhí)法部門開始使用改進(jìn)的面部識別工具，那么目前還不清楚這對于有色人種會如何發(fā)揮作用以及這是否會加劇已經(jīng)存在問題的做法。微軟與美國移民和海關(guān)執(zhí)法局(ICE)合作，其面部識別工具作為資源提供給政府機(jī)構(gòu)。微軟首席執(zhí)行官薩蒂亞·納德拉上周在一份備忘錄中澄清說“微軟并沒有與美國政府就任何與邊境家庭分離兒童有關(guān)的項目進(jìn)行合作”，但他沒有說明面部識別如何在使ICE受益方面發(fā)揮作用。工作。