麻省理工學院的研究人員推出了一種用于去偏置算法的AI

2022-07-24 06:08:40 編輯：姜君琬來源：

導讀鑒于算法在我們日常生活中的普及和普及，公平和平等待遇變得至關重要 - 去年麻省理工學院的一項研究揭示了面部識別算法中的性別和種族偏...

鑒于算法在我們日常生活中的普及和普及，公平和平等待遇變得至關重要 - 去年麻省理工學院的一項研究揭示了面部識別算法中的性別和種族偏見，這一事實對許多人來說非常突出。。

這一教訓似乎相當明確 - 偏見，偏見，即使參與制定培訓數據集的任何特定人員都沒有表現出有意識的偏見，這似乎也是正確的(有時候發(fā)現有75%的男性和超過80%的人)上述研究的白色圖像)。

為了解決這個問題，麻省理工學院計算機科學與人工智能實驗室(CSAIL)的一個團隊目前正在開發(fā)一種能夠同時學習的算法 - 手頭的任務(如人臉檢測)和訓練數據的基本結構，它通過重新采樣自動識別和最小化偏差。

在測試中，與最新和最好的面部識別系統相比，該算法設法將“分類偏差”降低了60%以上，同時保持了其特有的整體精確度。

新系統的關鍵創(chuàng)新是，雖然它的同行至少需要人類的一些輸入才能學習相關的偏見，麻省理工學院的數字“去偏置器”根本不需要手持 - 只需在其上投擲一個數據集就可以了底層結構，然后根據需要重新取樣。

“特別是面部分類是一種經常被視為'已解決'的技術，即使很明顯經常使用的數據集也沒有經過適當的審查，”博士說。學生Alexander Amini是本周在AIES上發(fā)表的一篇相關論文的作者。

Amini說，糾正這些問題勢在必行，因為我們開始看到這些算法被用于安全，執(zhí)法和其他領域。

此外，麻省理工學院團隊開發(fā)的系統可能與無法手動檢查的較大數據集特別相關，并可能擴展到其他計算機視覺應用。

標簽：

免責聲明：本文由用戶上傳，如有侵權請聯系刪除！