生物識別鏡突出了人工智能的缺陷

墨爾本大學的研究人員以世界第一的方式設計了一種人工智能(AI)系統(tǒng)，可以根據(jù)他們的臉部照片來檢測和展示人們的個性特征和身體吸引力。

該系統(tǒng)稱為生物識別鏡，用于研究一個人對AI的理解以及他們對有關其獨特特征的信息的反應。

當有人站在生物識別鏡前時，系統(tǒng)會在幾秒鐘內(nèi)檢測到一系列面部特征。然后，它將用戶的數(shù)據(jù)與數(shù)千張面部照片的數(shù)據(jù)進行比較，這些面部照片由一組眾包響應者進行心理測量評估。

生物識別鏡具有14種特征，從性別，年齡和種族到吸引力，古怪和情緒穩(wěn)定性。一個人站在那里的時間越長，性格就越個性化。

由社會自然用戶界面中心(SocialNUI)和墨爾本科學館的Niels Wouters博士領導的研究項目探討了該技術對同意，數(shù)據(jù)存儲和算法偏差的關注。

“隨著人工智能和大數(shù)據(jù)的興起，政府和企業(yè)將越來越多地使用閉路電視攝像機和互動廣告來檢測路過的人的情緒，年齡，性別和人口統(tǒng)計特征，”沃特斯博士說。

“我們的研究旨在挑起關于人工智能界限的挑戰(zhàn)性問題。它向用戶展示了實施人工智能是多么容易，以不道德或有問題的方式區(qū)分可能產(chǎn)生社會后果的人。通過鼓勵關于隱私和大規(guī)模監(jiān)視的辯論，我們希望有助于更好地理解人工智能背后的道德規(guī)范。“

生物識別鏡強調(diào)了算法偏差和假設的潛在現(xiàn)實后果。

“雖然收集有關您的購物偏好的個人信息以定制個性化服務似乎無害，但未經(jīng)同意捕獲此信息使得無法知道預測是否基于正確的數(shù)據(jù)，”Wouters博士說。

“人工智能的使用是一個滑坡，超出了購物和廣告領域。想象一下，無法控制算法錯誤地認為你不適合管理職位，沒有資格獲得大學學位，或未經(jīng)你的同意公開分享你的照片。

“你的一個特點就是選擇 - 比如，你的責任水平 - 以及生物識別鏡子要求你想象這些信息現(xiàn)在正在與你的保險公司或未來的雇主分享，”沃特斯博士說。“該項目透明地展示了對個人的潛在后果。”

Wouters博士說，重要的是要注意生物識別鏡不是心理分析的工具。

“生物識別鏡只計算公眾對面部外觀的估計感，”他說。

“它受到其不準確性的限制，因為只有相對較小且眾包的數(shù)據(jù)集才能通知其設計。從生物識別鏡中得出關于心理狀態(tài)的有意義的結論是不合適的。”