面部識別技術(shù)的反烏托邦潛力

您正在觀看：面部識別技術(shù)的反烏托邦潛力

由美國有線電視新聞網(wǎng)倫敦的Matthew Ponsford撰寫

第二次你進入倫敦設(shè)計雙年展的美國館，你會覺得你正在被觀看。但是在倫敦富麗堂皇的薩默塞特宮(Somerset House)的這個房間花一點時間，它的創(chuàng)造者希望你能夠意識到你是 - 而且永遠都是 - 在你無法控制的強大系統(tǒng)的眼睛下。

Fenty Beauty，SpaceX Falcon和Sony Aibo入圍Beazley Designs of the Year

這個名為“面值”的裝置由紐約史密森尼設(shè)計博物館的Cooper Hewitt策劃，匯集了令人不安的技術(shù)實例，這些技術(shù)旨在閱讀我們的面孔，了解我們的情感并直觀地了解我們的身份。

坐在兩把椅子中的任何一把，配備面部檢測技術(shù)的相機將掃描你的眉毛或鼻子皺紋的最輕微的曲線，以獲得情緒的跡象。捕獲的所有內(nèi)容都會返回各種可疑的反饋 - 例如對您年齡的不準(zhǔn)確評估或難以理解的“幸福”分?jǐn)?shù)。庫珀休伊特(Cooper Hewitt)的董事卡羅琳·鮑曼(Caroline Baumann)認(rèn)為這很有趣，但“充電”。

她在接受電話采訪時說：“我認(rèn)為將這些數(shù)據(jù)或事實轉(zhuǎn)化為數(shù)據(jù)或事實可能令人心碎。但事實就是如此。”

該裝置是倫敦設(shè)計雙年展的40個展館之一，這是一個國際設(shè)計展示，主題為“情感狀態(tài)”。

“Face Values”的安裝視圖是美國倫敦設(shè)計雙年展館。圖片來源：David Levene提供的

“Face Values”獲得了該主題最具啟發(fā)性的詮釋獎，是面對網(wǎng)絡(luò)數(shù)字技術(shù)入侵我們通常私密的內(nèi)心世界的一系列創(chuàng)意項目的最新成果。

大膽，挑釁，包容：游戲設(shè)計的新面貌

Cooper Hewitt當(dāng)代設(shè)計高級策展人Ellen Lupton表示，該展覽反映了公眾對設(shè)計和技術(shù)未來的信任正在崩潰的時期：“這一假設(shè)已經(jīng)發(fā)生了變化，這種假設(shè)認(rèn)為技術(shù)是一種解放力量。”

位于“Face Values”中心的兩把椅子坐在美國設(shè)計師Zachary Lieberman和R. Luke DuBois的裝置前面。Liberman揭示了面部檢測的工作方式，掃描訪客以顯示該技術(shù)如何將一個人的外觀變成一組數(shù)據(jù)點。然后它將從其他訪客捕獲的類似的身體部位有趣地疊加到你的臉上。結(jié)果是一種警察合成照片，在屏幕上模擬，當(dāng)你扭曲和扭曲你的臉。

在2018年倫敦設(shè)計雙年展上，一位訪客與Cooper Hewitt的“面值”裝置中的Zachary Lieberman的表鏡進行了互動。照片David Levene。圖片來源：David Levene提供的

但DuBois的展示更令人不安。參觀者被記錄下來，因為他們被要求表現(xiàn)出特定的情感，如喜悅或平靜，并通過人工智能計劃評價他們的努力。與此同時，他們正在反饋它所收集的信息 - 其中大部分是不準(zhǔn)確的 - 關(guān)于這個人的年齡，性別和種族。

對于游客而言，令人不安的是坐在那里咧嘴笑著獲得最大的“歡樂”收視率，同時被告知你看起來很老。它體現(xiàn)了這些系統(tǒng)如何影響和制服我們。

“人們知道(這種技術(shù))存在，但他們并不知道收集這些信息的政府和營銷公司的數(shù)量，”鮑曼說，“我們確實希望人們不要意識到技術(shù)不是A +。”

R. Luke DuBois在Cooper Hewitt的“Face Values”裝置中拍攝了他的作品。圖片來源：David Levene提供的

全球斗篷

生物識別專家兼執(zhí)行董事世界隱私論壇的Pam Dixon預(yù)測，我們正面臨著面對日常生活的面部識別。

“我最好的猜測是，我們將在五年內(nèi)看到整個世界隱藏在面部識別技術(shù)和其他生物識別技術(shù)中，”Dixon在電話采訪中說。“這很難錯過。”

控制幻覺：為什么世界上充滿了不起作用的按鈕

面部識別技術(shù)的形式已經(jīng)在Apple的iPhone X上推出，用于解鎖屏幕，以及Facebook用戶上傳的相冊，以便在照片中識別您。

但警方和安全部隊長期以來一直是該技術(shù)的最大支持者，盡管它的使用遠非萬無一失。今年，倫敦大都會警察局在諾丁山狂歡節(jié)結(jié)束了對面部識別軟件的使用，這是一個慶祝英國 - 加勒比文化和該國最大的街頭藝術(shù)節(jié)。根據(jù)獨立法律觀察人士的說法，在過去的兩年里，大都會人員已經(jīng)掃描了人群中的疑似犯罪分子，但他們一再被誤認(rèn)。

客戶在iPhone X上設(shè)置面部識別。信用：Bloomberg通過Getty Images

在雙年展的輕松環(huán)境中，游客對于被誤導(dǎo)的震驚做出了最大的反應(yīng)。在現(xiàn)實世界中，執(zhí)法的錯誤讀數(shù)會帶來可怕的后果，面部識別技術(shù)在種族和性別平等方面的慘淡記錄是其最一致和潛在的災(zāi)難性失敗。

2月，麻省理工學(xué)院和斯坦福大學(xué)的研究人員發(fā)現(xiàn)，微軟，IBM和中國初創(chuàng)公司Megvii制作的面部識別應(yīng)用程序在確定淺膚色男性的性別方面準(zhǔn)確率超過99%。但對膚色較深的女性進行相同的測試，識別錯誤的比例高達35%。

在該技術(shù)的一個最近的測試由美國公民自由聯(lián)盟(ACLU)亞馬遜的面部識別系統(tǒng)，它已授權(quán)給執(zhí)法部門和私營部門的公司，掃描美國國會的所有535名成員反對25000名警方嫌疑犯照片的面孔，并產(chǎn)生了28個錯誤的匹配。該測試還發(fā)現(xiàn)，非裔美國人和拉美裔國會議員被錯誤地誤認(rèn)為是罪犯。

迫害的歷史

“這不是一件全新的事情，”Lupton解釋道，他將算法與維多利亞時代聯(lián)系起來，用于測量從鼻子大小到眼睛之間距離的所有內(nèi)容，相信它可以解釋一個人的性格。

“它涉及現(xiàn)代警務(wù)和心理學(xué)的起源。第一個面部照片都是關(guān)于測量面部和尋找罪犯之間的統(tǒng)計相似性。”

NASA支持火星上3D打印房屋的設(shè)計

但現(xiàn)在是探索這些想法的“肥沃時期”，鐘聲鮑曼。大約在過去兩年中，自唐納德特朗普總統(tǒng)的震驚選舉和英國退出歐盟的公投決定以來，由于調(diào)查顯示劍橋分析公司在利用復(fù)雜數(shù)據(jù)影響投票方面的作用，對技術(shù)的信任度大幅下降，操縱情緒和傳播虛假信息。

相關(guān)視頻：中國的總體規(guī)劃是什么?

有關(guān)異常事物如何得到的例子，Lupton指向中國。在新疆地區(qū)，在中國最西邊，黑匣子系統(tǒng)向數(shù)以萬計的監(jiān)控攝像機提供數(shù)據(jù)，以及從“消費者習(xí)慣到銀行活動，健康狀況以及新疆每個居民的DNA特征”的數(shù)據(jù)。據(jù)德國新聞雜志Der Spiegel報道。

算法為任何不規(guī)則的活動搜索這些數(shù)據(jù)，數(shù)千人被捕。類似的系統(tǒng)將在這個擁有14億人口的州內(nèi)推出，其形式是一個全能的系統(tǒng)，它將為每個人提供所謂的社會信用評分，該評分將決定從住房到約會應(yīng)用程序的所有內(nèi)容。

在所有這些恐懼中，鮑曼相信設(shè)計師和博物館可以在教育游客方面發(fā)揮作用，甚至可能促使一些人采取行動。

“隨著越來越多的人意識到這一點，我認(rèn)為會有異議和變化