分散化如何減輕人工智能中的數(shù)據(jù)偏差

Covid-19使全世界的衛(wèi)生系統(tǒng)不堪重負(fù)。當(dāng)時(shí)，用于患者的床位和通風(fēng)機(jī)以及用于醫(yī)務(wù)人員的防護(hù)裝備不足以使人四處走動(dòng)。這意味著特別是在發(fā)達(dá)，衛(wèi)生系統(tǒng)必須采用某些技術(shù)來有效地分源。人工智能就是其中之一，它在對抗方面的重要性不斷提高。

由紐約大學(xué)研究人員開發(fā)的一款應(yīng)用程序，利用人工智能和大數(shù)據(jù)預(yù)測Covid-19病例的嚴(yán)重性，至少從理論上講就是該技術(shù)如何幫助資源分配的一個(gè)很好的例子。研究人員使用了來自武漢160家醫(yī)院的患者數(shù)據(jù)，確定了四種生物標(biāo)志物，這些生物標(biāo)志物在死于病毒的患者中明顯高于在康復(fù)中的患者。該應(yīng)用程序基于輸入到AI模型中的數(shù)據(jù)，為患者分配嚴(yán)重性評分，臨床醫(yī)生可以使用該評分做出明智的護(hù)理和資源分配決策。

公平，性別與平等研究中心的Genevieve Smith和Ishita Rustagi寫道，盡管AI可以給戰(zhàn)場帶來積極影響，但所使用的基礎(chǔ)數(shù)據(jù)中的缺陷可能會(huì)加深性別和種族群體之間已經(jīng)存在的不平等現(xiàn)象。加州大學(xué)伯克利分校哈斯商學(xué)院的領(lǐng)導(dǎo)力，發(fā)表在《斯坦福大學(xué)社會(huì)創(chuàng)新評論》上。

有趣的是，這些數(shù)據(jù)可靠性問題并非時(shí)代所固有。實(shí)際上，AI及其機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的子集(僅舉幾例)受到數(shù)據(jù)偏差和數(shù)據(jù)質(zhì)量難題的困擾。

這里的主要討論是關(guān)于區(qū)塊鏈如何幫助解決這些數(shù)據(jù)可靠性問題。但是，首先了解數(shù)據(jù)偏差的來源很有價(jià)值。

另外，在數(shù)據(jù)收集階段，由于收集的數(shù)據(jù)不能代表現(xiàn)實(shí)或反映了現(xiàn)有的偏見，因此偏差可能會(huì)漏進(jìn)去。例如，如果您向深度學(xué)習(xí)模型提供了更多特定皮膚顏色的照片，則后續(xù)的面部識(shí)別系統(tǒng)將更好地識(shí)別訓(xùn)練數(shù)據(jù)中的主要皮膚顏色。

關(guān)于收集反映現(xiàn)有偏見的數(shù)據(jù)，亞馬遜亞馬遜據(jù)報(bào)道，在發(fā)現(xiàn)基于AI的招聘系統(tǒng)偏向女性后，該系統(tǒng)放棄了該系統(tǒng)。一組研究人員在2019年發(fā)現(xiàn)，將其帶回到醫(yī)療保健中，該算法被許多醫(yī)院用來預(yù)測風(fēng)險(xiǎn)并隨后分源，使患者勝于黑人而不是黑人。

兩種基于區(qū)塊鏈的方法來提高數(shù)據(jù)質(zhì)量

挖掘得越深，就會(huì)發(fā)現(xiàn)更多的偏見?？紤]到這些問題的復(fù)雜性，沒有唯一的解決方案。但是，專家們同意的一件事是對數(shù)據(jù)多樣性的需求。為了實(shí)現(xiàn)這種數(shù)據(jù)多樣性，提高數(shù)據(jù)的透明度以及強(qiáng)大的協(xié)作可以改善這種情況。在這里進(jìn)入?yún)^(qū)塊鏈技術(shù)。通過設(shè)計(jì)，該技術(shù)只能通過多方協(xié)作來維護(hù)網(wǎng)絡(luò)。這可能為機(jī)器學(xué)習(xí)模型及其所提供的數(shù)據(jù)帶來透明度，去中心化和可驗(yàn)證性。