新的研究表明 群體人工智能比個體做出更多的倫理決策

目前關(guān)于人工智能的討論大多集中在倫理影響上——人工智能是否最終會“智勝”我們，或者傷害我們;我們?nèi)绾未_保人工智能符合我們的最佳利益——值得考慮一種讓人類參與其中的人工智能新方法:群體智能。

聯(lián)合國大學(xué)是一個由全體一致的A.I運行的軟件平臺，它把人們集合在一起，在線得出各種實時的決定和預(yù)測，從“瘋狂三月”的獲勝者到肯塔基賽上的四匹最優(yōu)秀的馬。事實證明，該系統(tǒng)在給出準(zhǔn)確答案方面非常有效。事實上，它在各種競賽中都超過了專家——例如，在2015年的奧斯卡預(yù)測中，《蟲群》的準(zhǔn)確率超過了70%——應(yīng)該指出的是，《紐約時報》的評論家有55%的正確率。

但是，除了準(zhǔn)確性之外，使用蜂群還有另一個好處:根據(jù)新的研究，它可以做出更多的道德決定。

這可能有悖常理?！白鳛閭€體，人們通常會做出符合社會整體利益的道德決定，”一致人工智能公司(ai)首席執(zhí)行官路易斯·羅森伯格(Louis Rosenberg)說“但在集體中，我們經(jīng)常做出糟糕的決定，導(dǎo)致不平等、污染和武裝沖突等問題。這就是為什么它如此有趣，通過形成群體智能而不是進行標(biāo)準(zhǔn)的投票，群體似乎能夠克服這個人類的基本困境，做出更無私和更道德的決定?！?/p>

上周在紐約大學(xué)舉行的2016年集體智慧大會上公布的這項新研究使用了聯(lián)合國大學(xué)的一系列測試。參與者是隨機挑選的，他們的報酬是1美元。這些測試是基于“公地悲劇”(TOC)——這是一個經(jīng)典的經(jīng)濟問題，它表明人們會試圖從餡餅中分得最大的一塊，而這最終會對那些擁有較少的人造成傷害。

在第一輪實驗中，18名受試者在兩種情況下做決定:通過調(diào)查作為個體，然后作為群體的一部分做決定。在第一個案例中，參與者選擇他們想要0.30美元還是額外的0.90美元。

當(dāng)蜂群的一部分時，這群人負責(zé)將“磁鐵”移向六個位置中的一個:三個0.30美元，三個0.090美元。

抓住嗎?如果兩組中都有超過30%的人選擇了更高的金額，每個人都會空手而歸。

另外，需要注意的是:“用戶在決策時只能看到自己的磁鐵，而不能看到別人的磁鐵?！币虼?，雖然他們可以實時看到冰球的運動，這代表了整個蜂群的新興意志，但他們不受支持的具體分解的影響。這限制了社會偏見?！?/p>

結(jié)果呢?當(dāng)單獨詢問時，67%的參與者要求得到0.90美元的獎勵，沒有人得到現(xiàn)金獎勵。研究人員稱這是“TOC困境的典型表現(xiàn)”。然而，蜂群的結(jié)果是24%的人向0.90美元靠攏，70%向0.30美元靠攏，6%的人放棄了自己的決定。

研究人員說，這群人想出了一個“優(yōu)化整個群體支出的解決方案”，打敗了傳統(tǒng)的TOC問題。

在第二個實驗中，70名受試者被要求在兩種情況下再次做出決定:一種是通過標(biāo)準(zhǔn)的在線投票的多數(shù)人投票的團隊決定，另一種是使用實時群體。

有三支隊伍:橙色、黃色和紫色。每個團隊被告知，所有成員將獲得0.25美元或0.75美元的額外獎金，只是由團隊詢問他們想要哪種獎金。但如果超過三分之一的球隊要求更高的獎金，沒有人會得到獎金。

結(jié)果:70個人中有47人要求得到美元。075年的獎金。研究人員說:“因此，當(dāng)被試者被視為一群互不相關(guān)的個體時，他們再一次陷入了TOC困境。”當(dāng)他們被分組后，三個人都要求巨額獎金。

當(dāng)這群人成群結(jié)隊時，三支隊伍中有兩支要求得到小獎金。

研究人員稱，“與利用集體智慧的基于投票的方法相比，人類群居可能是一種可行的技術(shù)，可以更好地做出符合群體共同利益的決定……從人類群體中產(chǎn)生的智慧，可能會比從群體中的個體參與者中產(chǎn)生的決策更有利于共同利益?！?/p>

利用“軟”人工智能通過群體智能做出決策的實驗，可能為思考如何創(chuàng)造合乎道德的人工智能提供了一種新的方式。