將文化嵌入AI時如何正確處理文化

如果像Rip Van Winkle一樣在過去的十年中已經(jīng)睡著了并且剛剛醒來，那翻蓋手機(jī)已經(jīng)成為復(fù)古技術(shù)人員和生存主義者中的熱門話題，那么，人工智能(AI)是要么殺死你，要么拯救你。

人工智能是困擾社會的一長串技術(shù)流行語中的最新一種，如果我們要相信備受推崇的技術(shù)分析公司Gartner Inc.的員工，那么2018年將是AI真正融入我們?nèi)粘Ｉ畹囊荒?。在波士頓動力學(xué)(Boston Dynamics)煮熟的超現(xiàn)實機(jī)器人或在公立學(xué)校中部署面部識別AI時，似乎令人不安，該技術(shù)是人類條件的產(chǎn)物，因此，我們將自己的文化嵌入其編碼的DNA中。

關(guān)于AI的爭論目前集中在道德概念上。在文化研究中，道德觀念被深深植根于價值觀之中，它們已經(jīng)成為有關(guān)人工智能如何融入我們生活的重要組成部分。尚未討論的是我們在談?wù)撜l的道德規(guī)范以及最終的價值觀。

是西方對東方，還是人對其他人?由于文化中的價值觀受到社區(qū)和更大社會的影響，因此倫理學(xué)取決于社區(qū)價值觀在其中發(fā)展的文化背景。

“培養(yǎng)”

因此，文化在經(jīng)過了所謂的形成AI的重要作用的教化該數(shù)據(jù)。

人類學(xué)家吉納維芙·貝爾(Genevieve Bell)是英特爾公司前副總裁兼文化遠(yuǎn)見卓識者，能夠引導(dǎo)這家科技巨頭更深入地了解文化與人工智能如何相互作用。

貝爾的研究表明，人類與技術(shù)的互動在文化上并不普遍。它既不相同也不客觀，我們在有意識和無意識的水平上對技術(shù)內(nèi)外的文化進(jìn)行編碼。

如果這是真的，那么人工智能文化的最終發(fā)展會發(fā)生什么?

人類學(xué)家，人類文化進(jìn)化有許多標(biāo)志：該工具的操作，抽象思維的發(fā)展，和更根本的，語言的創(chuàng)造中進(jìn)行通信。

當(dāng)兩個或兩個以上的生命實體開始交流和交換信息以及更為復(fù)雜的思想時，文化便開始了。非人類AI實體之間的文化發(fā)展尚未討論，更不用說人類文化與AI文化的融合了。

機(jī)器人發(fā)展了自己的語言

最近，F(xiàn)acebook的AI研究小組(FAIR)簡短地提到了一個實驗，其中兩個機(jī)器人的任務(wù)是彼此進(jìn)行談判。據(jù)當(dāng)時報道，這些機(jī)器人開始開發(fā)一種更有效的語言來相互交流。

Facebook的計算機(jī)科學(xué)研究人員迅速終止了這兩種機(jī)器人之間正在迅速發(fā)展的一種更高效的AI語言的開發(fā)工作，并不是因為他們對AI自我創(chuàng)造的出現(xiàn)感到恐懼，而是因為這些機(jī)器人沒有返回預(yù)期的結(jié)果-英文談判。

在代碼本質(zhì)上由零和一(是或否)組成的世界中，意外的余地并不多。但是有時，我們應(yīng)該抓住機(jī)會并探索各種可能性，因為文化不會以一種獨特的方式表現(xiàn)出來。

文化是我們創(chuàng)造的。作為一個社會，我們有意識或無意識地同意這套準(zhǔn)則，它構(gòu)筑了我們在日常生活中的運作方式。

人工智能可以吸收文化

人工智能在未來具有吸收世界上所有文化規(guī)范和價值觀，發(fā)展?jié)撛诘恼嬲蛭幕莫毺啬芰?。但是首先，我們，人工智能的?chuàng)造者，必須了解我們的角色以及我們?nèi)绾斡绊戇@種吸收能力。畢竟，AI代表了構(gòu)建它的人們以及向AI基礎(chǔ)數(shù)據(jù)框架提供輸入的人們的文化縮影。

科幻小說家阿拉斯泰爾·雷諾茲(Alastair Reynolds)在他的《絕對差距》一書中描述了一個行星，其中唯一的智能生物是茫茫的海洋，它吸收了生物和在其中游泳的生物的信息。海洋從這些信息中學(xué)習(xí)，并將該知識重新分配給其他生物。

在本書中被稱為“模式雜耍”，我們知道的AI的當(dāng)前表現(xiàn)非常像虛構(gòu)的海洋，它吸收知識并有選擇地將其與自己的培養(yǎng)數(shù)據(jù)一起分發(fā)。

以雷諾茲吸收知識的海洋為例，人工智能目前就像地球上分離的鹽和淡水體一樣，每個都有自己的生態(tài)系統(tǒng)，彼此獨立。

當(dāng)這些非常獨特的生態(tài)系統(tǒng)開始相互交流時，會發(fā)生什么?隨著各個AI實體開始在其新形成的文化中交流信息并談判現(xiàn)實，如何確定規(guī)范和價值觀?

諾曼是一個警告

麻省理工學(xué)院的諾曼(Norman)是一個基于虛構(gòu)的精神病患者的AI人物，這是我們在人類中長期以來所知的一個獨特例子：隨著長期暴露于暴力之中，人們對文化規(guī)范和價值觀的看法不一。這對將來暴露并傳播到其他AI構(gòu)成了真正的危險。

為何如此?

Envision Norman和Alexa交往了。這兩個AI都代表了制造它們的人，他們所消耗的人類數(shù)據(jù)以及內(nèi)置的學(xué)習(xí)需求。那么誰的文化價值觀和規(guī)范會更具說服力?

諾曼(Norman)的目的是從精神病患者的鏡頭中查看所有數(shù)據(jù)，而作為數(shù)字助理的Alexa只是希望取悅。匯集在一起??時，有無數(shù)類似的性格出現(xiàn)錯誤的人類例子。

社會科學(xué)家認(rèn)為，有關(guān)AI的爭論將激增，結(jié)果，多種版本的AI必然會共存。

隨著哲學(xué)家，人類學(xué)家和其他社會科學(xué)家開始表達(dá)他們的關(guān)切，社會已經(jīng)成熟了時間來思考AI的期望用途，質(zhì)疑現(xiàn)實和我們的期望并影響其發(fā)展成真正的全球文化環(huán)境。