捐贈(zèng)200萬(wàn)美元以保持人工智能的有益和穩(wěn)健

已撥出200萬(wàn)美元用于資助預(yù)期人工一般情報(bào)(AGI)以及如何有益地設(shè)計(jì)的研究。這筆錢(qián)是由Elon Musk捐贈(zèng)的，用于通過(guò)生命未來(lái)研究所(FLI)提供補(bǔ)助金。已經(jīng)選擇了10筆撥款用于資助。

Tegmark說(shuō)：“我樂(lè)觀(guān)地認(rèn)為，只要我們贏(yíng)得人工智能不斷增長(zhǎng)的力量和管理它的智慧之間的競(jìng)爭(zhēng)，我們就能用人工智能創(chuàng)造一個(gè)鼓舞人心的高科技未來(lái)。這項(xiàng)研究旨在幫助發(fā)展智慧，增加AGI最好的可能性，而不是人類(lèi)最糟糕的事情。“

今天的人工智能(AI)仍然很窄。也就是說(shuō)，它只能完成一系列狹窄的任務(wù)，例如下棋或圍棋，駕駛汽車(chē)，進(jìn)行互聯(lián)網(wǎng)搜索或翻譯語(yǔ)言。雖然掌握這些任務(wù)的AI系統(tǒng)可以在超人級(jí)別執(zhí)行它們，但是他們無(wú)法學(xué)習(xí)一種新的，無(wú)關(guān)的技能組合(例如，可以搜索互聯(lián)網(wǎng)的AI系統(tǒng)無(wú)法學(xué)習(xí)僅使用其搜索算法來(lái)玩Go )。

這些人工智能系統(tǒng)缺乏人類(lèi)必須在不同的活動(dòng)和經(jīng)驗(yàn)之間建立聯(lián)系以及將知識(shí)應(yīng)用于各種領(lǐng)域的“一般”能力。然而，相當(dāng)多的AI研究人員都認(rèn)為AI可以在未來(lái)幾十年內(nèi)實(shí)現(xiàn)更“一般”的智能。沒(méi)有人知道人工智能如何聰明或聰明可能會(huì)影響我們的生活，無(wú)論是有益還是有害，我們?nèi)绾伟踩卦O(shè)計(jì)，甚至如何為高級(jí)人工智能做好準(zhǔn)備。許多研究人員擔(dān)心過(guò)渡很快就會(huì)發(fā)生。

FLI的聯(lián)合創(chuàng)始人和加州大學(xué)圣克魯茲分校的物理學(xué)教授A(yíng)nthony Aguirre解釋說(shuō)：“讓機(jī)器智能像我們自己一樣靈活和強(qiáng)大所需的突破可能需要50年。但由于現(xiàn)在主要的知識(shí)和財(cái)政資源都針對(duì)這個(gè)問(wèn)題，因此可能需要更少的資源。如果有突破，那會(huì)是什么樣子?我們可以準(zhǔn)備嗎?我們現(xiàn)在可以設(shè)計(jì)安全功能，并將它們?nèi)谌階I開(kāi)發(fā)中，以確保強(qiáng)大的AI能夠繼續(xù)造福社會(huì)嗎?事情可能會(huì)很快發(fā)生，我們需要進(jìn)行研究以確保它們順利進(jìn)行。“

撥款主題包括：培訓(xùn)多個(gè)AI以協(xié)同工作，向人類(lèi)學(xué)習(xí)如何共存，培訓(xùn)AI以理解個(gè)人的偏好，理解“一般”實(shí)際意味著什么，激勵(lì)研究小組避免潛在危險(xiǎn)的AI競(jìng)賽等等。正如征求建議書(shū)所述，“此RFP的重點(diǎn)是技術(shù)研究或其他能夠開(kāi)發(fā)有益于社會(huì)的人工智能的項(xiàng)目，并且在某些意義上是有益的，因?yàn)槲覀兊腁I系統(tǒng)必須按照我們想要的方式行事。去做。”

FLI希望這一輪贈(zèng)款將有助于確保AI變得越來(lái)越有益，因?yàn)樗兊迷絹?lái)越聰明。一些撥款接受者提供了關(guān)于他們?yōu)槭裁磳?duì)他們的新項(xiàng)目感到興奮的陳述：

“在人工智能計(jì)劃治理方面的團(tuán)隊(duì)很高興在FLI的支持下進(jìn)行這項(xiàng)研究。我們已經(jīng)確定了一系列問(wèn)題，我們認(rèn)為這些問(wèn)題對(duì)于確保高級(jí)人工智能的強(qiáng)有力治理是最重要的，并且堅(jiān)信通過(guò)專(zhuān)注研究和與其他人在這個(gè)領(lǐng)域的合作，我們可以在他們身上取得成果。“ - 艾倫達(dá)福

“我們對(duì)這個(gè)項(xiàng)目感到非常興奮，因?yàn)樗峁┝说谝粋€(gè)獨(dú)特和原創(chuàng)的機(jī)會(huì)，可以在正在進(jìn)行的人工智能研究和開(kāi)發(fā)競(jìng)賽中明確研究安全合規(guī)行為的動(dòng)態(tài)，從而可能導(dǎo)致基于模型的建議，如何及時(shí)調(diào)節(jié)目前的發(fā)展浪潮，并為決策者和參與者提供建議。它還提供了一個(gè)重要的機(jī)會(huì)來(lái)驗(yàn)證我們之前關(guān)于承諾和其他信任機(jī)制在誘導(dǎo)全球親社會(huì)行為中的重要性的結(jié)果，從而進(jìn)一步促進(jìn)人工智能的共同利益。“ - 安漢

“我們對(duì)這個(gè)項(xiàng)目的潛力感到興奮。我們的目標(biāo)是學(xué)習(xí)人類(lèi)偏好的模型，這可以幫助我們構(gòu)建能夠安全可靠地與人交互和協(xié)作的AGI算法。“ - Dorsa Sadigh

這是FLI的第二輪贈(zèng)款。2015年首次推出，以及該贈(zèng)款回合中的論文，文章和信息的綜合列表可在此處找到。這兩輪贈(zèng)款都是Elon Musk承諾向AI安全研究承諾的1000萬(wàn)美元的一部分。

FLI聯(lián)合創(chuàng)始人Viktoriya Krakovna也補(bǔ)充說(shuō)：“我們之前的撥款促進(jìn)了對(duì)人工智能安全的各種主題的研究，并支持了40多篇論文。下一輪融資更側(cè)重于A(yíng)GI安全和戰(zhàn)略的研究，我期待著我們的新受助者在這方面的出色工作。“