捐贈200萬美元以保持人工智能的有益和穩(wěn)健

已撥出200萬美元用于資助預(yù)期人工一般情報(bào)(AGI)以及如何有益地設(shè)計(jì)的研究。這筆錢是由Elon Musk捐贈的，用于通過生命未來研究所(FLI)提供補(bǔ)助金。已經(jīng)選擇了10筆撥款用于資助。

Tegmark說：“我樂觀地認(rèn)為，只要我們贏得人工智能不斷增長的力量和管理它的智慧之間的競爭，我們就能用人工智能創(chuàng)造一個(gè)鼓舞人心的高科技未來。這項(xiàng)研究旨在幫助發(fā)展智慧，增加AGI最好的可能性，而不是人類最糟糕的事情。“

今天的人工智能(AI)仍然很窄。也就是說，它只能完成一系列狹窄的任務(wù)，例如下棋或圍棋，駕駛汽車，進(jìn)行互聯(lián)網(wǎng)搜索或翻譯語言。雖然掌握這些任務(wù)的AI系統(tǒng)可以在超人級別執(zhí)行它們，但是他們無法學(xué)習(xí)一種新的，無關(guān)的技能組合(例如，可以搜索互聯(lián)網(wǎng)的AI系統(tǒng)無法學(xué)習(xí)僅使用其搜索算法來玩Go )。

這些人工智能系統(tǒng)缺乏人類必須在不同的活動和經(jīng)驗(yàn)之間建立聯(lián)系以及將知識應(yīng)用于各種領(lǐng)域的“一般”能力。然而，相當(dāng)多的AI研究人員都認(rèn)為AI可以在未來幾十年內(nèi)實(shí)現(xiàn)更“一般”的智能。沒有人知道人工智能如何聰明或聰明可能會影響我們的生活，無論是有益還是有害，我們?nèi)绾伟踩卦O(shè)計(jì)，甚至如何為高級人工智能做好準(zhǔn)備。許多研究人員擔(dān)心過渡很快就會發(fā)生。

FLI的聯(lián)合創(chuàng)始人和加州大學(xué)圣克魯茲分校的物理學(xué)教授Anthony Aguirre解釋說：“讓機(jī)器智能像我們自己一樣靈活和強(qiáng)大所需的突破可能需要50年。但由于現(xiàn)在主要的知識和財(cái)政資源都針對這個(gè)問題，因此可能需要更少的資源。如果有突破，那會是什么樣子?我們可以準(zhǔn)備嗎?我們現(xiàn)在可以設(shè)計(jì)安全功能，并將它們?nèi)谌階I開發(fā)中，以確保強(qiáng)大的AI能夠繼續(xù)造福社會嗎?事情可能會很快發(fā)生，我們需要進(jìn)行研究以確保它們順利進(jìn)行。“

撥款主題包括：培訓(xùn)多個(gè)AI以協(xié)同工作，向人類學(xué)習(xí)如何共存，培訓(xùn)AI以理解個(gè)人的偏好，理解“一般”實(shí)際意味著什么，激勵研究小組避免潛在危險(xiǎn)的AI競賽等等。正如征求建議書所述，“此RFP的重點(diǎn)是技術(shù)研究或其他能夠開發(fā)有益于社會的人工智能的項(xiàng)目，并且在某些意義上是有益的，因?yàn)槲覀兊腁I系統(tǒng)必須按照我們想要的方式行事。去做。”

FLI希望這一輪贈款將有助于確保AI變得越來越有益，因?yàn)樗兊迷絹碓铰斆鳌Ｒ恍芸罱邮苷咛峁┝岁P(guān)于他們?yōu)槭裁磳λ麄兊男马?xiàng)目感到興奮的陳述：

“在人工智能計(jì)劃治理方面的團(tuán)隊(duì)很高興在FLI的支持下進(jìn)行這項(xiàng)研究。我們已經(jīng)確定了一系列問題，我們認(rèn)為這些問題對于確保高級人工智能的強(qiáng)有力治理是最重要的，并且堅(jiān)信通過專注研究和與其他人在這個(gè)領(lǐng)域的合作，我們可以在他們身上取得成果。“ - 艾倫達(dá)福

“我們對這個(gè)項(xiàng)目感到非常興奮，因?yàn)樗峁┝说谝粋€(gè)獨(dú)特和原創(chuàng)的機(jī)會，可以在正在進(jìn)行的人工智能研究和開發(fā)競賽中明確研究安全合規(guī)行為的動態(tài)，從而可能導(dǎo)致基于模型的建議，如何及時(shí)調(diào)節(jié)目前的發(fā)展浪潮，并為決策者和參與者提供建議。它還提供了一個(gè)重要的機(jī)會來驗(yàn)證我們之前關(guān)于承諾和其他信任機(jī)制在誘導(dǎo)全球親社會行為中的重要性的結(jié)果，從而進(jìn)一步促進(jìn)人工智能的共同利益。“ - 安漢

“我們對這個(gè)項(xiàng)目的潛力感到興奮。我們的目標(biāo)是學(xué)習(xí)人類偏好的模型，這可以幫助我們構(gòu)建能夠安全可靠地與人交互和協(xié)作的AGI算法。“ - Dorsa Sadigh

這是FLI的第二輪贈款。2015年首次推出，以及該贈款回合中的論文，文章和信息的綜合列表可在此處找到。這兩輪贈款都是Elon Musk承諾向AI安全研究承諾的1000萬美元的一部分。

FLI聯(lián)合創(chuàng)始人Viktoriya Krakovna也補(bǔ)充說：“我們之前的撥款促進(jìn)了對人工智能安全的各種主題的研究，并支持了40多篇論文。下一輪融資更側(cè)重于AGI安全和戰(zhàn)略的研究，我期待著我們的新受助者在這方面的出色工作。“