"科技巨頭帶頭呼吁暫停AI開(kāi)發(fā)？生命未來(lái)研究所發(fā)起公開(kāi)信引發(fā)熱議"

未來(lái)生命研究所（Future of Life Institute）在3月29日公布一封公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。這封信得到了超過(guò)1000人的簽署，其中包括馬斯克等知名科技圈人士以及圖靈獎(jiǎng)得主約書(shū)亞·本吉奧、作家兼教授加里·馬庫(kù)斯、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素和蘋(píng)果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等。

這封公開(kāi)信的出發(fā)點(diǎn)是AI威脅論。公開(kāi)信表示，大量研究表明，具有與人類(lèi)競(jìng)爭(zhēng)智能的AI系統(tǒng)可能對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，并得到了頂級(jí)AI實(shí)驗(yàn)室的承認(rèn)。最近幾個(gè)月，全球的AI實(shí)驗(yàn)室已經(jīng)完全失控了，它們瘋狂地開(kāi)展AI競(jìng)賽，來(lái)開(kāi)發(fā)和部署更強(qiáng)大的AI，而沒(méi)有任何人可以理解、預(yù)測(cè)、控制這些AI，甚至它們的創(chuàng)造者也不能做到這一點(diǎn)。

公開(kāi)信呼吁暫停比GPT-4更強(qiáng)大的AI系統(tǒng)訓(xùn)練至少6個(gè)月，并指出這種暫停應(yīng)該是公開(kāi)的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者。如果不能迅速實(shí)施這種暫停，政府應(yīng)該介入并實(shí)行暫停。這并不意味著總體上暫停AI開(kāi)發(fā)，只是緊急從奔向不可預(yù)測(cè)的大型黑盒模型的危險(xiǎn)競(jìng)賽中收回腳步。

這封信還提出了一些建議，開(kāi)發(fā)者必須與政策制定者合作，大幅加快開(kāi)發(fā)強(qiáng)大的AI管理系統(tǒng)，該系統(tǒng)至少應(yīng)該包括專(zhuān)門(mén)負(fù)責(zé)監(jiān)管AI的機(jī)構(gòu)、出處和水印系統(tǒng)、強(qiáng)大的審計(jì)和認(rèn)證系統(tǒng)以及在AI造成傷害后，明確誰(shuí)該承擔(dān)責(zé)任。

未來(lái)生命研究所是一個(gè)非營(yíng)利組織，成立于2014年3月，其主旨在于引導(dǎo)變革性技術(shù)造福生命，遠(yuǎn)離極端大規(guī)模風(fēng)險(xiǎn)，關(guān)注包括AI、生物技術(shù)、核武器、氣候變化在內(nèi)的多個(gè)重大議題。其創(chuàng)始團(tuán)隊(duì)主要是高校學(xué)者、學(xué)生，包括麻省理工學(xué)院宇宙學(xué)家馬克斯·泰格馬克和Skype聯(lián)合創(chuàng)始人讓·塔林等，他們的共同目標(biāo)是探索未來(lái)技術(shù)的發(fā)展方向，并提供實(shí)用的解決方案來(lái)應(yīng)對(duì)可能出現(xiàn)的挑戰(zhàn)。該組織還與其他非營(yíng)利組織和政府機(jī)構(gòu)合作，共同致力于促進(jìn)可持續(xù)發(fā)展和社會(huì)公正。

在AI領(lǐng)域，生命未來(lái)研究所的目標(biāo)是通過(guò)開(kāi)展研究和倡議來(lái)推動(dòng)AI的安全和道德發(fā)展。他們認(rèn)為，人工智能的發(fā)展可能會(huì)對(duì)社會(huì)和人類(lèi)產(chǎn)生深遠(yuǎn)的影響，因此需要確保AI的發(fā)展是安全的、道德的和可持續(xù)的。

生命未來(lái)研究所的倡議書(shū)是為了呼吁AI領(lǐng)域的開(kāi)發(fā)者和政策制定者共同努力，以確保AI的發(fā)展符合道德標(biāo)準(zhǔn)，能夠?yàn)槿祟?lèi)帶來(lái)積極的影響。這封公開(kāi)信的發(fā)布引起了廣泛關(guān)注，也引發(fā)了一些爭(zhēng)議和討論。無(wú)論如何，它都為人們提供了思考和討論AI發(fā)展的機(jī)會(huì)，以及如何確保AI的發(fā)展符合人類(lèi)的利益。