我們?nèi)绾晤A(yù)測(cè) 預(yù)防和減輕惡意使用AI的有害影響

這是由上周發(fā)布的一份長(zhǎng)達(dá)100頁(yè)的報(bào)告提出的問(wèn)題，該報(bào)告由來(lái)自14個(gè)機(jī)構(gòu)的26位作者撰寫。該報(bào)告是在英國(guó)牛津舉辦的為期兩天的研討會(huì)的結(jié)果，經(jīng)過(guò)數(shù)月的研究，提供了人工智能對(duì)安全影響的全面景觀。

作者包括來(lái)自人類未來(lái)研究所，存在風(fēng)險(xiǎn)研究中心，OpenAI和新安全中心的代表，他們認(rèn)為人工智能不僅改變了現(xiàn)有威脅的性質(zhì)和范圍，而且擴(kuò)大我們將面臨的威脅范圍。他們對(duì)AI的許多有益應(yīng)用感到興奮，包括它將如何協(xié)助防御能力。但該報(bào)告的目的是調(diào)查有意惡意使用AI的安全威脅的情況。

“我們的報(bào)告?zhèn)戎赜谌藗內(nèi)绾螌?duì)人工智能進(jìn)行故意傷害，”劍橋存在風(fēng)險(xiǎn)研究中心執(zhí)行主任SeánÓhÉigeartaigh說(shuō)。“人工智能可能會(huì)在網(wǎng)絡(luò)，物理和政治安全方面構(gòu)成新威脅，或改變現(xiàn)有威脅的性質(zhì)。”

重要的是，這不是關(guān)于遙遠(yuǎn)未來(lái)的報(bào)道。所考慮的唯一技術(shù)是那些已經(jīng)可用或可能在未來(lái)五年內(nèi)的技術(shù)。因此，這一信息是緊迫的。我們需要承認(rèn)風(fēng)險(xiǎn)并采取措施來(lái)管理它們，因?yàn)榧夹g(shù)呈指數(shù)級(jí)增長(zhǎng)。正如記者Dave Gershgorn所說(shuō)的那樣，“善人的每一次人工智能推進(jìn)都是對(duì)壞人的推進(jìn)。”

人工智能系統(tǒng)往往比傳統(tǒng)工具更高效，更具可擴(kuò)展性。此外，人工智能的使用可以增加人們對(duì)所采取行動(dòng)的匿名性和心理距離，從而可能降低和暴力行為的障礙。此外，人工智能系統(tǒng)有其獨(dú)特的漏洞，包括數(shù)據(jù)中毒的風(fēng)險(xiǎn)，對(duì)抗性的例子，以及在設(shè)計(jì)中利用漏洞。支持AI的攻擊將超過(guò)傳統(tǒng)的網(wǎng)絡(luò)攻擊，因?yàn)樗鼈兺ǔ?huì)更有效，更有針對(duì)性，更難以歸因。

我們需要準(zhǔn)備的攻擊類型不僅限于復(fù)雜的計(jì)算機(jī)黑客攻擊。作者提出，有三個(gè)主要的安全域：數(shù)字安全，主要涉及網(wǎng)絡(luò)攻擊;物理安全，指用無(wú)人機(jī)和其他物理系統(tǒng)進(jìn)行攻擊;和政治安全，其中包括監(jiān)視，通過(guò)有針對(duì)性的宣傳說(shuō)服和通過(guò)操縱視頻欺騙等實(shí)例。這些域具有顯著的重疊，但該框架可用于識(shí)別不同類型的攻擊，其背后的基本原理以及可用于保護(hù)自己的選項(xiàng)范圍。

可以采取哪些措施來(lái)準(zhǔn)備在這些域中惡意使用AI?作者提供了很多很好的例子。報(bào)告中描述的情景可能是研究人員和政策制定者探索可能的未來(lái)和集體討論管理最關(guān)鍵威脅的方法的好方法。例如，想象一個(gè)商業(yè)清潔機(jī)器人被重新用作不可追蹤的爆炸裝置可能會(huì)嚇到我們，但它也暗示了為什么像機(jī)器人注冊(cè)要求這樣的政策可能是一個(gè)有用的選擇。

每個(gè)領(lǐng)域也有自己可能的控制點(diǎn)和對(duì)策。例如，為了提高數(shù)字安全性，公司可以提高消費(fèi)者意識(shí)并激勵(lì)白帽黑客發(fā)現(xiàn)代碼中的漏洞。我們也可以向網(wǎng)絡(luò)安全社區(qū)學(xué)習(xí)，并采取措施，如人工智能開(kāi)發(fā)的紅色團(tuán)隊(duì)，人工智能系統(tǒng)的形式驗(yàn)證，以及負(fù)責(zé)任的AI漏洞披露。為了提高人身安全，政策制定者可能希望規(guī)范硬件開(kāi)發(fā)并禁止銷售致命的自主武器。同時(shí)，媒體平臺(tái)可以通過(guò)提供圖像和視頻真實(shí)性認(rèn)證，虛假新聞檢測(cè)和加密來(lái)最小化對(duì)政治安全的威脅。

該報(bào)告還提供了四項(xiàng)高級(jí)別建議，這些建議并非旨在提供具體的技術(shù)或政策建議，而是提請(qǐng)注意值得進(jìn)一步調(diào)查的領(lǐng)域。建議如下：

建議1：政策制定者應(yīng)與技術(shù)研究人員密切合作，調(diào)查，預(yù)防和減輕對(duì)AI的潛在惡意使用。

建議2：人工智能研究人員和工程師應(yīng)認(rèn)真對(duì)待其工作的雙重性質(zhì)，允許濫用相關(guān)的考慮因素影響研究重點(diǎn)和規(guī)范，并在有害的應(yīng)用可預(yù)見(jiàn)時(shí)主動(dòng)聯(lián)系相關(guān)行為者。

建議3：應(yīng)在研究領(lǐng)域確定最佳實(shí)踐，采用更成熟的方法解決計(jì)算機(jī)安全等雙重用途問(wèn)題，并在適用于AI情況下導(dǎo)入。

建議4：積極尋求擴(kuò)大參與討論這些挑戰(zhàn)的利益相關(guān)者和領(lǐng)域?qū)＜业姆秶?/p>

最后，該報(bào)告確定了進(jìn)一步研究的幾個(gè)領(lǐng)域。其中第一個(gè)是向網(wǎng)絡(luò)安全社區(qū)學(xué)習(xí)，因?yàn)殡S著基于AI的系統(tǒng)變得更加廣泛和有能力，網(wǎng)絡(luò)安全事件的影響將會(huì)增加。其他研究領(lǐng)域包括探索不同的開(kāi)放性模型，促進(jìn)AI研究人員的責(zé)任文化，以及開(kāi)發(fā)技術(shù)和政策解決方案。

正如作者所述，“惡意使用人工智能將影響我們構(gòu)建和管理數(shù)字基礎(chǔ)設(shè)施的方式，以及我們?nèi)绾卧O(shè)計(jì)和分配人工智能系統(tǒng)，并可能需要政策和其他機(jī)構(gòu)響應(yīng)。”

雖然這只是人工智能將如何影響全球安全所需的理解的開(kāi)始，但本報(bào)告推動(dòng)了討論的進(jìn)展。它不僅描述了許多與人工智能相關(guān)的緊急安全問(wèn)題，而且還提出了我們今天可以開(kāi)始為這些威脅做準(zhǔn)備的方法