Google研究人員探索確保未來(lái)AI系統(tǒng)安全的方法

對(duì)未來(lái)人工智能系統(tǒng)出現(xiàn)問(wèn)題的擔(dān)憂已引起Google研究人員的關(guān)注。在公司的DeepMind小組宣布與牛津大學(xué)的研究人員合作開(kāi)發(fā)無(wú)賴AI系統(tǒng)的殺傷開(kāi)關(guān)后不到兩周，谷歌發(fā)布了一份致力于解決AI安全風(fēng)險(xiǎn)的技術(shù)論文。

這篇名為“人工智能安全的具體問(wèn)題”的論文是與斯坦福大學(xué)，加利福尼亞大學(xué)，伯克利分校和致力于人工智能研究的非營(yíng)利性公司OpenAI的研究人員合作撰寫的。

它概述了研究人員說(shuō)在當(dāng)今相對(duì)較小的五個(gè)基本問(wèn)題，但隨著機(jī)器在未來(lái)變得越來(lái)越智能，預(yù)測(cè)將具有更大的重要性。

谷歌研究員克里斯·奧拉赫(Chris Olah)在該公司的研究博客上說(shuō)，本文探索了解決這些問(wèn)題并確保將AI系統(tǒng)設(shè)計(jì)為以可靠且安全的方式運(yùn)行的實(shí)用方法。

Olah說(shuō)：“雖然可能的AI安全風(fēng)險(xiǎn)已經(jīng)引起了公眾的廣泛關(guān)注，但大多數(shù)先前的討論都是非常假設(shè)性和推測(cè)性的。” 他說(shuō)：“我們認(rèn)為，在真正的機(jī)器學(xué)習(xí)研究中關(guān)注問(wèn)題并開(kāi)始為工程AI系統(tǒng)開(kāi)發(fā)實(shí)用方法至關(guān)重要。”

機(jī)器學(xué)習(xí)和人工智能是Google的重要領(lǐng)域。該公司表示，希望利用這些領(lǐng)域的進(jìn)步來(lái)改善其核心技術(shù)。它已經(jīng)在某些應(yīng)用程序中應(yīng)用了AI和機(jī)器智能技術(shù)，包括Google Translate，Google Photos和語(yǔ)音搜索。

公司首席執(zhí)行官Sundar Pichai 表示，Google希望看到AI能夠從根本上改變?nèi)藗兊某鲂蟹绞剑瓿扇粘Ｈ蝿?wù)并解決醫(yī)療保健和氣候變化等領(lǐng)域的問(wèn)題。

OpenAI研究人員Paul Christiano和Greg Brockman在博客文章中指出，先進(jìn)的AI意味著使AI系統(tǒng)更智能，更安全，并在新發(fā)布的技術(shù)論文中宣布了公司的作用。研究人員說(shuō)，這意味著“確保AI系統(tǒng)能夠完成人們真正希望他們做的事情”。

新發(fā)布的Google技術(shù)論文研究的五個(gè)問(wèn)題之一是確保AI系統(tǒng)在執(zhí)行功能時(shí)不會(huì)對(duì)環(huán)境造成負(fù)面影響的一種方法。例如，Olah指出要對(duì)清潔機(jī)器人進(jìn)行編程，使其不要敲倒花瓶，即使這樣做可以更快地完成任務(wù)。

其他問(wèn)題涉及找出確保機(jī)器人不會(huì)從事具有負(fù)面影響的活動(dòng)的方法，例如將濕拖把插入電源插座，或者以適當(dāng)安全的方式在不同的環(huán)境(例如車間或辦公室)中運(yùn)行。

OpenAI的克里斯蒂安諾和布羅克曼說(shuō)：“許多問(wèn)題并不是新問(wèn)題，但是本文是在尖端系統(tǒng)的背景下進(jìn)行探討的。”

這份新的技術(shù)論文似乎是對(duì)解決AI安全相關(guān)問(wèn)題日益加深關(guān)注的一部分。例如，谷歌與牛津大學(xué)的研究專注于確保未來(lái)的超智能AI系統(tǒng)永遠(yuǎn)不會(huì)主動(dòng)阻止操作員的干擾。目的是確保工程師能夠以一種不穩(wěn)定或不安全的方式開(kāi)始安全關(guān)閉AI系統(tǒng)。