谷歌的下一代人工智能培訓(xùn)系統(tǒng)速度極快

谷歌今天推出了第二代Tensor處理器部門，這是一個(gè)云計(jì)算硬件和軟件系統(tǒng)，是該公司最雄心勃勃，影響深遠(yuǎn)的技術(shù)的基礎(chǔ)。首席執(zhí)行官Sundar Pichai在今天上午公司I / O開(kāi)發(fā)者大會(huì)的主題演講中宣布了新聞。

去年作為專門用于機(jī)器學(xué)習(xí)的專用芯片展示的第一款TPU 被AlphaGo人工智能系統(tǒng)用作其預(yù)測(cè)和決策技能的基礎(chǔ)。每當(dāng)有人向其搜索引擎輸入查詢時(shí)，Google也會(huì)使用TPU的計(jì)算能力。最近，該技術(shù)已應(yīng)用于機(jī)器學(xué)習(xí)模型，用于改進(jìn)谷歌翻譯，谷歌照片和其他可以新穎使用新的人工智能培訓(xùn)技術(shù)的軟件。

通常，這項(xiàng)工作是使用商用GPU(通常來(lái)自Nvidia)完成的--Facebook使用Nvidia GPU作為其Big Basin AI培訓(xùn)服務(wù)器的一部分。但谷歌過(guò)去幾年選擇自己構(gòu)建一些硬件，并針對(duì)自己的軟件進(jìn)行優(yōu)化。

從這個(gè)意義上講，最初的TPU專門設(shè)計(jì)用于與谷歌的TensorFlow配合使用，后者是用于機(jī)器學(xué)習(xí)的眾多開(kāi)源軟件庫(kù)之一。然而，由于Google的進(jìn)步以及硬件和軟件的集成，TensorFlow已成為構(gòu)建AI軟件的領(lǐng)先平臺(tái)之一。此優(yōu)化與Google Brain及其DeepMind子公司的內(nèi)部人才相結(jié)合，是Google繼續(xù)走在更廣泛的AI領(lǐng)域前沿的部分原因。

現(xiàn)在，Google表示其TPU系統(tǒng)的第二個(gè)版本已全面投入運(yùn)營(yíng)，并且正在其Google Compute Engine上部署，這是一個(gè)平臺(tái)，其他公司和研究人員可以利用類似于亞馬遜AWS和微軟Azure的計(jì)算資源。谷歌當(dāng)然會(huì)使用該系統(tǒng)本身，但它也將新TPU作為其他公司使用的無(wú)與倫比的資源。

為此，該公司開(kāi)發(fā)了一種將64個(gè)TPU組合成TPU Pods的方法，有效地將Google服務(wù)器機(jī)架轉(zhuǎn)變?yōu)榫哂?1.5 petaflops計(jì)算能力的超級(jí)計(jì)算機(jī)。即使是在他們自己的情況下，第二代TPU也能夠“提供驚人的180 teraflops的計(jì)算能力，并且僅用于推動(dòng)機(jī)器學(xué)習(xí)的數(shù)字運(yùn)算，”Google的首席科學(xué)家李飛飛說(shuō)。和機(jī)器學(xué)習(xí)。

谷歌大腦團(tuán)隊(duì)的高級(jí)研究員杰夫迪恩說(shuō)，谷歌在競(jìng)爭(zhēng)對(duì)手產(chǎn)品方面的優(yōu)勢(shì)在于實(shí)驗(yàn)的速度和自由。“我們新推出的大型翻譯模型需要一整天的時(shí)間來(lái)訓(xùn)練世界上最好的商用GPU之一，”迪恩在本周的新聞發(fā)布會(huì)上對(duì)一組記者說(shuō)。“雖然TPU吊艙的八分之一可以在一個(gè)下午完成工作。”

除了速度之外，第二代TPU還將允許Google的服務(wù)器同時(shí)執(zhí)行所謂的推理和培訓(xùn)。之前的TPU只能進(jìn)行推理 - 例如，依靠Google Cloud實(shí)時(shí)處理數(shù)字以產(chǎn)生結(jié)果。另一方面，培訓(xùn)是如何開(kāi)發(fā)AI算法，并且需要非凡的資源。

機(jī)器學(xué)習(xí)作為現(xiàn)代人工智能研究的基石，有效地意味著為數(shù)十萬(wàn)個(gè)算法提供算法，以便學(xué)習(xí)以一種從未明確編程過(guò)的方式執(zhí)行任務(wù)。這體現(xiàn)在許多不同的消費(fèi)產(chǎn)品中，例如谷歌翻譯幾乎能夠?qū)⒂⒄Z(yǔ)句子變成普通話，或者AlphaGo能夠發(fā)揮超人熟練的深度，類似國(guó)際象棋的棋盤(pán)游戲。

這一切都?xì)w結(jié)為在大量數(shù)據(jù)上訓(xùn)練神經(jīng)網(wǎng)絡(luò)并將其轉(zhuǎn)化為可行的算法 - 并且需要計(jì)算能力。從更一般的意義上講，這些培訓(xùn)系統(tǒng)通過(guò)大量數(shù)字運(yùn)算來(lái)改進(jìn)AI軟件。因此硬件越強(qiáng)大，獲得的結(jié)果就越快。“如果我們能夠?qū)⒚總€(gè)實(shí)驗(yàn)的時(shí)間從幾周縮短到幾天或幾小時(shí)，這將提高每個(gè)人進(jìn)行機(jī)器學(xué)習(xí)以更快地迭代并進(jìn)行更多實(shí)驗(yàn)的能力，”Dean說(shuō)。

由于這個(gè)較新的TPU現(xiàn)在能夠進(jìn)行推理和培訓(xùn)，研究人員可以比以前更快地部署更多功能的AI實(shí)驗(yàn) - 只要該軟件是使用TensorFlow構(gòu)建的。谷歌還重申其對(duì)開(kāi)源模式的承諾，向同意發(fā)布他們的研究結(jié)果甚至可能開(kāi)源代碼的研究人員提供TPU資源。該公司正在將該計(jì)劃稱為TensorFlow Research Cloud，它將免費(fèi)提供對(duì)1,000個(gè)TPU群集的訪問(wèn)權(quán)限。