谷歌的人工智能TPU芯片現(xiàn)在可以在其公共云上使用

谷歌有限責(zé)任公司（GoogleLLC）今天通過增加Tensor ProcessingUnities來支持其公共云平臺，Tensor ProcessingUnities是一個內(nèi)部設(shè)計的芯片系列，專門為人工智能工作量提供動力。

一個TPU（圖）由四個特定于應(yīng)用程序的集成電路組成，并配有64G的“超高帶寬”存儲器。該組合單元可以提供多達180個觸發(fā)器，或每秒萬億個浮點運算，一個標準的計算機性能單元。今年晚些時候，谷歌計劃添加一個聚類選項，該選項將允許云客戶將多個TPU組合成一個“豆莢”，其速度在pe taflop范圍內(nèi)，或為teraflop的1000倍。

在今天的公告中，該公司沒有分享更多的業(yè)績細節(jié)。然而，去年谷歌兩位頂級工程師撰寫的一篇博客文章顯示，當時內(nèi)部使用的豆莢包括64個TPU，其總輸出為11.5個觸發(fā)器。相比之下，世界上最強大的超級計算機只有93臺，盡管值得注意的是，這家搜索巨頭很可能沒有使用相同的基準方法來測量TPU的速度。

無論哪種方式，芯片代表了谷歌云平臺的一個主要補充。當谷歌去年4月首次讓世界看到TPU的規(guī)格時，它透露芯片至少可以運行某些機器學(xué)習(xí)工作量，比現(xiàn)成的硅快15到30倍。這包括圖形處理單元，它們特別適合機器學(xué)習(xí)模型。主要由英偉達（NvidiaCorp.）以及先進微型設(shè)備公司（Advanced Micro Device Inc.）制造，它們?nèi)匀皇钱斀翊蠖鄶?shù)項目的首選。

因此，谷歌的云客戶應(yīng)該獲得更快地訓(xùn)練和運行其AI軟件的能力。谷歌機器學(xué)習(xí)研究和開發(fā)背后的谷歌大腦團隊領(lǐng)導(dǎo)人杰夫·迪恩（Jeff Dean）在推特（Twitter）上說，一個單一的云T PU可以用來實現(xiàn)流行的ResNet-50圖像分類模型，在24小時內(nèi)達到75%的準確率，總成本不到200美元。

谷歌已經(jīng)創(chuàng)建了幾個預(yù)先優(yōu)化的神經(jīng)網(wǎng)絡(luò)包，客戶可以在TPU上運行。陣容包括一個版本的ResNet-50，以及機器翻譯的模型，語言建模和識別圖像中的對象。公司還可以使用谷歌的開源TensorFlow機器學(xué)習(xí)引擎創(chuàng)建自己的AI工作負載。

喜歡在AI項目中使用傳統(tǒng)圖形卡的客戶今天也收到了一個新的功能。谷歌在其Kubernetes引擎服務(wù)中增加了GPU支持，以允許將機器學(xué)習(xí)模型打包到軟件容器中。后一種技術(shù)提供了一個輕量級的抽象層，使開發(fā)人員能夠更容易地展開更新和跨環(huán)境移動應(yīng)用程序。

新的TPU每小時6.50美元，而通過Kubernetes引擎租用的GPU將以谷歌現(xiàn)有的費率為每個支持的芯片模型收費。

芯片對各種各樣的人工智能任務(wù)有多準備，特別是對于嚴重的計算機工作量，仍然不確定。Moor Insights&；Strategy總裁兼首席分析師帕特里克？”GPU是最好的培訓(xùn)方式。鎖定TPU意味著鎖定GCP和TensorFlow。

更有甚者，摩爾黑德的同事卡爾·弗倫德（Karl Freund）在《福布斯》（Forbes）上寫道，谷歌的成本和速度索賠并不真正成立?！翱紤]到顯而易見的事實，人們確實不得不對谷歌的營銷大膽感到有點驚嘆：谷歌的4芯片獸，充滿了64GB昂貴的高帶寬內(nèi)存，每個性能單位的成本大約比英偉達的單芯片（1年前的特斯拉V100GPU加速器）高出33%，”他加起來比這要快3倍。

谷歌也不是唯一一個追求自己AI芯片的公司。芯片巨頭英特爾公司（Intel Corp.）一直在宣傳其最新的人工智能工作負載處理單元，以及被稱為現(xiàn)場可編程門陣列的定制芯片。今天，TheInfor mation報道說，Amazon.com公司正在開發(fā)自己的AI芯片，以幫助其Echo智能揚聲器和其他使用Alexa數(shù)字助理的硬件在設(shè)備上進行更多的處理，這樣它就可以比向云呼叫更快地響應(yīng)。