mlperf發(fā)布了第三批用于培訓(xùn)AI網(wǎng)絡(luò)的意見書

今天，行業(yè)標(biāo)準(zhǔn)AI基準(zhǔn)測試小組mlperf發(fā)布了第三批用于培訓(xùn)AI網(wǎng)絡(luò)的意見書，就像前兩個版本一樣，NVIDIA在商用硬件和軟件領(lǐng)域占據(jù)了稀疏的競爭領(lǐng)域。Mlperf由全球80多家公司和大學(xué)組成，創(chuàng)建了基準(zhǔn)，為培訓(xùn)和推理處理提供了從蘋果到蘋果的比較。但是，由于潛在的AI競爭者仍未露面，競爭蘋果仍然很少。在“研究”類別中，有一些提交物看起來很有希望，無論何時以及何時上市。讓我們看一下基準(zhǔn)，并探索英特爾，谷歌和Graphcore等競爭對手的發(fā)展方向。與過去一樣，請原諒NVIDIA圖像的廣泛使用;

NVIDIA贏得所有16個基準(zhǔn)測試

自創(chuàng)建市場以來，NVIDIA一直主導(dǎo)著AI加速器業(yè)務(wù)，并將其發(fā)展到明年NVIDIA AI收入可能超過游戲領(lǐng)域的地步。在技??術(shù)上很少有一家公司擁有數(shù)十億美元的市場空間而又不吸引競爭的，并且現(xiàn)在有數(shù)十家初創(chuàng)公司以及像英特爾和高通這樣的成熟公司正在開發(fā)具有競爭力的產(chǎn)品。但是經(jīng)過3年在Powerpoint中具有挑戰(zhàn)性的承諾以及一些顯著的失敗之后，NVIDIA仍然獨立存在于一個市場中，一個項目在10年內(nèi)每年將超過$ 28B。

為了刷新您的記憶，mlperf提供了跨多個AI基準(zhǔn)的三類基準(zhǔn)系統(tǒng)(可用，預(yù)覽和研究)。這些基準(zhǔn)測試可衡量最大規(guī)模系統(tǒng)(例如NVIDIA Selene，這是世界上第七快的超級計算機)和單個服務(wù)器(例如8GPU DGX A100)的培訓(xùn)時間。新的V0.7結(jié)果僅用于培訓(xùn);新的推理基準(zhǔn)可能會在未來幾個月內(nèi)發(fā)布。結(jié)果?在商用類別中，NVIDIA以可觀的優(yōu)勢贏得了所有16個基準(zhǔn)測試。未公布的Google TPU V4看起來很有希望，但在八分之三的基準(zhǔn)測試中，目前僅略勝于NVIDIA A100。

有趣的是，在商用服務(wù)器上提交結(jié)果的唯一競爭者是Google和華為，甚至這些公司也只提交了用于圖像分類(Resnet-50)和自然語言處理(BERT)的結(jié)果。盡管NVIDIA的“大規(guī)模”成果令人難以置信，顯示了其在系統(tǒng)設(shè)計，Mellanox網(wǎng)絡(luò)和AI軟件方面的卓越能力，但我傾向于更多地關(guān)注按系統(tǒng)劃分的結(jié)果和按芯片進行歸一化的分析。畢竟，很少有公司能負(fù)擔(dān)得起大規(guī)模運行基準(zhǔn)測試所需的超級計算機和工程工作。

對于商用系統(tǒng)，NVIDIA輕松擊敗華為超過2倍，并擊敗了Google TPU V3 25-75%。但是，為什么華為和谷歌沒有運行其他6或7個基準(zhǔn)測試呢?嗯，谷歌可能做到了，但是意識到新的A100會粉碎其使用了3年的芯片。相反，它明智地將精力集中在即將推出的V4芯片上，該芯片已在研究類別中提交。