AMD放大招 蘇媽甩出最強(qiáng)AI芯片叫板老黃

近日，在AMD周二剛剛舉行的發(fā)布會中，發(fā)布了最新款的AI芯片GPU-MI300X，這款芯片可以為生成式AI提供巨大的內(nèi)存和數(shù)據(jù)吞吐量，蘇媽在發(fā)布會中介紹這款芯片為生成式AI加速器，表明芯片是專門為AI和高性能計算量身打造的，通過多個小芯片的組合方式，將共享內(nèi)存和網(wǎng)絡(luò)鏈接連接到一個單一的封裝組合中，該芯片將會在今年晚些時候正式面向客戶發(fā)貨。

據(jù)了解，該芯片的CPU是換成了兩個額外的cdna 3芯片組，除此之外，在晶體管的數(shù)量方面從原先的1460億分加到1530億，共享內(nèi)存更是從原先的一百二十八千兆字節(jié)提升到一百九十二千兆字節(jié)，在演講中，蘇媽反復(fù)強(qiáng)調(diào)這款芯片是非常具有戰(zhàn)略意義的，因為它能夠去混合匹配多種不同類型的計算，可以完全做到替換CPU或者是GPU。

這款芯片將會提供更高的內(nèi)存密度和內(nèi)存帶寬，生成式AI的格局目前已經(jīng)改變，對于整體的計算需求也在呈現(xiàn)不斷的增長趨勢，無論是訓(xùn)練模型還是進(jìn)行各種計算推理方面，都需要更大的計算運(yùn)力，語言模型需要更多計算，是因為他們是建立在神經(jīng)網(wǎng)絡(luò)參數(shù)上的，這款芯片可以流暢的在內(nèi)存中運(yùn)行大規(guī)模的神經(jīng)網(wǎng)絡(luò)，避免在外部內(nèi)存中來回對數(shù)據(jù)移動操作。

蘇媽還針對競爭對手的芯片做了比較，從比較中可以看出，這款芯片提供了2.4倍的內(nèi)存，這意味著能夠有額外的內(nèi)存容量，通過這種方式，可以直接在內(nèi)存中運(yùn)行更大的大語言模型，這也意味著更大的模型會減少gpu的數(shù)量，從而能夠提升整體的性能和推理速度，從另一方面來看也會降低總體的成本。