AMD放大招 蘇媽甩出最強(qiáng)AI芯片叫板老黃

近日，在AMD周二剛剛舉行的發(fā)布會(huì)中，發(fā)布了最新款的AI芯片GPU-MI300X，這款芯片可以為生成式AI提供巨大的內(nèi)存和數(shù)據(jù)吞吐量，蘇媽在發(fā)布會(huì)中介紹這款芯片為生成式AI加速器，表明芯片是專門為AI和高性能計(jì)算量身打造的，通過(guò)多個(gè)小芯片的組合方式，將共享內(nèi)存和網(wǎng)絡(luò)鏈接連接到一個(gè)單一的封裝組合中，該芯片將會(huì)在今年晚些時(shí)候正式面向客戶發(fā)貨。

據(jù)了解，該芯片的CPU是換成了兩個(gè)額外的cdna 3芯片組，除此之外，在晶體管的數(shù)量方面從原先的1460億分加到1530億，共享內(nèi)存更是從原先的一百二十八千兆字節(jié)提升到一百九十二千兆字節(jié)，在演講中，蘇媽反復(fù)強(qiáng)調(diào)這款芯片是非常具有戰(zhàn)略意義的，因?yàn)樗軌蛉セ旌掀ヅ涠喾N不同類型的計(jì)算，可以完全做到替換CPU或者是GPU。

這款芯片將會(huì)提供更高的內(nèi)存密度和內(nèi)存帶寬，生成式AI的格局目前已經(jīng)改變，對(duì)于整體的計(jì)算需求也在呈現(xiàn)不斷的增長(zhǎng)趨勢(shì)，無(wú)論是訓(xùn)練模型還是進(jìn)行各種計(jì)算推理方面，都需要更大的計(jì)算運(yùn)力，語(yǔ)言模型需要更多計(jì)算，是因?yàn)樗麄兪墙⒃谏窠?jīng)網(wǎng)絡(luò)參數(shù)上的，這款芯片可以流暢的在內(nèi)存中運(yùn)行大規(guī)模的神經(jīng)網(wǎng)絡(luò)，避免在外部?jī)?nèi)存中來(lái)回對(duì)數(shù)據(jù)移動(dòng)操作。

蘇媽還針對(duì)競(jìng)爭(zhēng)對(duì)手的芯片做了比較，從比較中可以看出，這款芯片提供了2.4倍的內(nèi)存，這意味著能夠有額外的內(nèi)存容量，通過(guò)這種方式，可以直接在內(nèi)存中運(yùn)行更大的大語(yǔ)言模型，這也意味著更大的模型會(huì)減少gpu的數(shù)量，從而能夠提升整體的性能和推理速度，從另一方面來(lái)看也會(huì)降低總體的成本。