高通公司的最新芯片希望成為基于云的人工智能最強(qiáng)大的芯片

高通公司的Cloud AI 100是一款專門用于云中人工智能推理的芯片，該公司表示其性能優(yōu)于Nvidia和其他競(jìng)爭(zhēng)對(duì)手的同類產(chǎn)品。高通公司正在將其芯片制造專業(yè)知識(shí)應(yīng)用于云中的人工智能。該公司最新的芯片Cloud AI 100專門用于加速?gòu)脑贫说竭吘壍腁I推理。此外，另外還發(fā)布了單獨(dú)發(fā)布的Snapdragon 6和7系列新版本，旨在將人工智能處理技術(shù)應(yīng)用到中級(jí)智能手機(jī)，這表明高通公司希望成為云計(jì)算與邊緣人工智能辯論雙方的主要參與者。

在云端，高通公司表示，Cloud AI 100在性能每瓦特方面可以提供超越其他基于CPU，GPU和FPGA的解決方案的性能。“我們?nèi)碌腝ualcomm Cloud AI 100加速器將顯著提高AI推理處理的門檻，相對(duì)于當(dāng)今數(shù)據(jù)中心使用的CPU，GPU和/或FPGA的任何組合，”Qualcomm產(chǎn)品管理高級(jí)副總裁Keith Kressin科技在一份新聞聲明中說(shuō)。“此外，高通公司現(xiàn)已準(zhǔn)備好支持所有與高速和低延遲5G連接相關(guān)的完整云端到邊緣AI解決方案。”根據(jù)公司規(guī)格，Cloud AI 100可提供高達(dá)10倍的性能每瓦當(dāng)前，最先進(jìn)的AI推理解決方案。

與此同時(shí)，高通公司新推出的Snapdragon 730,730G和665移動(dòng)平臺(tái)正在宣傳高通公司專有的AI引擎的最新版本。730和730G采用第四代AI引擎，該公司稱其專為視頻，語(yǔ)音，安全和游戲的直觀設(shè)備交互而設(shè)計(jì)。665支持第三代引擎版本，旨在為AI提供更快的設(shè)備性能。

自動(dòng)化技術(shù)東部是東海岸領(lǐng)先的自動(dòng)化/機(jī)器人貿(mào)易展，提供微軟，IBM洛克希德馬丁等數(shù)百種最新的組件，控制器和取放器。

一個(gè)推論的問(wèn)題

如果您經(jīng)歷過(guò)手機(jī)或其他設(shè)備試圖猜測(cè)您要輸入或說(shuō)出的字詞，或者您的電子郵件建議自動(dòng)回復(fù)，那么您已經(jīng)體驗(yàn)過(guò)AI推理的示例。推理被用作從神經(jīng)網(wǎng)絡(luò)獲得接近準(zhǔn)確結(jié)果的手段，而不會(huì)消耗系統(tǒng)資源。讓神經(jīng)網(wǎng)絡(luò)得出一個(gè)確切的結(jié)論或答案，基于其給定的數(shù)據(jù)在計(jì)算方面可能非常苛刻。例如，在語(yǔ)音識(shí)別中，神經(jīng)網(wǎng)絡(luò)必須梳理其所有數(shù)據(jù)以找到已經(jīng)說(shuō)出的確切正確的單詞。

通過(guò)允許神經(jīng)網(wǎng)絡(luò)“推斷”其答案，推理顯著降低了計(jì)算需求。神經(jīng)網(wǎng)絡(luò)不是必須每次都進(jìn)行精確命中，而是使用所有可用數(shù)據(jù)來(lái)進(jìn)行最佳猜測(cè)。而不是必須決定你是否打算直接鍵入世界“貓”，它可以猜測(cè)你可能一直試圖鍵入“可以”，“購(gòu)物車”，“捕獲”或類似的世界。專家們一致認(rèn)為，在大多數(shù)應(yīng)用程序中，推理幾乎可以提供良好的結(jié)果，但也可以采用針對(duì)運(yùn)行時(shí)性能進(jìn)行優(yōu)化的方式。

正如技術(shù)咨詢公司ABI Research的首席分析師Lian Jye Su指出的那樣，通常云計(jì)算的AI芯片市場(chǎng)一直由Nvidia主導(dǎo)。但隨著這一最新消息，高通公司加入了該領(lǐng)域的一些新挑戰(zhàn)者。

“其他幾家公司，包括像英特爾和Xilinx這樣的老牌供應(yīng)商，以及像Graphcore這樣的小型廠商已經(jīng)推出了與高通公司的Cloud AI 100相似的產(chǎn)品，針對(duì)完全相同的受眾和用例，”Su在電子郵件中告訴Design News。“根據(jù)ABI的研究，到2023年，人工智能推理將達(dá)到75億美元的收入。到目前為止，這個(gè)市場(chǎng)主要由Nvidia GPU和英特爾的CPU主導(dǎo)，但這些平臺(tái)并沒(méi)有完全針對(duì)推理進(jìn)行優(yōu)化。預(yù)計(jì)這一領(lǐng)域的競(jìng)爭(zhēng)將在未來(lái)幾年內(nèi)升溫，主要是隨著高通公司宣布的更加專業(yè)化的硬件的出現(xiàn)。

雖然高通顯然希望通過(guò)其性能將Cloud AI 100與競(jìng)爭(zhēng)對(duì)手區(qū)分開(kāi)來(lái)，但Su表示還有其他因素需要加以考慮。其中的關(guān)鍵是支持開(kāi)發(fā)人員社區(qū)，并允許實(shí)施Cloud AI 100芯片的客戶在某種程度上對(duì)其進(jìn)行定制，以支持特定的垂直和用例，而不會(huì)抬高價(jià)格或犧牲可擴(kuò)展性。

“玩家能夠圍繞他們的芯片組建立一個(gè)強(qiáng)大的生態(tài)系統(tǒng)和開(kāi)發(fā)者社區(qū)，以便在多個(gè)用例和應(yīng)用程序中促進(jìn)技術(shù)和業(yè)務(wù)模式創(chuàng)新，這對(duì)包括高通在內(nèi)的所有云AI加速器供應(yīng)商來(lái)說(shuō)都是一個(gè)非常具有挑戰(zhàn)性的目標(biāo)，”蘇說(shuō)。“這項(xiàng)技術(shù)仍處于發(fā)展的初期階段，供應(yīng)商需要時(shí)間來(lái)收集一個(gè)能夠與現(xiàn)有AI推理平臺(tái)(特別是Nvidia)的規(guī)模相匹配的強(qiáng)大生態(tài)系統(tǒng)。”

Qualcomm表示，Cloud AI 100可以支持目前大多數(shù)流行的AI軟件庫(kù)，包括TensorFlow，PyTorch，Glow，Keras和ONNX，但Su表示公司還需要為開(kāi)發(fā)人員提供合適的工具來(lái)處理芯片。同樣。“Qualcomm需要確保AI 100與最新的AI開(kāi)源推理軟件完全兼容。高通公司還需要開(kāi)發(fā)量化工具，以便開(kāi)發(fā)人員在AI 100上部署時(shí)可以合成其神經(jīng)網(wǎng)絡(luò)的大小，而不會(huì)影響模型的準(zhǔn)確性，“蘇說(shuō)。

Su說(shuō)，高通公司的邊緣AI設(shè)備也存在同樣的生態(tài)系統(tǒng)挑戰(zhàn)。“高通在這里不是獨(dú)一無(wú)二的，因?yàn)槠渌?jìng)爭(zhēng)對(duì)手，包括采用其Kirin 970芯片組的海思半導(dǎo)體，以及擁有Helio P90芯片組的聯(lián)發(fā)科，已經(jīng)使中端智能手機(jī)的用戶能夠享受以前只有那些可以使用的AI功能的人工智能功能。買得起旗艦智能手機(jī)，“他說(shuō)。“由于海思半導(dǎo)體是一家專屬供應(yīng)商(意味著其芯片組僅適用于華為智能手機(jī))，而且聯(lián)通科技Helio P90顯示出迄今為止非常弱的人工智能生態(tài)系統(tǒng)，高通公司已準(zhǔn)備好領(lǐng)導(dǎo)智能手機(jī)的AI民主化，成為眾多關(guān)鍵的戰(zhàn)略芯片組供應(yīng)商原始設(shè)備制造商(主要是中國(guó)供應(yīng)商)希望將人工智能支持的高端功能帶入中端和低端智能手機(jī)。

“高通公司已經(jīng)圍繞其智能手機(jī)的AI引擎構(gòu)建了一個(gè)不錯(cuò)的生態(tài)系統(tǒng)?，F(xiàn)在，公司需要保持相關(guān)的生態(tài)系統(tǒng)受眾，基本上是應(yīng)用程序開(kāi)發(fā)人員，如果他們希望將AI引擎的成功擴(kuò)展到智能手機(jī)市場(chǎng)的低層，就可以參與并投資于該平臺(tái)。“

高通公司預(yù)計(jì)將在2019年下半年向客戶提供Cloud AI 100樣品?；赟napdragon 730,730G和665平臺(tái)的手機(jī)預(yù)計(jì)也將在今年晚些時(shí)候發(fā)布。