您的位置: 首頁(yè) >科技 >

打造一個(gè)AI大模型 到底需要多少算力?

2023-04-02 16:37:52 編輯:畢光綠 來(lái)源:
導(dǎo)讀 AI已經(jīng)在全球引發(fā)一股熱潮,讓人們不可忽視的潛在最大的阻力就是算力不足,算力屬于AI發(fā)展過(guò)程當(dāng)中最基本的設(shè)施,打造一個(gè)AI大模型,是需要

AI已經(jīng)在全球引發(fā)一股熱潮,讓人們不可忽視的潛在最大的阻力就是算力不足,算力屬于AI發(fā)展過(guò)程當(dāng)中最基本的設(shè)施,打造一個(gè)AI大模型,是需要對(duì)數(shù)據(jù)集中重復(fù)的處理,也就意味著算力的大小直接代表數(shù)據(jù)能力強(qiáng)與弱。從2012年開(kāi)始,全球AI訓(xùn)練所需要的指數(shù)處于增長(zhǎng)趨勢(shì),3~4個(gè)月都會(huì)平均分成一倍,到現(xiàn)在已經(jīng)擴(kuò)大30萬(wàn)倍,隨著華為、360、百度等大型公司加入到AI領(lǐng)域之后,國(guó)內(nèi)對(duì)于算力的需求也與日俱增,結(jié)合OpenAI研發(fā)的相關(guān)經(jīng)驗(yàn)加上我國(guó)企業(yè)大型規(guī)模研發(fā)的進(jìn)度來(lái)分析,現(xiàn)在我國(guó)對(duì)AI大型訓(xùn)練以及推理階段的算力需求都進(jìn)行相關(guān)成本的測(cè)算。

算力需求

目前根據(jù)商湯招股說(shuō)明書(shū)的數(shù)據(jù)明確的顯示像GPT-3大模型需要大概訓(xùn)練355個(gè)GPU,由于現(xiàn)在各家公司都在進(jìn)行AI大型模型的發(fā)展,會(huì)認(rèn)為科技公司訓(xùn)練的AI大型模型,時(shí)間大概為一個(gè)月,訓(xùn)練AI大型模型當(dāng)中的AI加速卡數(shù)量會(huì)高達(dá)4260個(gè),目前各大科技企業(yè)競(jìng)爭(zhēng),關(guān)鍵就是AI模型,因此在國(guó)內(nèi),會(huì)有部分人意愿的來(lái)開(kāi)發(fā)出AI模型相關(guān)的公司, AI大型模型的訓(xùn)練在急劇的上升當(dāng)中,AI的加速卡需求量也非常的大。英偉達(dá)官方數(shù)據(jù)的顯示 A100對(duì)于AI模型可以實(shí)現(xiàn)每秒推理高達(dá)1757次,假設(shè)單片A100在AI模型每秒中可以產(chǎn)生1757個(gè)單詞。

樂(lè)觀假設(shè)

2023年數(shù)字安全與發(fā)展高峰論壇在3月29日開(kāi)啟的時(shí)候,會(huì)議上明確的演示了360大型語(yǔ)言在瀏覽器上的應(yīng)用,部分的分析師認(rèn)為,像內(nèi)容生產(chǎn)類(lèi)型的應(yīng)用,已經(jīng)在各個(gè)科技開(kāi)發(fā)商當(dāng)中對(duì)AI模型有著積極探索的方向,針對(duì)不同的情況,分析師給予不一樣的假設(shè),因此在樂(lè)觀的情況下,現(xiàn)在我國(guó)AI大型模型的訓(xùn)練和推理階段有可能產(chǎn)生1.1萬(wàn)臺(tái)或者是3.8萬(wàn)臺(tái)的高端AI服務(wù)器的算力需求。

 


免責(zé)聲明:本文由用戶(hù)上傳,如有侵權(quán)請(qǐng)聯(lián)系刪除!

最新文章

精彩推薦

圖文推薦

點(diǎn)擊排行

2016-2022 All Rights Reserved.平安財(cái)經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ   備案號(hào):

本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。

郵箱:toplearningteam#gmail.com (請(qǐng)將#換成@)