2016-2022 All Rights Reserved.平安財經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ 備案號:
本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。
郵箱:toplearningteam#gmail.com (請將#換成@)
目前科技圈中關(guān)于大模型算法和硬件底座的競爭。盡管大型科技公司如阿里、騰訊已經(jīng)在云服務(wù)領(lǐng)域發(fā)展出了適合大模型算法的軟硬兼?zhèn)涞幕A(chǔ)設(shè)施,但新進(jìn)入市場的公司仍面臨著訂購高性能芯片的困難。
這是因為AIGC的算法競爭已經(jīng)演變成為算力競爭。根據(jù)市場調(diào)查機構(gòu) TrendForce 的數(shù)據(jù),GPT-3.5大模型需要2萬塊GPU來處理訓(xùn)練數(shù)據(jù),而A100芯片已經(jīng)難以從官方渠道購得。即使英偉達(dá)推出了H800,其綜合使用效率只有A100的60%,價格也很昂貴,還需要排隊購買。
大公司已經(jīng)積累了大量的A100和H800芯片,例如阿里云和騰訊云。但新進(jìn)入市場的創(chuàng)業(yè)公司很難訂購到足夠的高性能芯片。一些黃牛在市場上提供A100芯片,售價為15萬元/張,這相當(dāng)于100%的溢價。但是,另一個黃牛提供的現(xiàn)貨售價是155萬元/張。這意味著,如果有人以原價屯了A100芯片,他們現(xiàn)在最高能獲得2000%的投資回報率。
因此,雖然創(chuàng)業(yè)公司難以訂購到高性能芯片,但仍有一些渠道可以獲得芯片。大模型和芯片黃牛的話題,尤其是在當(dāng)前市場上,芯片黃牛因為炒作而變得越來越熱門,而大模型創(chuàng)業(yè)者們則需要大量的算力來訓(xùn)練他們的模型。文章指出,為了估值著想,大模型創(chuàng)業(yè)者們最好是宣傳準(zhǔn)備自建算力矩陣,但由于成本較高,許多創(chuàng)業(yè)者可能會面臨困難。相比之下,芯片黃牛似乎更容易獲得利潤,因為芯片價格飆升,黃牛可以利用自己手里的芯片來賺錢。雖然黃牛的行為有些不道德,但在當(dāng)前市場上,這種行為似乎是可以取得成功的。
文章還提到了一個有趣的話題,即OpenAI首席執(zhí)行官Sam Altman所說的公司需要籌集到1000億美元以支付訓(xùn)練AI模型的高昂費用。如果OpenAI真的能融到這么多錢,那么其他創(chuàng)業(yè)者也可以效仿這個例子,融資額度可能會越來越高。不過,這也可能導(dǎo)致類似軍備競賽的局面,導(dǎo)致市場上的人們都在不斷地炒作和漲價。因此,大家需要深入思考這個話題,想方設(shè)法避免這種情況的發(fā)生。
2016-2022 All Rights Reserved.平安財經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ 備案號:
本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。
郵箱:toplearningteam#gmail.com (請將#換成@)