您的位置: 首頁 > 新聞 > 電腦配件 > 新聞詳情

英偉達(dá)AI芯片勁敵 AMD推MI300X可運(yùn)行多達(dá)800億參數(shù)模型

時間:2023-06-14 11:25:26
  • 來源:互聯(lián)網(wǎng)
  • 作者:集微網(wǎng)
  • 編輯:陶笛

如今AI浪潮席卷全球,且將人工智能列為第一戰(zhàn)略重點(diǎn)后,AMD在AI的技術(shù)創(chuàng)新高地繼續(xù)保持攻勢,并有望改變現(xiàn)存的英偉達(dá)一家獨(dú)大的市場格局。

北京時間6月14日凌晨,AMD在美國舊金山舉辦的“數(shù)據(jù)中心和人工智能技術(shù)首映式”活動上,正式發(fā)布了MI300系列在內(nèi)的一系列數(shù)據(jù)中心及人工智能相關(guān)技術(shù)產(chǎn)品。AMD董事長兼CEO蘇姿豐博士(Lisa Su)表示,AI存在大量的市場機(jī)會,而最大的機(jī)遇來自于數(shù)據(jù)中心。

英偉達(dá)AI芯片勁敵 AMD推MI300X可運(yùn)行多達(dá)800億參數(shù)模型

MI300X:性能最強(qiáng)生成式AI加速器

此前備受行業(yè)關(guān)注的神秘芯片MI300揭開面紗。實(shí)際上,AMD Instinct MI300系列包括兩款產(chǎn)品:MI300X與MI300A。

據(jù)蘇姿豐介紹,MI300X是目前最先進(jìn)的生成AI加速器?;诘谌鶦DNA架構(gòu),MI300X支持高達(dá)192GB的HBM3內(nèi)存(英偉達(dá)的H100只有80GB),HBM內(nèi)存帶寬也高達(dá)5.2TB/s,Infinity Fabric總線帶寬也有896GB/s,晶體管數(shù)量達(dá)到1530億個。

借助AMD Instinct MI300X的大內(nèi)存,可以在單個GPU上適配大型語言模型,例如400億個參數(shù)模型Falcon-40B,蘇姿豐還在現(xiàn)場利用MI300X演示了內(nèi)容生成,撰寫了一篇關(guān)于舊金山的詩歌。

MI300A則是業(yè)界首款“CPU+GPU+HBM顯存”一體化的數(shù)據(jù)中心芯片,同時也是全球首款面向高性能和AI工作負(fù)載的APU加速器。MI300A采用3D堆疊和Chiplet技術(shù),配備了9個基于5nm制程的計算核心(6個GCD+3個CCD),置于4個基于6nm制程的I/O die之上。晶體管數(shù)量達(dá)到1460億個、多于英偉達(dá)H100的800億個。

英偉達(dá)AI芯片勁敵 AMD推MI300X可運(yùn)行多達(dá)800億參數(shù)模型

此外,AMD還推出了由8個MI300X整合在一起的Instinct平臺,具有高達(dá)1.5TB HBM3內(nèi)存。

作為目前AMD AI領(lǐng)域最強(qiáng)芯片,MI300X被視為是對標(biāo)英偉達(dá)H100的產(chǎn)品。有分析指出,從性能上MI300X性能顯著超越H100,在部分精度上的性能優(yōu)勢高達(dá)30%甚至更多。

而對于MI300A,憑借CPU+GPU的能力,產(chǎn)品組合性能更高、同時具有成本優(yōu)勢。AMD在收購賽靈思之后,在加速卡領(lǐng)域的定制化服務(wù)大幅領(lǐng)先英偉達(dá),能夠協(xié)助云廠商在特定算法模塊上進(jìn)行訓(xùn)練,上述因素都將為MI300系列帶來競爭優(yōu)勢。

據(jù)蘇姿豐介紹,MI300A已經(jīng)向客戶送樣,MI300X將于今年Q3送樣,預(yù)計今年Q4上市。

0

玩家點(diǎn)評 0人參與,0條評論)

收藏
違法和不良信息舉報
分享:

熱門評論

全部評論

他們都在說 再看看
3DM自運(yùn)營游戲推薦 更多+