(資料圖片)
北京時(shí)間6月14日凌晨，AMD舉辦了“AMD數(shù)據(jù)中心與人工智能技術(shù)首映會(huì)”，并在會(huì)上推出的AI處理器MI300系列。其中，特別為大語言模型優(yōu)化的MI300X將于今年晚些時(shí)候開始向部分客戶發(fā)貨。
AMD首席執(zhí)行官蘇姿豐先介紹MI300A，這是全球首款針對(duì)AI和高性能計(jì)算（HPC）的加速處理器（APU）加速器。在13個(gè)小芯片中遍布1460億個(gè)晶體管。相比前代MI250，MI300的性能提高八倍，效率提高五倍。
隨后，蘇姿豐公布了本場(chǎng)發(fā)布會(huì)最受關(guān)注的產(chǎn)品——MI300X，這是一款為大語言模型進(jìn)行了優(yōu)化的版本。
MI300X芯片及其CDNA架構(gòu)是為大型語言模型和其他尖端人工智能模型設(shè)計(jì)的。
生成式人工智能應(yīng)用程序的大型語言模型使用大量?jī)?nèi)存，因?yàn)樗鼈冞\(yùn)行越來越多的計(jì)算。AMD演示了MI300X運(yùn)行400億參數(shù)的Falcon模型。
蘇姿豐表示，MI300X提供的HBM（高帶寬內(nèi)存）密度是英偉達(dá)H100的2.4倍，HBM帶寬是競(jìng)品的1.6倍。這意味著AMD可以運(yùn)行比英偉達(dá)H100更大的模型。單個(gè)MI300X可以運(yùn)行一個(gè)參數(shù)多達(dá)800億的模型。
AMD還表示，將推出一款I(lǐng)nfinity Architecture，在一個(gè)系統(tǒng)中集成8個(gè)M1300X加速器。英偉達(dá)和谷歌也開發(fā)了類似的系統(tǒng)，將8個(gè)或更多GPU集成在一個(gè)盒子里，用于人工智能應(yīng)用。綜合
（責(zé)任編輯：王治強(qiáng) HF013）關(guān)鍵詞：
