導讀: AMD專為AI及高性能計算(HPC)開發(fā)的Instinct MI300X芯片在外界引領期盼之下,終于在近日正式交貨。
AMD專為AI及高性能計算(HPC)開發(fā)的Instinct MI300X芯片在外界引領期盼之下,終于在近日正式交貨。長期與AMD合作的AI服務廠商LaminiAI表示,近日已收到多臺內(nèi)置8個MI300X芯片的運算設備。
AMD Instinct MI300系列產(chǎn)品自2023年就開始出貨,且AMD宣稱該系列可望成為公司史上營收最快破10億美元的產(chǎn)品系列,但號稱性能勝過英偉達H100芯片的MI300X遲遲未出貨,這回是第一次有客戶證實MI300X開始大量出貨,象征AMD終于達成重要里程碑。
LaminiAI專門訓練商用大規(guī)模語言模型,因此向AMD采購多臺內(nèi)置8個MI300X芯片的運算設備。
LaminiAI CEO曬出圖片表示,第一批AMD MI300X芯片正在運算中。內(nèi)置8個MI300X芯片的設備已經(jīng)上線,就像剛出爐的面包一樣新鮮。LaminiAI新一批大語言模型已經(jīng)上線。
AMD先前推出的MI300A芯片已經(jīng)是數(shù)據(jù)中心等級,內(nèi)置x86 CPU及GPU,并采用支持AI運算的CDNA 3架構。MI300X雖然沒內(nèi)置CPU,但CDNA 3芯片數(shù)量更多,共有304個運算單元,遠勝MI300A的228個運算單元。
MI300X被視為AMD對抗英偉達H100芯片的最佳武器,因為MI300X內(nèi)置HBM3 192GB內(nèi)存,勝過H100的HBM3 80GB內(nèi)存,且MI300X內(nèi)存帶寬高達每秒5.2TB,反觀H100內(nèi)存帶寬每秒3.35TB。業(yè)界人士甚至認為MI300X足以和英偉達即將推出的H200 141GB GPU抗衡。
在客戶方面,微軟和Meta已采購大量的MI300系列,LaminiAI則是首個公開采用MI300X的客戶。