導(dǎo)讀:隨著企業(yè)開拓多樣化的業(yè)務(wù)線、面對不同的工作負(fù)載,企業(yè)通常需要購買和管理多種類型的服務(wù)器,這在客觀上增加了企業(yè)的總體擁有成本。
近日,英特爾市場營銷與傳播集團(tuán)副總裁、中國區(qū)數(shù)據(jù)中心銷售經(jīng)理陳葆立與智東西等媒體分享了英特爾第三代至強(qiáng)可擴(kuò)展處理器Cooper Lake、新一代英特爾傲騰持久內(nèi)存200系列的產(chǎn)品技術(shù)性能細(xì)節(jié)。
6月中旬,英特爾推出一系列面向AI和分析的戰(zhàn)略及最新產(chǎn)品組合。其中,第三代至強(qiáng)處理器和傲騰200系列產(chǎn)品是英特爾面向數(shù)據(jù)中心業(yè)務(wù)推出的新品。
一、第三代至強(qiáng)處理器:最多支持8插槽,集成多種“黑科技”
第三代至強(qiáng)可擴(kuò)展處理器專為植入AI的數(shù)據(jù)密集型服務(wù)而設(shè)計(jì),有Cooper Lake和Ice Lake兩個系列產(chǎn)品。
Cooper Lake處理器支持4~8個處理器插槽,是當(dāng)前唯一最多可提供8插槽可擴(kuò)展性的x86平臺。Ice Lake處理器支持1~2個處理器插槽。
在運(yùn)行圖像分類處理任務(wù)時,相比上一代產(chǎn)品Cascade Lake,Cooper Lake的計(jì)算性能可提高1.93倍。
Cooper Lake處理器采用最新一代傲騰200系列持久內(nèi)存,并集成英特爾DL Boost深度學(xué)習(xí)加速、英特爾Speed Select技術(shù)等多種“黑科技”。
在DL-Boost深度學(xué)習(xí)加速方面,第三代至強(qiáng)可擴(kuò)展處理器采用VNNI指令集,可支持bfloat16數(shù)據(jù)格式,實(shí)現(xiàn)計(jì)算效率與精度的結(jié)合。
英特爾技術(shù)人員稱,bfloat16數(shù)據(jù)格式是在FP32數(shù)據(jù)格式和INT8數(shù)據(jù)格式之間取的折衷,能兼顧保存的數(shù)據(jù)范圍和精度,非常適合訓(xùn)練以吞吐量和精度為關(guān)鍵指標(biāo)的工作負(fù)載。
FP32數(shù)據(jù)格式即每個數(shù)據(jù)用32比特來存儲,其中有8位保存的是指數(shù)、有23位是尾數(shù)、還有1位是符號位,可以保存較多圖片細(xì)節(jié)。INT8數(shù)據(jù)格式指每個數(shù)據(jù)用8比特來存儲,這當(dāng)中有7位是尾數(shù)、有一位是符號位,保存的圖片細(xì)節(jié)較少。
相比之下,bfloat16數(shù)據(jù)格式用16比特來儲存每個數(shù)據(jù),其中8位存放指數(shù)、7位存放尾數(shù)、1位是符號位。
根據(jù)英特爾官方數(shù)據(jù),相較于采用FP32數(shù)據(jù)格式,采用bfloat16的第三代至強(qiáng)可擴(kuò)展處理器能將訓(xùn)練性能提高93%、推理性能提高90%。
隨著企業(yè)開拓多樣化的業(yè)務(wù)線、面對不同的工作負(fù)載,企業(yè)通常需要購買和管理多種類型的服務(wù)器,這在客觀上增加了企業(yè)的總體擁有成本。
為解決這一問題,Cooper Lake處理器集成了SST(Speed Select Technology)技術(shù)。SST技術(shù)是一種功能集合,可通過提供對CPU性能的更多控制,來提高性能和優(yōu)化總體擁有成本。
在四路和八路平臺上使用第三代英特爾至強(qiáng)可擴(kuò)展處理器能實(shí)現(xiàn)虛擬機(jī)密度擴(kuò)展,可提供高達(dá)224個單位節(jié)點(diǎn)內(nèi)核數(shù)、高達(dá)2.2倍的5年更新性能改進(jìn),有助于降低每內(nèi)核每小時的成本。
二、傲騰200系列持久內(nèi)存:解內(nèi)存容量、成本、時延痛點(diǎn)
存儲產(chǎn)品方面,英特爾6月份推出傲騰200系列持久內(nèi)存產(chǎn)品。
與上一代產(chǎn)品傲騰100系列相比,傲騰200系列實(shí)現(xiàn)了25%的內(nèi)存帶寬提升。在數(shù)據(jù)寫入方面,與主流NAND SSD相比,傲騰200系列內(nèi)存能帶來225倍的性能提升。
英特爾第三代至強(qiáng)可擴(kuò)展處理器Cooper Lake搭載了傲騰200系列內(nèi)存,其內(nèi)存容量可達(dá)到4.5TB。
運(yùn)作模式方面,傲騰200系列內(nèi)存提供“App Direct”和“Memory”兩種運(yùn)作模式。
平臺/操作系統(tǒng)/App對高速、大容量內(nèi)存的訪問適用“Memory”模式。如果希望數(shù)據(jù)在內(nèi)存中得到保留,則可應(yīng)用“App Direct”模式。
通過靈活應(yīng)用上述兩種運(yùn)行模式,傲騰200系列持久內(nèi)存可滿足使用者對內(nèi)存容量、價格、工作負(fù)載性能的不同需求。
結(jié)語:英特爾數(shù)據(jù)中心產(chǎn)品持續(xù)發(fā)力AI
第三代至強(qiáng)處理器專為深度學(xué)習(xí)、虛擬機(jī)(VM)密度、內(nèi)存數(shù)據(jù)庫、任務(wù)關(guān)鍵型應(yīng)用及分析密集型工作負(fù)載而設(shè)計(jì),在深度學(xué)習(xí)加速、滿足企業(yè)用戶業(yè)務(wù)多樣化需求方面具備優(yōu)勢。
從產(chǎn)品升級的角度來看,英特爾至強(qiáng)平臺持續(xù)在計(jì)算能力上推陳出新。第三代至強(qiáng)處理器在沿用第二代至強(qiáng)支持的DL Boost指令集的前提下,又在數(shù)據(jù)精度上進(jìn)行了優(yōu)化。據(jù)悉,目前,英特爾正與生態(tài)合作伙伴進(jìn)行技術(shù)方面的配合,推動第三代至強(qiáng)處理器平臺結(jié)合實(shí)際應(yīng)用。
此外,英特爾更新一代的至強(qiáng)處理器Sapphire Rapids將于2021年推出,也將延續(xù)對bfloat16數(shù)據(jù)格式的支持,讓我們拭目以待。