應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

NPU,下一個(gè)爆發(fā)的風(fēng)口?

2024-07-17 09:08 視覺物聯(lián)
關(guān)鍵詞:NPU芯片

導(dǎo)讀:伴隨著人工智能技術(shù)與應(yīng)用的快速發(fā)展與迭代,其對(duì)算力的要求不斷提高,而作為算力核心的人工智能芯片,自然而然也受到了產(chǎn)業(yè)界的強(qiáng)烈關(guān)注。其中,作為深度學(xué)習(xí)和人工智能領(lǐng)域的專用芯片——NPU,正在逐漸走向“舞臺(tái)中央”

  近年來,伴隨著人工智能技術(shù)與應(yīng)用的快速發(fā)展與迭代,其對(duì)算力的要求不斷提高,而作為算力核心的人工智能芯片,自然而然也受到了產(chǎn)業(yè)界的強(qiáng)烈關(guān)注。其中,作為深度學(xué)習(xí)和人工智能領(lǐng)域的專用芯片——NPU,正在逐漸走向“舞臺(tái)中央”。

  NPU:高效能、低功耗、穩(wěn)定性

  NPU,即神經(jīng)網(wǎng)絡(luò)處理器,是一種專門設(shè)計(jì)用于加速人工智能(AI)和機(jī)器學(xué)習(xí)(ML)應(yīng)用的芯片,它采用了數(shù)據(jù)驅(qū)動(dòng)并行計(jì)算架構(gòu),使得NPU在處理視頻、圖像等多媒體數(shù)據(jù)時(shí)具有超強(qiáng)的性能,旨在高效、低功耗地執(zhí)行機(jī)器學(xué)習(xí)尤其是深度學(xué)習(xí)任務(wù)。

  相較于傳統(tǒng)的CPU和GPU,NPU在AI計(jì)算方面具有更高的效能和更低的功耗。NPU針對(duì)深度學(xué)習(xí)算法所需的復(fù)雜計(jì)算進(jìn)行了優(yōu)化,能夠高效地完成深度學(xué)習(xí)、圖像識(shí)別等任務(wù),大幅提升了AI處理的性能。而且由于NPU的特定優(yōu)化,使其在運(yùn)行AI任務(wù)時(shí)功耗更低,延長(zhǎng)了設(shè)備的續(xù)航時(shí)間。此外,NPU通常具有很好的容錯(cuò)性和可靠性,即使在高負(fù)載、復(fù)雜計(jì)算任務(wù)的情況下,也能夠保持穩(wěn)定的計(jì)算性能。

  一開始,NPU主要用于提升智能手機(jī)的相機(jī)功能、電池續(xù)航和安全性等。如今,隨著AI技術(shù)與應(yīng)用的普及,NPU已逐漸成為人工智能技術(shù)中不可或缺的組成部分之一,其優(yōu)勢(shì)愈發(fā)明顯,并正在快速地?cái)U(kuò)展到更多應(yīng)用場(chǎng)景中。當(dāng)前,NPU被廣泛應(yīng)用于人臉識(shí)別、智能語音、自動(dòng)駕駛、智能安防、智能家居、智慧醫(yī)療、工業(yè)質(zhì)檢等各種人工智能應(yīng)用場(chǎng)景中,為各行各業(yè)帶來更多的智能化解決方案。

  邊緣智能,NPU或是最佳選擇

  前不久,高通發(fā)布了《通過NPU和異構(gòu)計(jì)算開啟終端側(cè)生成式AI》報(bào)告,其中提到:“隨著生成式AI用例需求在有著多樣化要求和計(jì)算需求的垂直領(lǐng)域不斷增加,需要專為AI定制設(shè)計(jì)的全新計(jì)算架構(gòu)……通過結(jié)合NPU使用合適的處理器,異構(gòu)計(jì)算能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航,賦能全新增強(qiáng)的生成式AI體驗(yàn)?!?/p>

  近年來,隨著物聯(lián)網(wǎng)設(shè)備的廣泛部署與大數(shù)據(jù)的爆炸式增長(zhǎng),對(duì)于能夠即時(shí)處理和分析數(shù)據(jù)的需求愈發(fā)迫切。加上近段時(shí)間,大模型持續(xù)向邊緣側(cè)和端側(cè)滲透,AI計(jì)算和推理工作逐步從云端轉(zhuǎn)移到邊緣和端側(cè),于是邊緣計(jì)算逐漸成為了AI應(yīng)用的重要場(chǎng)景,端、邊緣市場(chǎng)的AI算力需求也由此逐漸爆發(fā)。

  那么,在此背景下,NPU易開發(fā)、高效能、低功耗等優(yōu)勢(shì)逐漸凸顯出來,憑借著其在邊緣設(shè)備上執(zhí)行機(jī)器學(xué)習(xí)和深度學(xué)習(xí)任務(wù)的能力,能夠有效地執(zhí)行圖像識(shí)別、語音處理等AI任務(wù),從而在邊緣設(shè)備上實(shí)現(xiàn)快速的智能決策和響應(yīng)。

  當(dāng)下,在人工智能的高速發(fā)展下,NPU作為人工智能時(shí)代的核心驅(qū)動(dòng)力之一,其發(fā)展與應(yīng)用正深刻改變著各行各業(yè),其不僅賦予了終端設(shè)備更強(qiáng)大的智能化能力,也為千行百業(yè)的數(shù)智化升級(jí)提供了有力支持。未來,隨著技術(shù)的不斷進(jìn)步和應(yīng)用領(lǐng)域的持續(xù)拓展,NPU將更加智能、高效、節(jié)能,成為推動(dòng)社會(huì)智能化轉(zhuǎn)型的中堅(jiān)力量,為經(jīng)濟(jì)社會(huì)發(fā)展帶來更多的驚喜。

  NPU相關(guān)企業(yè)布局

  芯原股份:宣布集成了芯原神經(jīng)網(wǎng)絡(luò)處理器(NPU)IP的人工智能(AI)類芯片已在全球范圍內(nèi)出貨超過1億顆。

  國科微:公司通過自主研發(fā)成功推出了NPU,實(shí)現(xiàn)了低中高算力的全場(chǎng)景布局,打造全系邊端AI芯片標(biāo)配NPU技術(shù),賦能多元化智能應(yīng)用場(chǎng)景落地。

  瑞芯微:公司新推出的SoC芯片大部分搭載了自研NPU,可以在低待機(jī)功耗的同時(shí)提供優(yōu)秀的邊緣AI算力,滿足市場(chǎng)對(duì)智能化、算力的需求。

  北京君正:公司的NPU技術(shù)已應(yīng)用于T40、T41、A1等芯片中,且已量產(chǎn)銷售。

  云天勵(lì)飛:DeepEdge10作為首顆云天自研的SOC芯片,搭載新一代自研NPU(NNP400T)。

  智微智能公司提供AI服務(wù)器和AIBOX邊緣設(shè)備,推出基于GPU、多家ASIC AI加速卡、ARM NPU的多系列產(chǎn)品。

  全志科技:公司深入分析AI算法的應(yīng)用場(chǎng)景,主動(dòng)積極推進(jìn)NPU和DSP的AI專用算力在終端產(chǎn)品應(yīng)用的落地。

  高通:提出通過NPU和異構(gòu)計(jì)算將開啟終端側(cè)生成式AI時(shí)代。其Hexagon NPU面向低功耗、高性能的AI推理而設(shè)計(jì),通過定制設(shè)計(jì)NPU和控制指令集架構(gòu)(ISA),能夠快速進(jìn)行設(shè)計(jì)演進(jìn)和擴(kuò)展。其中,高通的Hexagon NPU在終端側(cè)AI推理方面表現(xiàn)出色,其性能提升達(dá)到98%,能效提升達(dá)到40%。

  英特爾:正式發(fā)布新一代酷睿Ultra移動(dòng)處理器,該處理器還集成了用于客戶端的片上AI加速器“神經(jīng)網(wǎng)絡(luò)處理單元(NPU)”,AI性能高達(dá)48 TOPS,最高達(dá)上一代產(chǎn)品的4倍,能夠相應(yīng)提高生成式AI的性能。

  AMD:宣布推出Ethos-U85 NPU。作為Arm面向邊緣AI的第三代NPU產(chǎn)品,Ethos-U85在性能方面提升了四倍;較上一代產(chǎn)品在能效方面擁有20%的提升,還可在常用神經(jīng)網(wǎng)絡(luò)上實(shí)現(xiàn)85%的利用率。

  ……