導讀:IoT技術賦能各類型設備連上網(wǎng)并進行通信,進而實現(xiàn)對設備的定位、跟蹤、監(jiān)測和管理等需求;AI技術支持設備可以“看到”“聽到”或者是“感知到”某個物體、聲音或者是事件,并且像人類一樣做出相應的行動。
從概念來說,IoT技術賦能各類型設備連上網(wǎng)并進行通信,進而實現(xiàn)對設備的定位、跟蹤、監(jiān)測和管理等需求;AI技術支持設備可以“看到”“聽到”或者是“感知到”某個物體、聲音或者是事件,并且像人類一樣做出相應的行動。
在兩類技術各自發(fā)展時,設備互聯(lián)產生的海量數(shù)據(jù)亟需被處理,具有強大計算能力的AI技術開始被IoT行業(yè)廣泛需要,進而推動形成了AIoT(物聯(lián)網(wǎng)人工智能)的概念。此時,物聯(lián)網(wǎng)相當于人身上遍布的周圍神經(jīng)網(wǎng)絡,AI則相當于人的大腦。
但需要被正視的現(xiàn)實情況是——AI技術需要大量矩陣運算、大量存儲空間和功耗,具有高功耗、高成本、高速度的特性;而IoT技術因為設備大多采用電池供電以及資源受限,更明顯的特性是低功耗、低成本,且部分應用對時延要求高,無法完全依賴云端完成數(shù)據(jù)運算。
至此,邊緣AI應運而生——指的是在靠近用戶本地的終端網(wǎng)絡邊緣執(zhí)行AI運算,而不是將數(shù)據(jù)集中在云或數(shù)據(jù)中心進行處理。相比于云端AI,邊緣AI具備實時性好、帶寬資源要求低、隱私性高等特點。并且根據(jù)預測,到2025年將有75%的數(shù)據(jù)在邊緣側進行處理。
于是,如何利用邊緣AI技術賦能物聯(lián)網(wǎng)應用成為行業(yè)關鍵話題。全球領先的高性能半導體公司ADI(亞德諾半導體)近日特別舉辦了激活邊緣智能?ADI MCU媒體溝通會,ADI MCU產品線資深業(yè)務經(jīng)理李勇、ADI中國技術支持中心高級工程師辛毅通過各自的分享,深入淺出地對邊緣AI MCU產業(yè)現(xiàn)狀進行了分析。
一、物聯(lián)網(wǎng)時代MCU的特性
根據(jù)功能屬性, MCU(微控制器)可以按照一定的程序對系統(tǒng)其他部件起到控制的作用,也可以收集外界或者內部的一些數(shù)據(jù)做出處理、計算和決策,是電子系統(tǒng)的大腦。
從互聯(lián)網(wǎng)到物聯(lián)網(wǎng)時代,MCU在新的領域有了新的突破,比如智能家居、智能電網(wǎng)、現(xiàn)代農業(yè)、輔助診斷、可穿戴設備等。例如ADI的智能傳感器平臺3.0 MAXREFDES104,它里面就是使用了MAX32666作為一個主要的MCU,去控制周圍的傳感器檢測人體的各種信號,然后這些數(shù)據(jù)再交給另一個專門負責計算的MCU MAX32670去將心率、血氧等最終的計算數(shù)據(jù)運算出來。
ADI公司自從1995年成立以來,公司MCU產品的出貨量超過10億片。尤其2020年至今,ADI在傳統(tǒng)MCU技術基礎上開拓創(chuàng)新了嶄新的邊緣AI MCU,從而可以支持在電池供電設備中輕松實現(xiàn)物聯(lián)網(wǎng)人工智能,這實際是ADI微控制器系列上的一個很大的劃時代里程碑。
根據(jù)功能應用,MCU產品主要分為三類:
第一類是低功耗MCU,這些MCU具備小體積、低功耗、大存儲的特點,這類產品相對而言比較通用,也很實用,適用于工業(yè)、物聯(lián)網(wǎng)、醫(yī)療、消費類等各類產品;
第二類是安全MCU,這類產品具備安全的系統(tǒng)架構,具有很強的抗攻擊加密能力,可以用在對安全性能要求較高的智能機器或者是終端上,比如POS機、讀卡器等等;第三類可以列為人工智能MCU,也就是AI MCU。這類產品實際上脫胎于第一類低功耗MCU,但是因為這類產品具備了人工智能,也不像通用的MCU,因此可以把它單獨列為一類。ADI的人工智能MCU,它的特色就是可以將AI推理從云端推向邊緣端,從而助力電池供電的人工智能和物聯(lián)網(wǎng)設備,比如說智能家居、人臉打卡、語音控制等等。
在對產品進行特點歸納時,ADI的MCU產品具備功耗低、接口優(yōu)、通訊新、評估全、開發(fā)易、安全強六大特色。
功耗低:具備靈活的操作模式和超低功耗,可以大大提升電池壽命,延長系統(tǒng)續(xù)航時間;
接口優(yōu):具備高速安全的多時鐘選項,可以優(yōu)化程序性能;
通訊新:部分產品集成最新的低功耗藍牙(BLE)模塊,支持遠程模式和BLE音頻等特色,從而允許設備在更遠的范圍內進行通信。
評估全:ADI針對大多數(shù)產品提供完備的評估方案和開發(fā)示例,硬件包括評估板、演示套件等,軟件包括SDK、庫文件、驅動代碼等,助力用戶全面了解產品性能、加速產品開發(fā)。
開發(fā)易:SDK提供從低級驅動到高級的一系列示例,簡化產品開發(fā)。
安全強:ADI具備30余年的MCU的IP保護和信任根研發(fā)經(jīng)驗,從而極大增強系統(tǒng)安全性,可以幫助安全敏感型的設備制造商快速、高效地為其產品增加安全加密、密鑰存儲和防篡改功能。
特別是近年來,隨著消費類和工業(yè)應用向高端發(fā)展,用戶往往會傾向于將更多的微控制器整合到系統(tǒng)當中。這些微控制器包括負責應用邏輯與控制的MCU、負責傳感器數(shù)據(jù)集中的MCU、以及負責藍牙連接的MCU等。同時,系統(tǒng)還需要具備獨立的電源管理芯片為這些MCU供電。
但是,由于應用的復雜度越來越高、產品尺寸越來越小、續(xù)航要求越來越長,傳統(tǒng)的多芯片方案往往難以滿足設計需求。
針對這些痛點,ADI的低功耗微控制器憑借單一芯片就集成了傳統(tǒng)上多片微控制器才具備的功能,也內置了電源管理模塊。可以說,ADI的低功耗微控制器在主打超低功耗的特色的同時,還具備了高性能、資源豐富等優(yōu)勢,有的還內置了藍牙模塊,使得系統(tǒng)的尺寸可以進一步減小。這也成為ADI產品在市場上具有競爭力的重要原因。
二、ADI邊緣AI解決方案MAX7800X系列
對于面向IoT的MCU產品,行業(yè)認為應該考慮系統(tǒng)功耗、計算速度和設備成本之間的平衡。在這個需求下,MAX7800X系列便是ADI旗下的明星產品。
MAX7800X系列產品具備特殊的架構,由兩個微控制器內核(ARM Cortex-M4F和RISC-V)加上一個卷積神經(jīng)網(wǎng)絡(CNN)加速器構成。這一架構針對邊緣進行了高度優(yōu)化——數(shù)據(jù)的加載和啟動由微控制器內核負責,而AI推理由卷積神經(jīng)網(wǎng)絡加速器專門負責。由此帶來的改變是使AI推理可以無需聯(lián)網(wǎng)就在邊緣完成,以及微控制器內核在完成加載和啟動后就無需操作進而大幅降低功耗。
與運行在低功耗微控制器上的純軟件解決方案相比,ADI的MAX7800X方案具備更高的數(shù)據(jù)吞吐量,速度提高了100倍,但是成本僅僅是FPGA或GPU解決方案的零頭。
以及相比于微控制器加上DSP的方案,ADI方案的功耗不足該方案的百分之一。
因此,ADI方案可以在功耗、速度、成本三個方面達成最優(yōu)的平衡,加上其小尺寸的優(yōu)勢,是邊緣AI應用的理想產品。
目前,MA7800X系列主要有兩款人工智能MCU——MAX78000和MAX78002,這二者都是基于Arm Cortex-M4F和RISC-V的低功耗微處理器,搭載專用的卷積神經(jīng)網(wǎng)絡加速器執(zhí)行AI推理。從區(qū)別來看,MAX78002有更高頻率的微控制器內核、更大存儲空間、更快的卷積神經(jīng)網(wǎng)絡加速器,模型維度達到MAX78000的4倍,更支持視頻處理,可以說是MAX78000的升級版。
三、邊緣AI MCU在IoT行業(yè)的應用
在分享中,嘉賓們圍繞MAX7800X系列產品在物聯(lián)網(wǎng)領域的應用進行了舉例,包括:
支持在物聯(lián)網(wǎng)設備上實現(xiàn)視覺識別的功能,比如說,經(jīng)過訓練,MAX7800X可以正確識別人臉,從而可以用在考勤打卡、智能門鎖等電池供電的物聯(lián)網(wǎng)設備上。
MAX7800X的視覺識別功能也可以用在識別物品上,可以在攝像頭上面集成MAX78002,從而達到垃圾分類、產品分裝、快遞分揀的功能。
支持關鍵字識別,識別出用戶的語音指示來進行操作,可以用在一些語音控制的物聯(lián)網(wǎng)設備上。
以及還有在雞蛋計數(shù)相機、車載冰箱、智能頭盔、管道泄漏檢查等方面有客戶落地實例。
值得一提的是,為了更直接地幫助用戶評估MAX78000執(zhí)行AI推理的性能,ADI推出了基于MAX78000參考設計——相機模組MAXREFDES178,其外觀像一個立方體,尺寸僅約為4.2cm×4.5cm×4cm,便攜性好。以及除了自身魔方的形狀,還具備攝像頭、麥克風、顯示屏、按鈕等多個機械組件,同時內置了電池,真正實現(xiàn)了電池供電的邊緣AI推理,支持人臉識別和語音識別的功能。
另外,ADI還推出了許多其它的評估套件供用戶選用,這些套件的功能更加齊全,用戶也可以根據(jù)自己的需要去連接外設或者進行個性化的開發(fā)。