導(dǎo)讀:在為像 TinyML 這樣的應(yīng)用程序?qū)で蟾?jié)能的計算時,正在開發(fā)的更有前途的技術(shù)之一是模擬計算。如果處理得當,模擬可以帶來更節(jié)能的計算,從而為邊緣計算節(jié)省大量能源。
當您將模擬計算的優(yōu)點應(yīng)用于 ML 時會發(fā)生什么?據(jù) Aspinity 稱,這種芯片可將系統(tǒng)功耗降低多達 95%。
在為像 TinyML 這樣的應(yīng)用程序?qū)で蟾?jié)能的計算時,正在開發(fā)的更有前途的技術(shù)之一是模擬計算。如果處理得當,模擬可以帶來更節(jié)能的計算,從而為邊緣計算節(jié)省大量能源。
近日,模擬計算公司 Aspinity 發(fā)布了新的模擬 TinyML 芯片 AML100,成為頭條新聞。
Aspinity 稱 AML100 是“世界上第一款模擬 ML 芯片”。
該公司聲稱,其新產(chǎn)品是業(yè)界第一個也是唯一一個“完全在模擬域內(nèi)”運行的 TinyML 解決方案,其結(jié)果是為邊緣應(yīng)用節(jié)省了能源。該公司在模擬計算市場上有著開創(chuàng)性的記錄,兩年前發(fā)布了具有“選擇性聽力”功能的 ML 模擬芯片。
All About Circuits 有機會與 Aspinity 的創(chuàng)始人兼首席執(zhí)行官 Tom Doyle 交談,以直接了解新產(chǎn)品。
Aspinity 對傳統(tǒng)模擬計算的改進
今天的大多數(shù)模擬計算解決方案在很大程度上仍然存在于數(shù)字領(lǐng)域。數(shù)據(jù)(權(quán)重)存儲在數(shù)字域中,但使用 DAC 轉(zhuǎn)換回模擬量以進行計算。
當嘗試在諸如始終在線喚醒字檢測等應(yīng)用中實現(xiàn)低功耗時,這種從原生模擬到數(shù)字、再到模擬的持續(xù)數(shù)據(jù)轉(zhuǎn)換可能會限制原始模擬計算提供的節(jié)能效果。
“許多利用‘模擬’和‘模擬計算’這個詞的人通常試圖解決數(shù)字領(lǐng)域內(nèi)的問題,”Doyle 說?!叭绻汩喿x他們的網(wǎng)站并深入挖掘,你會發(fā)現(xiàn)他們實際上是數(shù)字域處理器,這意味著他們實際上是在使用數(shù)字數(shù)據(jù)。他們試圖用模擬做的是通過在內(nèi)存中進行模擬計算來實際節(jié)省數(shù)字內(nèi)核中的功率。這很棒,我們都支持它,但它非常有限?!?/p>
Aspinity 的永遠在線架構(gòu)與傳統(tǒng)計算的對比。
Aspinity 的 AML100 采用了不同的方法。Doyle 解釋說:“相反,我們能夠?qū)C器學(xué)習(xí)能力從數(shù)字領(lǐng)域直接轉(zhuǎn)移到模擬領(lǐng)域。我們能夠分析來自本機模擬的原始傳感器數(shù)據(jù),然后我們能夠關(guān)閉 ADC 和數(shù)字處理器?!?/p>
通過這種方式,AML100 保留數(shù)據(jù)并完全在模擬域中執(zhí)行 AI/ML 計算。由于工程師現(xiàn)在可以在檢測到重要數(shù)據(jù)之前將數(shù)字組件保持在低功耗模式,因此這可以節(jié)省整體系統(tǒng)功耗,同時最大限度地減少總數(shù)據(jù)量,從而消除數(shù)字化、數(shù)字處理和無關(guān)數(shù)據(jù)傳輸?shù)墓膿p失。
Aspinity AML100
據(jù)介紹,Aspinity 的新 AML100 芯片利用這種新架構(gòu)為客戶提供顯著的節(jié)能效果。
該芯片的模擬計算基于一組獨立的、可配置的模擬模塊 (CAB),每個模塊都可以在軟件內(nèi)完全進行現(xiàn)場編程,從而實現(xiàn)廣泛的功能、傳感器輸入和應(yīng)用。在這些 CAB 的更深處,人們會發(fā)現(xiàn)模擬非易失性存儲器陣列以及模擬信號處理模塊。該芯片還利用專有的模擬壓縮技術(shù),允許預(yù)卷收集和喚醒詞檢測等應(yīng)用的準確性。
AML100 的框圖。
Aspinity 還表示,該芯片支持多種模型架構(gòu)和機器學(xué)習(xí)應(yīng)用。
“在我們對喚醒詞檢測等應(yīng)用的大多數(shù)測試中,我們發(fā)現(xiàn) AML100 使用了大約四分之一的可用資源,”Doyle 解釋說。“我們發(fā)現(xiàn)有大量剩余資源,這表明如果需要,我們可以切實支持各種模型和新的 ML 架構(gòu)。”
總體而言,據(jù)說該芯片在執(zhí)行始終開啟感應(yīng)時消耗不到 20uA。據(jù) Aspinity 稱,AML100 使工程師始終在線的系統(tǒng)功耗降低了 95%。
切割數(shù)據(jù)和功率
雖然市場上存在其他模擬解決方案,但 Aspinity 聲稱其方法是新穎的——它帶來了可衡量的好處。AML100 據(jù)稱可將數(shù)據(jù)減少多達 100 倍,同時節(jié)省多達 95% 的電力,可能會對邊緣計算和 TinyML 世界產(chǎn)生顯著影響。