導讀:當前,AI大模型已經(jīng)站在了從“玩具”向“工具”快速演化的關鍵迭代期。在AI向實際場景落地時,邊緣算力的重要性加速凸顯,邊緣算力在成本、時延、隱私上具有天然優(yōu)勢,也可以作為橋梁,預處理海量復雜需求,并將其導向大模型。
當前,AI大模型已經(jīng)站在了從“玩具”向“工具”快速演化的關鍵迭代期。在AI向實際場景落地時,邊緣算力的重要性加速凸顯,邊緣算力在成本、時延、隱私上具有天然優(yōu)勢,也可以作為橋梁,預處理海量復雜需求,并將其導向大模型。
5月10日,谷歌年度I/O開發(fā)者大會上,谷歌AI大模型PaLM 2如期亮相,模型提供了Gecko(壁虎),Otter(水獺)、Bison(野牛)、Unicorn(獨角獸)四個版本,其中輕量級的Gecko模型可以在移動設備上運行,速度非???,不聯(lián)網(wǎng)也能在設備上運行出色的交互式應用程序。
目前,以手機為代表的智能終端性能冗余,算力需求基本滿足目前應用需求場景,導致終端消費者換機動力不足。而AI大語言模型的小型化發(fā)展,將帶來智能終端的再升級,在手機、智能家居、機器人等終端應用上內嵌部署AI模型,將迎來終端的核心架構的變化。
Gecko 小到可以在手機上運行,每秒可以處理20個token,大約每秒16 或17 個單詞,大語言模型的小型化迎重大突破。小型化模型將打破智能終端性能冗余窘境,終端接口的硬件性能將迎大升級。
邊緣算力優(yōu)勢明顯
邊緣算力,通常指部署在設備本地的算力或者離用戶距離較近的數(shù)據(jù)中心中的算力,相較于云端算力,邊緣算力具有低成本、低時延、高隱私三大特性。在沒有邊緣計算的情況下,所有的數(shù)據(jù)都需要送到一個中心位置進行處理,就像城市中的人們都需要到市中心上班,會造成交通堵塞(網(wǎng)絡擁堵),且要花費大量通勤時間(處理延遲)。
引入邊緣計算就像在城市的各個區(qū)域建立了辦公室,人們可以在離家更近的地方工作。這樣可以減少通勤時間(即網(wǎng)絡延遲),避免交通堵塞(即網(wǎng)絡擁堵),并且還可以在離家更近的地方完成工作(即在數(shù)據(jù)產(chǎn)生的地方進行處理),從而保護個人隱私。
邊緣計算增速強勁
今年2月份,國際電信咨詢公司STL Partners近日發(fā)布了一份邊緣計算關鍵數(shù)據(jù)統(tǒng)計,數(shù)據(jù)預測顯示到2030年,邊緣計算潛在市場將在10年內以48%的復合年增長率從2020年的90億美元增長到2030年的4450億美元;到2030年,北美、歐洲和東亞將產(chǎn)生88% 的邊緣服務收入;2026年,全球26%的網(wǎng)絡邊緣站點將位于中國。
根據(jù)億歐智庫的數(shù)據(jù),2021年我國邊緣計算市場規(guī)模已經(jīng)達到427.9億元,其中邊緣硬件市場規(guī)模為281.7億元,邊緣軟件與服務市場規(guī)模達146.2億元,2021-2025年中國邊緣計算產(chǎn)業(yè)規(guī)模預計年復合增速達到46.81%,2025年邊緣計算市場整體規(guī)模達1987.68億元,增長空間廣闊。
之前,邊緣側設備以部署通信能力為主,當下,在以高通為代表的邊緣巨頭推動下,算力、AI能力等邊緣基建正在加速推動,邊緣算力作為AI觸及萬千場景的血管地位加速明晰。展望未來,邊緣算力將始于AI帶來的需求提升,同時也將賦能應用,連接更多用戶,加速AI發(fā)展與迭代。
多元化場景的AI需要邊緣算力
當前物聯(lián)網(wǎng)模組進入 AIoT 時代,集成了邊緣算力的智能模組正在逐漸成為支撐邊緣算力的核心形式。智能大腦不僅要處理視覺信息、生成提示詞,更要負責輸出指令來執(zhí)行機械動作,如特斯拉針對 Optimus 開發(fā)了 DOJO D1 芯片,充沛的算力(362 TFLPOS@FP8)驅動 Optimus 機器人流暢執(zhí)行各種任務。自動駕駛汽車上, L4 級別需要帶寬大于100 Mbps,時延5-10ms。
專注于人工智能和機器學習的初創(chuàng)公司Useful Sensors,通過更智能的界面改善人們的日常生活。由于tinyML 技術的迅速發(fā)展,一個售價為10美元(約合人民幣70+人民幣)的硬件模塊,可以嵌入電視、風扇、遙控器、無人機、攝像頭等設備中,輕松實現(xiàn)智能功能。電視可以根據(jù)主人的手勢實現(xiàn)遙控、風扇可以判斷主人的位置對準送風、攝像頭可以自動識別房間里的人員數(shù)量。
邊緣計算是打通工業(yè)互聯(lián)網(wǎng)賦能行業(yè)“最后一公里”的支撐技術,其通過在網(wǎng)絡邊緣側匯聚網(wǎng)絡、計算、存儲、應用、智能等資源滿足行業(yè)數(shù)字化的關鍵需求,形成統(tǒng)一標準規(guī)范有利于指導推動工業(yè)互聯(lián)網(wǎng)邊緣計算技術與業(yè)務的快速發(fā)展邊緣計算系列標準旨從供給側引領研發(fā)方向,在需求側引導產(chǎn)品選型,推動供需高效對接。
邊緣計算已成為各國政策推動的新興技術之一
2022年2月,美國白宮發(fā)布2022年最新版《關鍵和新興技術清單》(CETs)。此次最新版包括十四個關鍵技術領域和五個新興技術領域。涵蓋先進計算、先進工程材料、人工智能、量子信息技術等。其中先進計算下包括超級計算、邊緣計算、云計算、數(shù)據(jù)存儲、計算架構數(shù)據(jù)處理和分析技術五大子領域。
2022年11月22日,工信部發(fā)布《2022年第三批行業(yè)標準制修訂和外文版項目計劃》的通知(以下簡稱《項目計劃》),共52項工業(yè)互聯(lián)網(wǎng)相關標準被劃分進新型基礎設施標準項目計劃表,其中,包含4項邊緣計算領域行業(yè)標準。
為推動邊緣計算技術產(chǎn)品的應用創(chuàng)新、促進邊緣計算高價值可復制創(chuàng)新解決方案的快速孵化,物聯(lián)傳媒聯(lián)合AIoT星圖研究院、深圳市物聯(lián)網(wǎng)產(chǎn)業(yè)協(xié)會、AIoT庫等媒體機構,將在7月份推出《中國邊緣計算產(chǎn)業(yè)研究報告》,現(xiàn)已逐步開始報告的撰寫和前期調研工作,歡迎產(chǎn)業(yè)鏈上下游企業(yè)參與調研,交流行業(yè)信息和見解并提供優(yōu)秀案例。歡迎各位行業(yè)同仁添加以下微信,與報告分析師交流。