模型小型化、智能化水平不斷提升,推動端側(cè)AI走向規(guī)模化落地,也讓過去多年以"連接"為核心的IoT,加速向以"認知"為標(biāo)志的AIoT演進。行業(yè)對嵌入式設(shè)備的AI能力需求日益迫切,越來越多的終端設(shè)備在傳統(tǒng)MCU中部署AI算法和模型,在本地實現(xiàn)智能感知、推理與執(zhí)行。然而,嵌入式設(shè)備部署AI始終資源受限,面臨功耗、時延與存儲等多重約束,也對芯片底層設(shè)計提出了更高要求。
在WAIC 2026展會上,安謀科技CPU產(chǎn)品總監(jiān)朱曉鳴發(fā)表了題為《STAR CPU, Helium 以及 Ethos 賦能萬物AI》的演講,分享了Arm和安謀科技對資源約束下的嵌入式芯片賦能AI的設(shè)計思考與路徑探索。
![]()
![]()
![]()
安謀科技CPU產(chǎn)品總監(jiān)朱曉鳴發(fā)表演講
眾所周知,物聯(lián)網(wǎng)生態(tài)根植于Arm架構(gòu),多年來,Arm緊跟市場需求與技術(shù)發(fā)展,已為嵌入式計算領(lǐng)域構(gòu)建了豐富的IP解決方案,主要包括Arm? Cortex?-M CPU處理器系列,Arm Helium?矢量擴展技術(shù),以及專用 AI 加速器Arm Ethos? NPU系列。依托Arm成熟生態(tài)和技術(shù),針對嵌入式AI場景,安謀科技也構(gòu)建了“星辰”CPU+Helium矢量擴展+Ethos NPU的AIoT原型平臺,第一代平臺選擇STAR-MC2(即Cortex-M52)和Ethos-U55,代號“星辰300”,全面支持主流小模型,從傳統(tǒng)MCU拓展出AI算力,為嵌入式設(shè)備加上AI引擎。
Armv8.1-M架構(gòu)CPU集成Helium技術(shù)
提升小型低功耗嵌入式設(shè)備DSP與ML性能
Arm Helium是Arm Cortex-M CPU處理器內(nèi)置的矢量擴展技術(shù),像一個“軟件可編程的加速器”,讓CPU更高效地處理向量計算,為數(shù)字信號處理(DSP)和機器學(xué)習(xí)(ML)應(yīng)用帶來顯著的性能提升:常見DSP場景中性能提升最高達5倍,ML任務(wù)中更可高達15倍。
![]()
當(dāng)前,基于Armv8.1-M架構(gòu)的Cortex-M52、Cortex-M55和Cortex-M85 CPU都集成了Helium技術(shù),產(chǎn)品性能也較Armv7-M架構(gòu)產(chǎn)品有大幅提升:在音頻編解碼場景下,對比于Cortex-M4,具備Helium技術(shù)的Cortex-M52、Cortex-M55以及Cortex-M85的性能表現(xiàn)分別提升了30%、50%以及65%;而在機器學(xué)習(xí)推理的表現(xiàn)上,Cortex-M55與Cortex-M85較Cortex-M7均實現(xiàn)顯著提速。
![]()
這些產(chǎn)品已廣泛部署于小型超低功耗的嵌入式AI系統(tǒng)中,覆蓋人臉識別、關(guān)鍵詞識別、語音命令控制和靜態(tài)圖像處理等應(yīng)用。
在香港科技大學(xué)講席教授、物理AI研究中心主任郭嵩看來,VLA模型是當(dāng)前具身智能領(lǐng)域最具現(xiàn)實指導(dǎo)意義的技術(shù)路徑之一。通過與安謀科技的深度協(xié)同,雙方能夠?qū)嶒炇业那把厮惴ú渴鸬秸鎸嵢诵螜C器人平臺,在實際任務(wù)中驗證模型的推理與泛化能力。這種從算法到硬件的全鏈條協(xié)同,正是加速科研成果向產(chǎn)業(yè)應(yīng)用轉(zhuǎn)化的關(guān)鍵催化劑。
Ethos NPU面向各類小算力場景
在嵌入式設(shè)備中實現(xiàn)高能效AI計算
嵌入式設(shè)備的AI工作負載日益復(fù)雜,從簡單關(guān)鍵詞識別到實時語音、物體檢測乃至小語言模型推理,僅靠CPU通用計算已難以兼顧性能與功耗,Arm Ethos NPU系列產(chǎn)品應(yīng)運而生,以極致的功耗與面積效率著稱,作為專用AI加速器與Cortex-M系列CPU協(xié)同工作,能為嵌入式設(shè)備提供高能效的AI推理能力。
Arm NPU系列目前包括Ethos-U55、Ethos-U65及Ethos-U85。其中,Ethos-U55通常部署在基于Cortex-M的異構(gòu)系統(tǒng)中,Ethos-U65為設(shè)備上的ML能力帶來了兩倍的性能提升,且將適用性擴展到基于Cortex-A的系統(tǒng)中。這兩款產(chǎn)品能夠為CNN和RNN等常見ML網(wǎng)絡(luò)運算提供原生支持,可部署于協(xié)作機器人、機器視覺、視線控制和實時語音等場景。
![]()
Ethos-U85作為高性能NPU,原生支持Transformer,在1GHz頻率下實現(xiàn)最高4TOPS算力,相較前代產(chǎn)品,性能提升4倍,能效提高20%,可勝任語言模型、語義分割和多實例等復(fù)雜任務(wù)。
全面支持主流小模型,加速嵌入式AI規(guī)模落地
代號“星辰300”!構(gòu)建“星辰”CPU+Helium+Ethos NPU AIoT原型平臺!
安謀科技傳承Arm對嵌入式場景的深度理解和技術(shù)優(yōu)勢,面向AIoT和嵌入式芯片領(lǐng)域推出“星辰”(STAR)CPU產(chǎn)品線,目前有STAR-MC1、STAR-MC2和STAR-MC3三代產(chǎn)品。為更好地支持嵌入式AI演進,從STAR-MC2開始,安謀科技的CPU產(chǎn)品全面支持Helium矢量擴展技術(shù)。
![]()
![]()
在此基礎(chǔ)上,針對嵌入式AI場景,安謀科技進一步構(gòu)建“星辰”CPU+Helium矢量擴展+Ethos NPU的AIoT原型平臺,第一代平臺選擇STAR-MC2和Ethos-U55,代號“星辰300”,全面支持主流小模型,從傳統(tǒng)MCU拓展出AI算力。
![]()
![]()
![]()
安謀科技CPU系統(tǒng)軟件工程師劉固進行平臺用例演示
目前,安謀科技在FPGA平臺上搭建了“星辰300”系統(tǒng),已經(jīng)跑通人臉探測、語音識別、關(guān)鍵字檢測和圖像超分等用例。“星辰”CPU配合Ethos NPU可助力合作伙伴在智能手機、IoT、工業(yè)設(shè)備芯片中部署高效率的AI計算能力。
縱觀嵌入式AI技術(shù)發(fā)展,Arm憑能效優(yōu)勢與深厚生態(tài)引領(lǐng)全局,安謀科技連接Arm生態(tài),雙方共同勾勒出一條清晰路徑:“星辰” CPU + Helium + Ethos NPU,讓嵌入式設(shè)備在有限的功耗和算力下盡可能多的釋放AI計算潛力,為每一個終端節(jié)點注入感知、決策、執(zhí)行的能力,推動AI下沉至萬物終端,加速嵌入式AI規(guī)模化落地。
聲明:Arm、Cortex、Helium和Ethos是Arm Limited(或其子公司、關(guān)聯(lián)公司)的注冊商標(biāo)或商標(biāo)。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.