端側(cè)AI不是云端AI的縮小版，安謀科技要建邊端側(cè)AI算力底座｜WAIC 2026

世界人工智能大會(huì)（WAIC）2026上，超節(jié)點(diǎn)、萬(wàn)卡集群是算力領(lǐng)域最吸引人的焦點(diǎn)。更大的集群、更高的帶寬、更強(qiáng)的供給能力，構(gòu)成了大模型時(shí)代最直觀的基礎(chǔ)設(shè)施敘事。

但安謀科技在WAIC期間的AI前瞻會(huì)上把討論拉向了另一端：當(dāng)AI從云端進(jìn)入手機(jī)、AI PC、智能家居、汽車、機(jī)器人、工業(yè)設(shè)備和邊緣節(jié)點(diǎn)，算力問題不再只是“夠不夠大”，而是“合不合適”。

“我們認(rèn)為，邊端側(cè)AI不是云端AI的縮小版，而是由功耗、實(shí)時(shí)性、軟件、數(shù)據(jù)、可靠性共同定義的新計(jì)算市場(chǎng)。”安謀科技Arm China NPU產(chǎn)品線負(fù)責(zé)人、首席架構(gòu)師舒浩博士在安謀科技世界人工智能大會(huì)（WAIC）2026 AI前瞻會(huì)上的這句話，比具體產(chǎn)品參數(shù)更值得被記住。

安謀科技在AI前瞻會(huì)上沒有把CPU、NPU、VPU和AIOS拆成四個(gè)孤立產(chǎn)品來講，而是給出一套端側(cè)AI的系統(tǒng)答案：硬件層面做異構(gòu)，軟件層面建生態(tài)，最終把自己從芯片IP供應(yīng)商的位置，推向邊端側(cè)AI基礎(chǔ)設(shè)施的組織者。

如何在資源受限的情況下讓端側(cè)穩(wěn)定運(yùn)行AI？

端側(cè)AI的機(jī)會(huì)，首先來自模型能力的下沉。

安謀科技CPU產(chǎn)品總監(jiān)朱曉鳴在演講中提到，2022年、2023年，要達(dá)到商用門檻的模型規(guī)模往往需要做到數(shù)百B；但隨著算法演進(jìn)，到2025年、2026年，接近1B體量的模型也有機(jī)會(huì)達(dá)到商用最低標(biāo)準(zhǔn)線。

這意味著，過去只能運(yùn)行在云端服務(wù)器上的AI能力，開始有機(jī)會(huì)進(jìn)入端側(cè)芯片。

但端側(cè)AI真正難的，并不是模型能不能變小，而是變小之后能不能在真實(shí)設(shè)備里穩(wěn)定跑起來。

手機(jī)要考慮續(xù)航，機(jī)器人要考慮低延遲，工業(yè)設(shè)備要考慮穩(wěn)定性和生命周期，智能家居設(shè)備還要考慮成本和常開功耗。用戶希望端側(cè)設(shè)備具備更強(qiáng)推理能力、更長(zhǎng)上下文、更實(shí)時(shí)交互，背后要解決的是電池、溫度、內(nèi)存墻和帶寬墻。

朱曉鳴把端側(cè)AI的約束講得很直接：“端側(cè)AI并不是資源無(wú)限、無(wú)限子彈的AI，它是一個(gè)資源受限的AI。”

所以，端側(cè)AI不是把云端模型搬到端側(cè)芯片上，也不是簡(jiǎn)單在MCU旁邊外掛一顆NPU，而是在極其受限的功耗、面積、成本和帶寬里，把AI能力擠出來。

這也是安謀科技推出“星辰300”AIoT原型平臺(tái)的背景。

星辰300由STAR CPU、Arm Helium矢量擴(kuò)展和Arm Ethos NPU組成，首代平臺(tái)選擇STAR-MC2和Ethos-U55，目標(biāo)是支持主流小模型，讓傳統(tǒng)MCU拓展出AI算力。

過去IoT強(qiáng)調(diào)的是連接萬(wàn)物，設(shè)備更多承擔(dān)采集、連接和被動(dòng)響應(yīng)；AIoT強(qiáng)調(diào)的是認(rèn)知萬(wàn)物，端側(cè)設(shè)備開始需要一定的感知、判斷和決策能力。

安謀科技要做的，是把CPU的通用控制能力、Helium的向量擴(kuò)展能力和Ethos NPU的矩陣加速能力組合起來，在功耗、面積都受限的嵌入式設(shè)備里，跑出可用的AI能力。

端側(cè)AI的競(jìng)爭(zhēng)，不是比誰(shuí)能把算力堆得更大，而是比誰(shuí)能在更小的殼里，把更多AI能力跑得更穩(wěn)。

Agentic時(shí)代NPU最重要的不是峰值算力？

如果星辰300回答的是AIoT設(shè)備如何長(zhǎng)出AI能力，那么周易X3-Pro回答的是更復(fù)雜的邊端側(cè)推理問題。

過去談NPU，行業(yè)很容易落到參數(shù)競(jìng)爭(zhēng)：算力多少、能效多少、支持多大參數(shù)模型。

Agentic AI正在改變NPU的定義。舒浩在演講中提到，過去一年AI行業(yè)的變化集中在四個(gè)方面：模型能力提升，推理需求從云端向邊端側(cè)擴(kuò)展；推理范式從單輪對(duì)話走向Agent多輪協(xié)作；工作負(fù)載高度分化；邊端側(cè)場(chǎng)景不斷擴(kuò)展。

這些變化最后指向同一個(gè)結(jié)論：“AI算力底座的關(guān)注焦點(diǎn)，已經(jīng)從峰值算力轉(zhuǎn)向系統(tǒng)效率、場(chǎng)景適配性以及整體可部署能力。”

原因在于Agentic AI帶來的推理變化，不是一次性請(qǐng)求變多，而是推理本身變成持續(xù)感知、上下文記憶、多模態(tài)理解和主動(dòng)行動(dòng)的循環(huán)。NPU也就不能只被定義為推理加速器，而要變成AI智能體的計(jì)算底座。

但邊端側(cè)場(chǎng)景依然繞不開然碎片化問題。

手機(jī)、PC、可穿戴設(shè)備關(guān)心電池續(xù)航、個(gè)人隱私和本地響應(yīng)；攝像頭、門鎖、機(jī)器人、自動(dòng)駕駛關(guān)心多模態(tài)傳感、低延遲和功能安全；工業(yè)網(wǎng)關(guān)、工控機(jī)、工廠服務(wù)器關(guān)心任務(wù)確定性、可靠性和應(yīng)用長(zhǎng)生命周期；邊緣節(jié)點(diǎn)、AI本地盒子又關(guān)心多路并發(fā)、24小時(shí)在線和云邊協(xié)同。

這些設(shè)備都需要AI，但它們不會(huì)需要同一顆AI芯片。

這也是周易X3-Pro強(qiáng)調(diào)統(tǒng)一、分層、場(chǎng)景化架構(gòu)的原因。舒浩把周易X3-Pro的設(shè)計(jì)哲學(xué)概括為：“一次適配，多芯復(fù)用；面向場(chǎng)景，靈活配置。”

軟件層面，安謀科技希望用統(tǒng)一架構(gòu)復(fù)用模型適配、調(diào)優(yōu)和部署經(jīng)驗(yàn)；硬件層面，則通過不同配置適配不同場(chǎng)景對(duì)性能、功耗、靈活性和可編程性的差異化要求。

這才是邊端側(cè)AI真正的工程難題。

云端AI可以通過標(biāo)準(zhǔn)化集群和規(guī)模效應(yīng)不斷攤薄成本，但端側(cè)AI要面對(duì)的是更長(zhǎng)的產(chǎn)品周期、更多樣的設(shè)備形態(tài)和更復(fù)雜的應(yīng)用約束。誰(shuí)能降低客戶從模型到芯片、從芯片到產(chǎn)品的適配成本，誰(shuí)才有機(jī)會(huì)成為端側(cè)AI時(shí)代的底座。

用新一代VPU解決端側(cè)AI怎么看

AI進(jìn)入真實(shí)世界后，視頻的角色同樣在變化，對(duì)VPU也有新的需求。

過去視頻主要服務(wù)人眼。手機(jī)拍攝、社交傳輸、直播壓縮，核心目標(biāo)是讓人看得清、傳得快、存得下。但在機(jī)器人、自動(dòng)駕駛、工業(yè)視覺等場(chǎng)景里，視頻不只是內(nèi)容，而是AI理解物理世界的數(shù)據(jù)入口。

換句話說，視頻不再只是給人看，也要給機(jī)器看。

安謀科技VPU研發(fā)總監(jiān)黃鑫博士在演講中提到，隨著AI應(yīng)用和視頻更加緊密結(jié)合，越來越多視覺感知模塊需要用視頻數(shù)據(jù)進(jìn)行推理和訓(xùn)練，視頻開始成為AI的“消費(fèi)者”。

這會(huì)改變VPU的設(shè)計(jì)目標(biāo)。過去VPU追求的是壓縮效率和主觀畫質(zhì)，AI時(shí)代，VPU還要考慮壓縮后的視頻能否保留對(duì)AI推理有效的信息。如果視頻質(zhì)量受損，影響的可能不只是人眼觀感，而是AI推理精度和訓(xùn)練效果。

安謀科技此次首次揭秘新一代“玲瓏”VPU“武當(dāng)”。這款產(chǎn)品繼承上一代CAE技術(shù)，在保持編碼質(zhì)量的同時(shí)，PPA較上一代提升超過40%，并支持更完整的編碼規(guī)格。

更關(guān)鍵的是，安謀科技正在把VPU從局部?jī)?yōu)化推向端到端全局優(yōu)化。

黃鑫提到，下一階段AI VPU會(huì)從智能CAE這類局部?jī)?yōu)化，走向面向特定AI應(yīng)用的端到端視頻編碼技術(shù)，在壓縮和精度之間取得更優(yōu)平衡。

他用一句話概括玲瓏VPU的定位：“讓人類看清世界，讓AI看懂世界。”

如果說CPU和NPU解決的是端側(cè)AI“怎么算”，VPU解決的就是端側(cè)AI“怎么看”。

當(dāng)機(jī)器人、汽車、工業(yè)設(shè)備、空間智能系統(tǒng)都需要通過視覺理解世界，視頻壓縮就不再只是多媒體問題，而會(huì)變成端側(cè)AI基礎(chǔ)設(shè)施的一部分。

端側(cè)AI大規(guī)模部署的關(guān)鍵——AIOS聯(lián)盟

硬件異構(gòu)只能解決端側(cè)AI的一半問題。另一半，是軟件和生態(tài)。

端側(cè)AI如果只停留在“芯片能跑模型”，很難真正變成產(chǎn)品能力。Agent、具身智能、AI眼鏡、AI玩具、機(jī)器人、邊緣盒子等新型設(shè)備，需要的不只是底層算力，還包括模型推理、任務(wù)編排、記憶管理、端云協(xié)同、感知交互、隱私安全和開發(fā)者工具。

這也是安謀科技牽頭發(fā)起開源AIOS聯(lián)盟的原因。

安謀科技市場(chǎng)及生態(tài)副總裁梁泉在演講中提到，每一代新型產(chǎn)品的變化，不僅是計(jì)算平臺(tái)變化，也包括交互范式變化。PC時(shí)代是鼠標(biāo)和鍵盤，移動(dòng)時(shí)代是多點(diǎn)觸控，AI時(shí)代則會(huì)出現(xiàn)語(yǔ)音交互、生成式UI、具身互動(dòng)和持續(xù)感知。

這意味著AIOS不是傳統(tǒng)操作系統(tǒng)加一個(gè)模型接口。

AIOS需要處理模型引擎、模型推理、端云協(xié)同路由、感知交互、Agent任務(wù)編排、記憶系統(tǒng)和數(shù)據(jù)流。尤其是在具身智能和邊緣設(shè)備中，視頻、音頻、文本等實(shí)時(shí)混合輸入，會(huì)成為貫穿系統(tǒng)的核心數(shù)據(jù)流。

梁泉對(duì)AIOS的定義里，最關(guān)鍵的不是“OS”，而是交互。

他提到，新型AIOS是“基于感知的生成式交互和具身互動(dòng)系統(tǒng)”。如果只是把AI作為計(jì)算基礎(chǔ)設(shè)施放在那里，過去Linux、服務(wù)器系統(tǒng)已經(jīng)可以承接很多能力；但新型邊緣設(shè)備和具身設(shè)備要與人持續(xù)互動(dòng)，交互會(huì)變成系統(tǒng)核心。

這一步，把安謀科技的角色從IP繼續(xù)向上推了一層。

端側(cè)AI產(chǎn)業(yè)鏈天然分散：有芯片公司，有模組廠，有設(shè)備廠，有模型公司，有開發(fā)者，也有終端品牌。單靠某一顆IP，很難讓AI進(jìn)入海量設(shè)備。安謀科技想借助Arm在端側(cè)的生態(tài)位置，把硬件IP、軟件棧、模型能力、開發(fā)者工具和終端產(chǎn)品組織到一個(gè)更開放的體系里。

開源AIOS聯(lián)盟的意義也在這里，端側(cè)AI從“硬件可用”走向“產(chǎn)品可用”必須補(bǔ)上的系統(tǒng)層。

端側(cè)AI的競(jìng)爭(zhēng)也是系統(tǒng)競(jìng)賽

從星辰300到周易X3-Pro，從玲瓏VPU到開源AIOS聯(lián)盟，安謀科技傳遞出的信息，核心不是有新的IP產(chǎn)品，而是為端側(cè)AI構(gòu)建一套不同于云端AI的基礎(chǔ)設(shè)施。

云端AI的競(jìng)爭(zhēng)，更像規(guī)模競(jìng)賽。誰(shuí)能提供更多GPU、更強(qiáng)集群、更高吞吐、更低Token成本，誰(shuí)就能在大模型訓(xùn)練和推理爆發(fā)中占據(jù)主桌。

端側(cè)AI的競(jìng)爭(zhēng)，則更像系統(tǒng)競(jìng)賽。它要在功耗、成本、實(shí)時(shí)性、隱私、設(shè)備形態(tài)和生命周期之間找平衡；要讓不同尺寸、不同場(chǎng)景、不同產(chǎn)品周期的設(shè)備，都能以可控成本獲得AI能力；還要讓開發(fā)者和終端廠商不必為每一顆芯片、每一個(gè)設(shè)備、每一種模型重復(fù)適配。

這正是“端側(cè)AI不是云端AI的縮小版”背后的產(chǎn)業(yè)含義。

當(dāng)AI還停留在云端，算力基礎(chǔ)設(shè)施的核心問題是如何支撐更大模型和更多Token；當(dāng)AI進(jìn)入真實(shí)世界，問題會(huì)變成如何讓每一臺(tái)設(shè)備都具備可用、可靠、可部署的智能能力。

安謀科技構(gòu)建的，正是這套邊端側(cè)算力底座。

如果說過去Arm生態(tài)的最大價(jià)值，是讓移動(dòng)互聯(lián)網(wǎng)時(shí)代的計(jì)算能力進(jìn)入每一臺(tái)終端；那么AI時(shí)代，安謀科技要證明的是，Arm生態(tài)仍然有機(jī)會(huì)把AI能力帶進(jìn)每一個(gè)真實(shí)設(shè)備。

端側(cè)AI的下半場(chǎng)，不會(huì)只屬于單顆芯片，它屬于能把芯片、模型、OS、開發(fā)者和終端場(chǎng)景串起來的公司。雷峰網(wǎng)