AI落地，還差一口氣

紙面算力與實際產出之間的鴻溝有多大？WAIC 2026現場，多位行業(yè)人士給出了一個令人不安的參考數字：不到30%。也就是說，一臺AI服務器交付到用戶手中后，真正被有效利用的算力，可能連規(guī)格表上數字的三成都不到。

這并非個別人的判斷。不同領域的芯片企業(yè)，不約而同地把話題從“算力有多大”轉向了“算力用得好不好”。這種敘事方式的轉變本身就是一個信號：AI產業(yè)已經跨過“能不能”的第一道門檻，向“好用”階段邁進。

這個階段的核心矛盾，正在從芯片本身向上遷移。

01

推理超越訓練：不是預測，是既成事實

2024年，行業(yè)熱錢幾乎全部涌向訓練側；2026年，推理對于算力調用量已經超過訓練。

訓練芯片追求的是“學得更好”，推理芯片追求的是“用得更省”。曦望智能商業(yè)產品與解決方案高級總監(jiān)付慶平表示，兩種不同的設計哲學，對應的是兩種不同的商業(yè)邏輯。推理調度的粒度正在從任務級細化到算子級：“越細粒度越高效，每高效一分，token成本就降一分。”這意味著推理芯片的競爭已經深入到模型層的調度效率，一個看似屬于軟件范疇的維度，正在成為芯片產品的核心賣點。

從視頻處理的視角看，推理需求的爆發(fā)更為直觀。VPU廠商判斷未來80%的視頻將由AI生成，而據測算，視頻生成的token消耗是文字生成的1000倍。據介紹，通過將視頻相關計算從GPU中剝離出來交給專用芯片處理，VPU+GPU協同有望將視頻生成成本降低8成。

后摩智能戰(zhàn)略生態(tài)VP楊大衛(wèi)表示：“訓練決定模型能力上限，推理決定AI能不能大范圍落地。”當推理成為產業(yè)主軸，芯片行業(yè)的需求結構隨之改變。云端需要規(guī)模化推理芯片，視頻場景需要VPU，端側快思考需要NPU，低功耗端側推理需要存算一體架構。通用GPU不再是唯一答案，專用化正在從理論討論變成商業(yè)現實。

02

算力經濟學，成為行業(yè)共識

镕銘微電子聯合創(chuàng)始人兼CEO朱照遠認為算力成本降低的根本原因是效率提升。用交通方式的升級來理解硬件產品的更新：從馬車到汽車再到火車，同樣從A點到B點，成本是降低的，但降低的根本原因不在于“省”，而在于效率的“升”。

這解釋了為什么WAIC 2026上，多家企業(yè)不再把TOPS數字放在首位，而是開始談“綜合成本”。數據中心客戶在評估芯片方案時關注至少六個維度：穩(wěn)定性、性能、延時、功耗、畫質和TCO。“客戶不關注你叫什么PU”，這句話背后的事實是：當AI從實驗室進入生產環(huán)境，評價標準不是你的考試分數，而是你的工作結果。

推理芯片通過硬件裁剪掉訓練相關的冗余功能來降低成本。這體現了從通用到專用的趨勢。從最早的CPU，到GPU，再到DPU、VPU，每一次專用化都對應著某一類計算需求從通用平臺中剝離出來。VPU+GPU協同降低成本的案例，已經為這一趨勢提供了商業(yè)驗證。現階段國產芯片選GPU路線是市場選擇。硬件廠家要面對市場，產品要一代接一代不能斷，風險最可控的就是通用GPU，但再往后發(fā)展，各種各樣的算力芯片會向細分領域發(fā)展，在局部形成獨角獸。

邊緣芯片的降本方案是依靠算法合作伙伴在不同場景上做適配，如果品類足夠大（如手機、汽車），可以承擔定制化成本；其他場景靠通用底座覆蓋，才能讓底層降本的紅利惠及更多行業(yè)。從端側角度看，問題更為復雜。端側推理的三大剛需是隱私、成本和物理世界交互的延時，這三個維度決定了端側芯片的設計邏輯與云端不同。愛芯元智聯合創(chuàng)始人、副總裁劉建偉指出了端云之間的邏輯差異：云端先看體驗再降成本，端邊先看成本再提體驗。這個順序差異直接影響芯片設計取舍。端側AI的商業(yè)模式也在因此發(fā)生變化，當用戶發(fā)現訂閱費可能比硬件本身還貴時，從訂閱制轉向一次性買斷的訴求開始出現。

AI芯片行業(yè)正進入以TCO為核心考量的成熟期。在這個階段，軟件優(yōu)化能力和系統工程能力的價值，可能超過硬件參數本身。

與此交織的另一個分歧是：下一場AI革命在哪里爆發(fā)。有人認為云端（AI視頻生成）和端側（具身智能）都會發(fā)生革命；有人把2026年定義為“物理AI元年”，最看好機器人；也有人認為全行業(yè)都會爆發(fā)，落地最快的一定是最懂AI的行業(yè)。

03

物理AI元年：具身智能走到哪了

具身智能被多家企業(yè)提及為下一個爆發(fā)點。WAIC現場的機器人展區(qū)提供了佐證：不同于往年表演型機器人，拿水、打拳擊；今年已有機器人能長時間連續(xù)完成細致性工作，從展臺秀進入工廠產線。

但具身智能的產業(yè)形態(tài)遠未收斂。有觀點主張廣義——掃地機、割草機這類能自主干活的機器就可以稱為“機器人”；也有觀點傾向人形路線，理由是人類所有基礎設施都為人形設計，人形機器人適用性最廣，是最通用的硬件載體，規(guī)模化后成本可降。但現階段人形制造成本仍高，最終取決于哪種形態(tài)先做到成本可行。

機器人對AI的依賴程度與其他終端有本質區(qū)別。有存算一體路線的企業(yè)給出了一個尖銳對比：PC離開AI還是PC，汽車離開AI還是汽車，但機器人離開AI就是一塊鐵。這意味著機器人對端側AI的剛需最為迫切，體現在三個維度：隱私（數據不能上云）、Token成本（頻繁調用云端太貴）、物理交互的實時性和安全性（隧道無信號時不能失控，機器人命令不能依賴云端）。在這三個維度上，端側芯片的低功耗和高能效比成為關鍵變量，而存算一體架構可將功耗能效比提升一到兩個數量級。

對于具身智能行業(yè)來說，數據瓶頸已有所緩解。行業(yè)巨頭已收集大量視頻和操作數據；算法基本可用，WAIC上多家機器人公司的展示已經證明。真正的挑戰(zhàn)在于算法如何高效跑在算力上：模型剪枝、低功耗、低延時必須協同優(yōu)化，本質仍是系統工程問題。

數百家具身智能創(chuàng)業(yè)公司正在不同場景試水——物流、裝配、陪伴——但尚未出現公認的殺手級應用。底層的芯片行業(yè)相信，給客戶打開一道通往萬物智能的大門，自然會涌現出很多應用。

04

軟件生態(tài)：比芯片更厚的壁壘

如果說成本效率是競爭的終點，軟件生態(tài)就是通往終點的關鍵路障。回到開篇提到的紙面算力與實際產出的巨大差距，其根源在于模型選型、微調、知識庫建設、中底層軟件棧優(yōu)化和機房配置等環(huán)節(jié)。交付一臺AI服務器和實施一個AI項目，就像買了一口鍋和炒出一盤菜，中間還有著相當大的工作量。

芯片的生態(tài)壁壘的核心不僅是技術問題，更是開發(fā)者習慣問題。存算一體等新架構面臨的核心挑戰(zhàn)：不是芯片做不出來，而是軟件生態(tài)跟不上。即便芯片參數已經很漂亮，但系統工程：適配、調優(yōu)、客戶場景打磨，還需要大量工作。

在端側AI場景中，模型迭代速度極快。云側大模型已經從半年一個版本加速到兩個月一個版本，端側模型同樣在快速演進。每一次模型迭代都需要與芯片重新適配，工程落地的速度直接決定商業(yè)化速度。“一項技術從能用到好用，需要很多臟活累活。”

有觀點指出，中底層軟件棧可以把同樣硬件的算力輸出提高2到5倍，但這次WAIC上深入討論這個方向的并不多。全棧落地需要多方面專業(yè)人才協同，智能體、模型優(yōu)化、知識庫、底層算力調度和運維，把這些角色湊齊，才有可能實施一個真正高效的全棧。

當被問及國產AI芯片最需要發(fā)展的是性能還是生態(tài)時，一家推理芯片企業(yè)的回答是：兩者都不構成當前瓶頸，最缺的是產業(yè)協同。

從存算一體到端側NPU，從VPU到全棧集成，不同技術路線的企業(yè)全部指向軟件生態(tài)而非硬件性能。芯片架構的專用化方向已有行業(yè)共識，但各企業(yè)對專用化的速度、深度和最終形態(tài)存在實質分歧。分歧的底層邏輯是：AI應用場景的碎片化程度，是否足以支撐多種專用架構共存？還是最終會收斂到少數幾個通用平臺？

當硬件參數競賽接近邊際收益遞減的拐點，競爭主陣地必然上移到軟件層。而這個上移的過程，恰恰是國產芯片從“追趕性能”轉向“追趕體系”的關鍵窗口期。行業(yè)人士進一步指出，國產生態(tài)的普及率已經非常高，高校直接在國產生態(tài)上教學，關鍵領域客戶選用國產生態(tài)，這種自上而下的生態(tài)建設路徑，是中國獨有的優(yōu)勢。

更進一步的判斷是：國產AI芯片在性能和生態(tài)上都不構成當前瓶頸。這個判斷如果放在三年前幾乎不可想象。但芯片參數已經很漂亮，系統工程還需要大量工作。差距不在“能不能”，而在“好不好”。一個考了70分、80分的模型已經可以干活了，但要干好活不是一個模型、一顆芯片單獨的問題，是需要工具鏈、編譯器、調度系統、行業(yè)適配的全面跟進。從AI推理芯片到真正落地，需要大量的產業(yè)協作：解決方案合作、用戶場景合作、超節(jié)點網絡合作，每一個環(huán)節(jié)都需要有人去做。

全棧整合的樣本確實存在，從CPU到軟件集成公司再到硬件制造，集團化的體系在關鍵領域的大型全棧工程上具備優(yōu)勢。但這種能力在行業(yè)中并不普遍，更多企業(yè)仍在各自為戰(zhàn)。

從客戶側看，據行業(yè)反映，數據中心芯片從接觸到大規(guī)模上線通常需要6到24個月，測試周期長、導入門檻高。這意味著即使芯片技術達標，商業(yè)化落地仍需要漫長的驗證周期。這個周期不是單點技術能壓縮的，需要芯片廠商、軟件供應商和客戶方的深度協同。

2026年的AI芯片行業(yè)正在經歷一個微妙轉向：競爭的主陣地從晶圓廠和流片車間，遷移到了編譯器、工具鏈和系統調度層。當多家企業(yè)從不同技術路線出發(fā)，卻不約而同地指向同一道鴻溝時，這已經不再是某一個人的判斷，而是一種行業(yè)集體認知。