從云端調(diào)用到本地生產(chǎn)，智辰半導(dǎo)體如何賦能企業(yè)Token工廠落地？

這些產(chǎn)品形態(tài)看似分散，背后回應(yīng)的是同一類需求：當(dāng) AI 從偶爾打開(kāi)的應(yīng)用變成持續(xù)參與工作和生活的工具，用戶需要更及時(shí)、更穩(wěn)定、更私密，也更可控的智能。云端依然在提供最強(qiáng)的通用能力，但越來(lái)越多高頻任務(wù)開(kāi)始向端側(cè)設(shè)備、邊緣節(jié)點(diǎn)和企業(yè)本地遷移。相比前兩年圍繞模型參數(shù)和云端算力展開(kāi)的競(jìng)賽，今年 WAIC 對(duì) AI 落地的討論，明顯有了更具體的產(chǎn)品形態(tài)和業(yè)務(wù)抓手。在這套體系中，高頻、穩(wěn)定、數(shù)據(jù)敏感和低時(shí)延任務(wù)可以更多地在本地運(yùn)行；需要最強(qiáng)通用能力、超長(zhǎng)上下文或低頻復(fù)雜推理的任務(wù)可以交給云端。它的目標(biāo)不是追求“所有模型都在本地跑”，而是在企業(yè)自己的預(yù)算和數(shù)據(jù)隱私邊界內(nèi)，獲得最高效的AI生產(chǎn)力。這意味著，企業(yè) Token 工廠已成為企業(yè)算力基礎(chǔ)設(shè)施的新范式。產(chǎn)品層面，智辰 T 系列從一開(kāi)始就面向百億至萬(wàn)億參數(shù)模型部署進(jìn)行設(shè)計(jì)，采用靈活可拓展的芯片互聯(lián)架構(gòu)，原生支持 FP4 至 BF16 等精度格式和各類先進(jìn)算法，支持高速內(nèi)存擴(kuò)展至 TB 級(jí)，可以覆蓋 AI PC、個(gè)人工作站、AI 算力盒和企業(yè)邊緣服務(wù)器等生產(chǎn)力場(chǎng)景，以及具身智能、車載智能、家庭智能等廣泛場(chǎng)景。

走進(jìn) 2026 世界人工智能大會(huì)（WAIC 2026）的展館，最直觀的變化，是越來(lái)越多的大模型不再只停留在云端控制臺(tái)里，而是有了在現(xiàn)實(shí)中可以觸摸的載體，并開(kāi)始進(jìn)入具體的工作與生活場(chǎng)景。

聯(lián)想展示的 AI 主機(jī) P7 只有約 300 克，卻可支持最高 122B 參數(shù)本地模型，在斷網(wǎng)狀態(tài)下完成本地推理；科大訊飛把大模型能力放進(jìn)AI眼鏡，用于實(shí)時(shí)翻譯、信息查詢和會(huì)議紀(jì)要；面壁智能與樂(lè)聚機(jī)器人展示的導(dǎo)覽與巡檢系統(tǒng)，拔掉網(wǎng)絡(luò)后仍能依靠多模態(tài)模型和本地知識(shí)庫(kù)完成講解、問(wèn)答與現(xiàn)場(chǎng)分析。面向“toB”用戶，桌面級(jí)AI工作站、知識(shí)庫(kù)一體機(jī)和 AI NAS 也開(kāi)始集中出現(xiàn)，把大模型、RAG、企業(yè)文檔和本地算力帶進(jìn)辦公室與企業(yè)機(jī)房。

正是捕捉到這一產(chǎn)業(yè)變化，智辰半導(dǎo)體創(chuàng)始人兼CEO王孝斌在本屆 WAIC 上首次公開(kāi)提出“企業(yè) Token 工廠”概念：當(dāng)AI從嘗鮮工具進(jìn)化為企業(yè)日常生產(chǎn)力，企業(yè)需要的已不只是一個(gè)按需調(diào)用的模型接口，而是一套能夠在自身數(shù)據(jù)邊界內(nèi)，持續(xù)、經(jīng)濟(jì)、可控地生產(chǎn)有效 Token 的完整 AI 生產(chǎn)體系。

企業(yè)市場(chǎng)，正在算兩本賬

端邊側(cè)的 AI 落地需求雖廣，但付費(fèi)意愿最明確的是將 AI 用于實(shí)際生產(chǎn)場(chǎng)景的企業(yè)客戶。AI Coding、知識(shí)庫(kù)、企業(yè) RAG 、多模態(tài)內(nèi)容生產(chǎn)等應(yīng)用已在部分行業(yè)形成高頻需求，只要有助于降本增效，企業(yè)就有動(dòng)力持續(xù)投入。

問(wèn)題在于，需求增長(zhǎng)快，供給卻沒(méi)跟上。公有云 API 尚難以長(zhǎng)期高頻負(fù)載；高端 GPU 服務(wù)器性能強(qiáng)但投入和運(yùn)維門檻高；本地設(shè)備又難承載大模型。芯片、模型、算力、存儲(chǔ)之間仍缺一體化組合。

企業(yè)先算經(jīng)濟(jì)賬。

IDC 數(shù)據(jù)顯示，中國(guó) MaaS 市場(chǎng) Token 調(diào)用量從 2024 年的 114 萬(wàn)億增至 2026 年預(yù)計(jì)的 40,000 萬(wàn)億。企業(yè)評(píng)估的不再只是 API 單價(jià)，而是完成任務(wù)所需的總 Token 和有效產(chǎn)出。這種壓力已傳導(dǎo)至企業(yè)內(nèi)部AI預(yù)算側(cè)——Uber 四個(gè)月用完年度 AI 預(yù)算，Meta 從鼓勵(lì)使用 Token 到設(shè)置 Token 預(yù)算限制，騰訊也從6月起大幅收緊配額。企業(yè) AI 規(guī)模化后，不可能再用“先用再說(shuō)”的粗放模式。

企業(yè)還要算安全賬。

AI 進(jìn)入生產(chǎn)系統(tǒng)后需連接代碼庫(kù)、知識(shí)庫(kù)和業(yè)務(wù)數(shù)據(jù)，僅靠 API 接入難以理解企業(yè)上下文，數(shù)據(jù)安全問(wèn)題隨之凸顯。Palantir CEO Alex Karp 質(zhì)疑，企業(yè)付 Token 費(fèi)用的同時(shí)，核心數(shù)據(jù)和業(yè)務(wù)邏輯正被模型廠商緩存并用于訓(xùn)練或增強(qiáng)模型，長(zhǎng)此以往將侵蝕企業(yè)的知識(shí)產(chǎn)權(quán)與行業(yè)優(yōu)勢(shì)；更值得警惕的是，模型廠商正從“賦能者”演變?yōu)椤案?jìng)爭(zhēng)者”。今年6月，蘋(píng)果在印度的核心供應(yīng)商塔塔電子確認(rèn)遭遇網(wǎng)絡(luò)攻擊，蘋(píng)果未發(fā)布產(chǎn)品資料被大量公開(kāi)。兩起事件性質(zhì)不同，卻都提醒企業(yè)：敏感數(shù)據(jù)一旦進(jìn)入外部模型或協(xié)作鏈條，暴露面和治理難度就會(huì)上升。

成本與數(shù)據(jù)兩本賬說(shuō)明，企業(yè)不能在“全部上云”和“全部本地”之間二選一，而需要一套能根據(jù)任務(wù)特征靈活配置算力、模型和數(shù)據(jù)邊界的混合架構(gòu)。

企業(yè)Token工廠，企業(yè)算力基礎(chǔ)設(shè)施的新范式

在智辰看來(lái)，企業(yè) Token 工廠不是把云端數(shù)據(jù)中心縮小后搬進(jìn)企業(yè)機(jī)房，也不只是購(gòu)買一臺(tái)裝有大模型的服務(wù)器。它應(yīng)當(dāng)以企業(yè)數(shù)據(jù)和業(yè)務(wù)流程為基礎(chǔ)，把云側(cè)大模型、本地大模型、企業(yè)微調(diào)模型、本地知識(shí)庫(kù)、身份權(quán)限、工具調(diào)用和工作流連接起來(lái)，將算力持續(xù)轉(zhuǎn)化為能夠進(jìn)入業(yè)務(wù)流程的有效 Token。

傳統(tǒng) AIDC 首先解決算力資源的建設(shè)與供給，通常關(guān)注峰值 FLOPS、TCO 等指標(biāo)；云側(cè) Token 工廠面向大規(guī)模用戶，關(guān)注集群推理效率（TPS）、單位功耗推理效率（TPS/MW）；企業(yè) Token 工廠面對(duì)更有限的預(yù)算和更復(fù)雜的上下文，除了單位功耗推理效率，還需要關(guān)注單位 Capex 推理效率（TPS/Capex）、單位 Token 推理成本（元/Token）。

模型的組織方式也不相同。傳統(tǒng) AIDC 更接近標(biāo)準(zhǔn)鏡像和模型目錄按需部署；云側(cè) Token 工廠通過(guò)模型路由與負(fù)載均衡，把請(qǐng)求分配給更合適的模型和服務(wù)器，以提高集群吞吐與利用率；企業(yè) Token 工廠則需要把云側(cè)大模型、本地大模型、企業(yè)微調(diào)模型和 RAG 知識(shí)庫(kù)組合起來(lái)，在能力、數(shù)據(jù)邊界和成本之間動(dòng)態(tài)選擇。

私有數(shù)據(jù)和本地模型是企業(yè) Token 工廠與云側(cè)最本質(zhì)的區(qū)別。傳統(tǒng) AIDC 主要承載通用存儲(chǔ)與計(jì)算負(fù)載；云側(cè)模型通常通過(guò) API 與企業(yè)數(shù)據(jù)進(jìn)行有限交互；企業(yè) Token 工廠則可以在企業(yè)權(quán)限邊界內(nèi)，把私有數(shù)據(jù)、身份信息、權(quán)限、實(shí)時(shí)業(yè)務(wù)系統(tǒng)、模型和工作流深度連接，讓 AI 真正參與跨部門、跨系統(tǒng)的完整流程。

算力基礎(chǔ)設(shè)施也因此出現(xiàn)差異。云側(cè)需要強(qiáng)互聯(lián)、高并發(fā)和大規(guī)模集群吞吐，企業(yè)側(cè)則更強(qiáng)調(diào)按照數(shù)據(jù)存儲(chǔ)和算力需求精準(zhǔn)配置，對(duì)內(nèi)存容量、低功耗、初始投入和靈活擴(kuò)展要求更高。兩者都追求成本和效率，但云側(cè)重視規(guī)模化生產(chǎn)，企業(yè)側(cè)更強(qiáng)調(diào)在有限 Capex 投入和運(yùn)營(yíng)成本下獲得足夠高的有效 Token 產(chǎn)出。

智辰半導(dǎo)體：從大芯片經(jīng)驗(yàn)到萬(wàn)億參數(shù)模型端側(cè)推理

這意味著，面向企業(yè) Token 工廠的算力底座，芯片能力的評(píng)價(jià)邏輯已經(jīng)脫離了單純堆峰值 TOPS 的傳統(tǒng)競(jìng)賽：能否裝下大參數(shù)模型、能否在企業(yè)場(chǎng)景下長(zhǎng)期穩(wěn)定運(yùn)行、能否以高性價(jià)比持續(xù)輸出有效 Token，才是決定產(chǎn)品落地性的核心門檻。智辰半導(dǎo)體的核心能力，正是建立在對(duì)這些企業(yè)級(jí)真實(shí)需求的理解之上。

智辰的能力首先來(lái)自團(tuán)隊(duì)。公司創(chuàng)始人和核心成員均來(lái)自全球頂級(jí)芯片企業(yè)，長(zhǎng)期參與 AI NPU、通信基帶、手機(jī) SoC等大型芯片研發(fā)，擁有多顆世界級(jí)大芯片從產(chǎn)品定義、架構(gòu)設(shè)計(jì)到每年億級(jí)量產(chǎn)交付，再到多次迭代的完整經(jīng)驗(yàn)。端側(cè) AI 芯片解決方案，不只是計(jì)算單元設(shè)計(jì)，還要同時(shí)處理功耗、內(nèi)存、封裝、軟件工具鏈、終端適配和規(guī)模化量產(chǎn)，商業(yè)化門檻極高。智辰團(tuán)隊(duì)具備跨越這一高門檻的實(shí)力。

在軟件層面，智辰已完成全球主流模型的芯片適配工作，正在推進(jìn)主流推理框架、應(yīng)用生態(tài)和開(kāi)發(fā)生態(tài)的支持，打造具有極致性能、開(kāi)箱即用的軟硬件方案。

數(shù)據(jù)顯示，在大量企業(yè)垂直場(chǎng)景中，T 系列方案的單位功耗推理效率與推理成本等指標(biāo)，相比全球領(lǐng)先方案具備接近一個(gè)數(shù)量級(jí)的優(yōu)勢(shì)。

對(duì)一家新銳芯片企業(yè)而言，下一步需要跟產(chǎn)業(yè)鏈合作伙伴共同合作，把技術(shù)優(yōu)勢(shì)和產(chǎn)品優(yōu)勢(shì)逐步轉(zhuǎn)化為對(duì)企業(yè)先進(jìn)生產(chǎn)力的真正交付。

國(guó)產(chǎn)端側(cè)AI芯片的新窗口

2026年是端側(cè)AI規(guī)模化落地的元年，與集中式云側(cè)市場(chǎng)相比，端側(cè)算力具有場(chǎng)景分散、需求多樣、功耗與成本約束差異明顯等特點(diǎn)。AI PC、個(gè)人工作站、企業(yè)服務(wù)器、具身智能和汽車各有不同的模型、內(nèi)存、算力和功耗約束，沒(méi)有一種芯片和一種系統(tǒng)形態(tài)能覆蓋所有場(chǎng)景。這給國(guó)產(chǎn)芯片企業(yè)留下了新的市場(chǎng)空間。智辰半導(dǎo)體以生產(chǎn)力場(chǎng)景為錨點(diǎn)，依靠靈活可拓展架構(gòu)覆蓋更廣泛的需求。憑借頂尖技術(shù)團(tuán)隊(duì)和領(lǐng)先產(chǎn)品定義，智辰有望持續(xù)領(lǐng)跑端側(cè)AI賽道。

從 WAIC 2026 的展臺(tái)變化開(kāi)始，端側(cè) AI 已經(jīng)不再只是一個(gè)硬件概念。隨著AI更深入地進(jìn)入企業(yè)數(shù)據(jù)和工作流，算力正在從單一云端走向端側(cè)設(shè)備、邊緣服務(wù)器與智算中心共同參與的混合架構(gòu)。未來(lái) AI 基礎(chǔ)設(shè)施競(jìng)爭(zhēng)的勝負(fù)，不只看誰(shuí)的算力卡更強(qiáng)，更看誰(shuí)在真實(shí)場(chǎng)景中，能夠以更可控的成本持續(xù)生產(chǎn)可計(jì)量的智能。

這是企業(yè) Token 工廠帶來(lái)的新命題，也是智辰開(kāi)拓的新機(jī)會(huì)。