對話云天勵飛董事長陳寧：推理就是生產力，2030年將實現“百億Token一分錢”

“GPU包打天下的時代已經過去了，推理時代對于算力的需求更復雜，我們認為，GPNPU會成為推理時代的黃金標準。”

AI大推理時代已經到來，舊有衡量尺度正在失效，從模型到芯片，各環節都在探索新的范式。7月18日，云天勵飛董事長兼CEO陳寧在2026世界人工智能大會（WAIC）的一場論壇主題演講中，給出了自己對芯片發展方向的最新判斷。

在他看來，2012到2025年是AI訓練的時代，模型和芯片都專注在“做大做強”這件事上，NPU曾與小模型共同起舞，而具備超大規模并行計算單元的GPGPU則最終在大模型潮起之際唱上了主角。但推理和訓練不同，面向的是大量不同的模型、應用和服務等級，核心需求要看能否覆蓋多場景，并實現高吞吐、低成本。

如此復雜的需求，還能否找到通用解法？

陳寧給出的答案就是GPNPU，融合NPU、GPGPU以及近存計算和算力積木，在保持高性能、靈活性的基礎上挖掘效率、降低時延，并為大規模互聯、算力擴展打下基礎。

他還進一步表示，在推理時代，AI算力的競爭會在從單顆芯片性能走向Token生成效率，想要打造極致的Token性價比，除了新的推理芯片，更需要重構AI基礎設施。

我們了解到，在今年的WAIC上，云天勵飛也正式公布了面向AI推理芯片與集群的技術路線圖，并披露計劃未來推出三款云端大算力推理芯片：DeepVerse100P、DeepVerse100D和DeepVerse100L，針對不同推理環節進行專用優化，并共同提升系統效率。根據該規劃，云天勵飛將進一步探索面向萬卡異構集群的分離式推理芯片與集群方案，并持續完善IFWA軟件棧。

資料顯示，云天勵飛成立于2014年，是國內最早探索AI推理芯片的企業。2023年，公司登陸科創板，成為“AI推理芯片第一股”。

陳寧在WAIC期間對我們介紹稱，公司一直堅定聚焦AI推理，堅持芯片算法化的技術主線，早在2024年就率先開始布局第五代GPNPU架構，定位是以GPNPU為核心架構，以Token性價比作為最終評價尺度，推動AI推理芯片、集群與配套軟件棧協同優化。

陳寧還表示，公司將持續聯合產業鏈、科研機構及生態伙伴共同發起“1001計劃”，以“百億Token一分錢”為長期目標，推動Token生成效率和成本的協同優化，讓AI算力走向規模化、普惠化應用。

推理時代需要什么樣的芯片？

就連芯片巨頭，也在忙著卸下思維慣性的包袱。

英偉達就是最佳例證。在AI訓練時代，Hopper、Blackwell都是在單顆芯片的性能上做文章。但迭代到今年年中剛剛全面啟動量產的Vera Rubin時，英偉達在這套架構中“塞”了7顆不同芯片，除了CPU、GPU等，還包括從推理芯片廠商Groq處獲取的LPU，而LPU實際上也是NPU的一種，主打超低延遲的推理場景。知名半導體研究機構SemiAnalysis就曾分析稱，英偉達在新產品中集成LPU旨在戰略互補，補齊推理短板，是具有時代指標性質的關鍵戰略舉措。

實際上，另一家GPU巨頭AMD也在探索系統集成的路線。也可以說，以往重要的是讓一顆芯片像一支隊伍一樣強大，而如今重要的則是如何把不同芯片真的捏合成一支隊伍協同發力。

在推理芯片領域，云天勵飛也給出了類似的解題思路。

以其最新公布的三款芯片為例，它們分別針對Prefill、Decode和Decode FFN環節進行了專用優化，又最終組成一個推理集群。

具體拆解來看，Prefill和Decode是推理的兩大關鍵環節，前者主要是跑大量文本，對計算能力要求高，后者則是利用這些數據生成Token，內存帶寬和數據訪問效率更敏感。在MoE模型中，Decode中的“訪存密集型”任務Attention容易被帶寬卡住，而“計算密集型”任務FFN則對算力更敏感。

資料顯示，DeepVerse100P是面向百萬級上下文Prefill場景打造的產品，針對Prefill和Decode“搶資源”的“老毛病”進行了優化，主要用在企業級AI Coding、長視頻生成等場景。

第二款DeepVerse100D則主要面向Decode 環節，重點提升內存帶寬和互聯效率，降低多節點通信阻塞及尾延遲，主要面向大規模的AI Chat和Agent應用，以及一些更加復雜的AI Coding任務上。

第三款DeepVerse100L聚焦FFN環節，用3D Memory架構大幅提升內存帶寬，并通過低延遲芯片互聯和激活數據快速傳輸，提高計算與通信的并行效率，計劃應用在更加復雜的長周期Agent任務中，也被寄望于提供給未來能自主化的Agent。

而這三款針對性優化的芯片，最佳用法則是共同組成推理集群、多卡超節點，通過集群服務更多樣化、大規模的場景，并打造極致性價比的推理工廠，共同構建面向萬卡異構集群的分離式AI推理基礎設施。

AI價值落地，Token經濟起飛

今年的WAIC上，幾乎所有人都在談論Token，幾乎所有關切，都指向AI如何落地兌現經濟價值。

但花樣翻新的應用嘗試和層出不窮的商業探索，往往都會碰上共同的瓶頸：Token的價格太高，這也讓AI在垂直產業的落地難以凸顯經濟效益。

而高價Token的背后，一方面是AI Coding和Agent的火爆，讓推理需求迅速膨脹，另一方面則是供給側算力增長有限，跟不上需求增速。更加值得注意的是，這不僅導致了Token價格的震蕩，還引發了Token質量的波動，甚至出現了“錢越花越多，買到的Token質量卻越來越差”的問題。不少專家認為，Token服務如果繼續“野蠻生長”，將極大影響市場環境，讓消費者、需求方對Token經濟產生負面情緒。

無論從供需還是從質量來看，這個時代都在呼喚新的算力基礎設施。

陳寧也將之視為云天勵飛做AI推理基礎設施的重要意義。此次云天勵飛發布的推理芯片與集群規劃顯示，該方案設施將按照不同推理環節的負載特征，配置相應芯片和資源池，并通過高速互聯實現協同運行。其優化范圍由單顆芯片擴展至計算、訪存、互聯、調度和軟件等系統環節。

陳寧則解釋稱，這次雖然公布了三款全新芯片，但想向大家傳達的不只是芯片品類多了、性能強了，而是想告訴大家，云天勵飛致力于圍繞Token生成全過程，對芯片、互聯、軟件和系統進行協同設計，通過更精細的資源配置，提高推理系統的整體效率。他還表示，未來三年，公司將沿著這一路線圖打造極致性價比的推理生產力，實現AI普惠，推動AI推理芯片、集群與軟件體系持續演進。

這一路線重構也衍生出了“Token經濟學”的新解。

陳寧分析稱，AI算力的衡量標準已由峰值性能，進一步延伸至Token生成效率和單位Token成本。最終，對于AI落地這個大命題來說，無論是模型廠、應用層還是算力方，真正影響商業化效率的，是在一定時間和成本條件下，能夠穩定生成多少有效Token。

“只有Token像水和電一樣想當然的存在，不用擔心成本，一場工業革命的拐點才會真正到來”，而為了這場人們翹首以盼的革命，云天勵飛還提出了一項更加“大膽”的計劃：把百億高質量Token的價格打到一分錢。

一分錢如何搞定百億Token？

今年5月，云天勵飛曾聯合聯想集團、無問芯穹、生數科技等近30家單位發起“1001計劃”聯合倡議，彼時就引起過圈內廣泛關注。

根據陳寧的解釋，所謂“1001”有三層含義，第一層是現實情況，目前在最佳的AI落地實例中，每百萬Token要一元錢的成本；而第二層，就是云天勵飛這份路線圖近期想實現的，兩年內讓百萬Token成本降到一分錢；第三層則是長期目標，計劃在2030年實現“百億Token一分錢”。

陳寧還對我們著重強調，相關目標的重點不在便宜的價格，而在極致的性價比。“便宜并不代表有用，如果為了降本犧牲模型效果、生成速度、響應延遲或者服務穩定性，這樣的低成本就沒有實際價值。”

他稱，自己關注的，是在成本持續下降的同時，如何讓每一個Token能夠承載更強的智能、更高的效率和更大的實際價值。

“云天勵飛真正希望推動的，是Token性價比持續提升，讓高質量的AI能力最終能夠被更多企業和普通用戶用得起、用得好。”陳寧表示。

但無論在哪個行業，想要畫出百萬倍的成本下降曲線都十分不易，更何況如今的Token價格還起伏不定，不時飆漲。

陳寧也坦誠，大幅降低Token成本無法靠一家公司或一個環節來完成，需要芯片、互聯、軟件、模型、應用及產業鏈各環節的共同參與。

換句話說，降本要在生態里做。

在陳寧看來，國產AI目前單點突破能力已經較強，但在生態建設層面還面臨重復適配、上下游反饋鏈路長、缺少足夠多的真實規模化驗證這三大關鍵卡點。而想要建好生態，最關鍵的就是從過去的“逐個適配”走向“共同演進”。“只有做到這一點，國產AI生態才不僅是可用，而能持續快速迭代。”陳寧稱。

值得注意的是，云天勵飛也表示，接下來將圍繞DeepVerse系列芯片和AI集群方案，持續建設IFWA軟件生態，并通過“1001計劃”匯聚產業鏈上下游力量，建立長期生態合作機制。

陳寧稱，IFWA和“1001計劃”實際上解決的是同一個問題的不同層面。前者希望在軟件層降低模型和應用使用國產算力的門檻；后者則希望進一步連接芯片、系統、軟件、算力平臺、模型、應用以及高校科研機構，讓各個環節形成更加緊密的協同。

我們的時代正處在名為AI的轉折時刻中，人們已習慣了將之視為新一輪的工業革命，而從蒸汽革命到電力革命再到信息革命，其演進大體都經歷過“個性化需求-專業化分工-規模化應用”的路徑。如今，AI產業自身也處在全新的轉折點上，推理時代的一大特點就是個性化需求的涌現；而從芯片到模型，從Agent到應用，我們也看到了越來越多專業化分工模式浮出水面；最終，通過AI算力基礎設施的重構，通過生態協同的合力，性價比更高的Token會讓AI的規模化落地應用成為現實。

在人們爭相談論AI落地的這一年，不少AI從業者已經大踏步地向那個未來邁開步子，但他們也同時在思考著“AI與人”“AI普惠”的課題。

“AI最終不應該只是讓強人變得更強，而應該讓更多普通人擁有過去無法擁有的能力。”陳寧稱，在他看來，只有每個普通個體都能隨時擁有一支屬于自己的“AI團隊”，獲得過去只有大型機構才能擁有的知識和能力，才是這輪AI革命最有意義的結果。