國芯+國模之間缺一座“橋”，清程極智連續(xù)兩年在WAIC架起國產算力跨越之路

智東西
作者 王涵
編輯 漠影

Token，如同工業(yè)時代的水電煤一樣，正演變?yōu)锳I時代核心的生產要素與價值載體。

然而每一次Token的生成，都依賴底層的算力支撐與上層的模型內核。中國AI產業(yè)要在Token時代掌握主動權，就必須在這兩個核心環(huán)節(jié)實現(xiàn)自主可控。

在國芯層面，華為昇騰、海光等國產算力芯片已走向規(guī)模化部署，算力底座初具規(guī)模，實測性能不斷逼近國際主流水平；在國模層面，DeepSeek、GLM、Qwen等國產大模型在文本生成、多模態(tài)理解、推理能力上比肩乃至超越國際主流水平，智能水平日益強大。

國芯與國模均已就位，但它們之間有一個長期被忽視的關鍵環(huán)節(jié)：推理引擎。這個決定著Token生產效率和質量的關鍵環(huán)節(jié)，主流方式還以國外框架為主。

清程極智始終致力于此環(huán)節(jié)的建設。在去年的WAIC大會上，清程極智具象化展示了其赤兔大模型推理引擎對降低推理硬件門檻的作用。

今年，隨著Token的需求暴增以及新產品AI Ping的誕生，清程極智正式完整發(fā)布國產Token「前店后廠」一體化產品體系，以自研赤兔推理引擎為“后廠”生產核心底座，以AI Ping一站式Token服務平臺為“前店”流通調度樞紐，以八卦爐系列軟件為終端落地工具。

清程極智想要用實踐向產業(yè)證明：“國產芯片+國產推理框架+國產大模型”的全鏈路，不僅可行，而且成本更低、效率更高、自主可控。

就國產Token「前店后廠」模式、國產芯片的困局和突破等議題，智東西與清程極智聯(lián)合創(chuàng)始人師天麾博士以及聯(lián)合創(chuàng)始人、赤兔推理引擎負責人唐適之博士展開了一場深度對話。

一、從第一行代碼自研，赤兔在國產芯和國產模中建橋

國產算力落地當下最核心的痛點，是缺少一套能把芯片硬件算力高效轉化為Token生成效率的適配體系。

現(xiàn)有大模型推理運算邏輯與國產芯片底層架構天然存在適配鴻溝：

海外主流推理引擎均基于英偉達芯片定制開發(fā)，相當于專屬配套軟件，而國產芯片架構設計思路、硬件特性差異顯著，即使可以兼容適配海外方案，也無法發(fā)揮出國產算力的真正性能。

清程極智聯(lián)合創(chuàng)始人、赤兔推理引擎負責人唐適之在采訪中舉例：

“當前國內絕大多數(shù)國產加速芯片硬件層面均不具備FP4、FP8低位寬浮點原生計算單元，而DeepSeek等主流新一代大模型原生采用FP4精度訓練。若直接在國產卡上運行，行業(yè)傳統(tǒng)方案僅有兩條路徑：一是強制轉換為BF16高位寬浮點格式，顯存占用直接翻倍；二是降級為INT8整數(shù)量化，會永久性損失模型推理精度。兩種方案都存在明顯短板。”

這意味著，需要一套專門為國產芯片量身定制的高性能轉化中樞，才能真正釋放算力、高效產出Token。這個轉化中樞，就是推理引擎。

赤兔Chitu生產級推理引擎作為Token生產的根基，沒有簡單挪用海外的現(xiàn)成技術，而是針對國產芯片的硬件特性進行了原生深度優(yōu)化。

其核心價值，就在于可以將國產算力高效轉化為Token生產能力。赤兔推理引擎自研兩套核心技術體系實現(xiàn)破局：

其一，自研軟件浮點模擬計算架構，無需依賴芯片硬件原生FP4/FP8單元，通過底層算子、編譯層協(xié)同優(yōu)化，在國產芯片內部完整復現(xiàn)低位寬浮點計算邏輯，徹底規(guī)避BF16轉換帶來的顯存開銷，同時完整保留模型原生精度。

其二，基于國產芯片硬件架構、存儲帶寬、卡間通信特征定制專屬混合量化方案，針對性優(yōu)化權重加載、KV Cache緩存調度、多卡分布式并行全鏈路，平衡顯存占用、推理吞吐與輸出精度，適配私有化小規(guī)模部署與智算中心大規(guī)模集群兩類主流國產算力場景。

這一技術路徑帶來的Token生產效率提升是指數(shù)級的。在硬件成本方面，傳統(tǒng)通用開源推理框架部署DeepSeek滿血版至少需要4臺國產8卡服務器，搭載赤兔后僅需單臺即可完整跑通，硬件綜合成本直降75%。

此外，該方案還兼顧存量算力盤活的價值，大量企業(yè)存量國產加速卡僅支持BF16、INT8，此前無法高效運行FP4原生大模型，接入赤兔后無需更換硬件即可原生兼容，避免硬件淘汰重置的大額支出。

赤兔推理引擎完全基于自研代碼構建，從底層打通國產芯片、國產推理引擎、國產大模型的全棧自主閉環(huán)。

為什么從第一行代碼開始自研？唐適之在采訪中用“烤箱蒸饅頭”的比喻解釋了這一選擇：海外推理引擎是為英偉達設計的，強行適配國產芯片如同把烤箱改造成蒸鍋，能用，但性價比不行。清程極智選擇自研，就是要“造一座真正適合做饅頭的蒸鍋”，讓Token生產真正高效、自主、可控。

目前赤兔推理引擎采用開源+商業(yè)雙版本布局。開源版解決國產算力上產Token“能不能產起來”、“性價比高不高”的問題；商業(yè)版則解決企業(yè)的個性化問題。

二、Token服務不穩(wěn)定，AI Ping轉起“飛輪”

Token生產出來之后，需要高效的流通網絡才能觸達終端應用——這正是算力智能調度的核心舞臺。

師天麾在采訪中直言，Token火了，但服務質量卻越發(fā)參差不齊。更棘手的是服務質量的不穩(wěn)定：“3、5秒該返回的請求，有時候飆到上百秒才返回，非常常見。”

在Token行業(yè)陷入“亂、貴、慢、選型難”的混亂時，如何幫助用戶擁有更適合自己并且更優(yōu)的服務？這就是AI Ping要解決的問題。

AI Ping是清程極智旗下的一站式Token調度與服務平臺，定位為Token流通分發(fā)的“智能門店”。它一方面承接“后廠”生產的國產Token，另一方面同時統(tǒng)一接口接入30余家主流服務商、600余個大模型服務。

企業(yè)接入AI Ping后，API調用綜合成本降低＞37%，吞吐提升＞90%，延遲降低＞20%。在可用性方面，AI Ping的服務路由功能可以將API服務調用成功率提升到99.99%以上。

目前，AI Ping已經形成“飛輪效應”。師天麾形象地描述了這一飛輪的運轉邏輯：“評測做得好，路由就做得好；路由做得好，客戶用量大；客戶用量大，調用數(shù)據多；調用數(shù)據多，評測數(shù)據更準；評測數(shù)據更準，路由效果更好——這個事就轉起來了。”

清程極智的AI Ping對幾十家主流服務商進行7×24小時實時監(jiān)測，“用戶的每一次調用都是一次新的測試”，知道誰快誰慢、誰當前繁忙誰當前空閑。基于實時評測數(shù)據，AI Ping自動把請求發(fā)給當前服務質量最好的一家。“把一堆服務質量不太好的服務拼到一塊，組成一個服務質量非常高的服務。”

這個飛輪一旦轉起來，就形成了難以復制的數(shù)據壁壘，這是純技術評測無法比擬的競爭優(yōu)勢。

三、國產Token如何本地化落地？“前店后廠”已打通三大場景

Token最終的價值，體現(xiàn)在企業(yè)級應用中。

隨著市場從“訓練”向“推理”遷移，清程極智基于八卦爐系列產品，延伸出Agent搭建、部署軟件棧等新能力，核心價值在于方便終端部署和應用。

八卦爐系列目前擁有三大產品線：八卦爐智能體面向企業(yè)Agent搭建場景，讓企業(yè)能夠基于國產Token快速構建智能體應用；八卦爐智能工作站面向本地化私有化部署，降低企業(yè)部署門檻；八卦爐智能軟件棧面向算力中心與AI芯片廠商，提供開箱即用的部署體驗。

清程極智的Token「前店后廠」整套體系的價值鏈條清晰可見：

后廠生產Token→前店智能調度分發(fā)→應用終端落地交付，一站式解決企業(yè)國產化落地的成本、適配、調度三大難題。

在落地場景方面，整套Token前店后廠體系可分層匹配不同客戶需求。

算力硬件廠商和算力中心可以搭建專屬“后廠”赤兔推理集群，自主批量生產國產Token。AI服務商和千行百業(yè)企業(yè)可以接入“前店”AI Ping平臺，一站式采購、調度低成本國產Token。

政企、高校、芯片企業(yè)可以搭配八卦爐工作站/軟件棧，將整套體系私有化部署至本地機房。科研機構可以使用赤兔開源版，自研輕量化推理方案，參與國產Token技術生態(tài)共建。

結語：國產化全鏈路的“最后一塊拼圖”

從“講算力”到“講Token”，WAIC兩年的敘事之變折射出中國AI產業(yè)從基礎設施建設到規(guī)模化商業(yè)落地的躍遷。

國芯在進步，國模在突破，但如果沒有國產推理框架這座“橋”，兩者始終是孤島。清程極智以赤兔推理引擎為根基，以前店后廠為模式，用一套完整的國產Token全鏈路體系，證明了“國芯+國產推理框架+國模”的組合不僅可行，而且成本更低、效率更高。

當Token的生產、調度、交付實現(xiàn)全鏈路國產化，中國AI產業(yè)的底座才算真正扎穩(wěn)。