萬億Token經(jīng)營術(shù)　兼顧模型效率與算效

（圖片來源：攝圖網(wǎng)）

（記者　葉菁）2026年仲夏，第23屆中國信息通信業(yè)發(fā)展高層論壇在北京舉辦，AI智算與詞元產(chǎn)業(yè)專題論壇成為關(guān)注焦點(diǎn)。就在今年3月，國家數(shù)據(jù)局正式將人工智能領(lǐng)域的核心計(jì)量單位Token定名為“詞元”，同時(shí)披露我國日均詞元調(diào)用量已突破140萬億次，較2024年初增長超千倍。

從技術(shù)文檔中的專業(yè)術(shù)語，到衡量智能經(jīng)濟(jì)活躍度的核心指標(biāo)，詞元“出圈”的背后，是AI產(chǎn)業(yè)從技術(shù)研發(fā)邁向規(guī)模化應(yīng)用的關(guān)鍵轉(zhuǎn)折。身處產(chǎn)業(yè)樞紐位置的電信運(yùn)營商，正站在萬億級詞元調(diào)用的關(guān)口，探索一條兼顧模型服務(wù)效率與算力使用效能的平衡路徑。

運(yùn)營商AI“十年磨一劍”

詞元經(jīng)營并非行業(yè)風(fēng)口下的倉促轉(zhuǎn)型，而是運(yùn)營商在人工智能領(lǐng)域十余年持續(xù)深耕的必然結(jié)果，更是其全棧國產(chǎn)AI能力建設(shè)的集中體現(xiàn)。

作為國內(nèi)最早布局人工智能的市場主體之一，運(yùn)營商的AI技術(shù)積累最早可追溯至網(wǎng)絡(luò)智能化運(yùn)維階段，從最初的故障智能排查、資源智能調(diào)度，逐步延伸至通用大模型研發(fā)與全棧能力構(gòu)建。以中國移動為例，其自主研發(fā)的“九天”人工智能體系已深耕十余年，覆蓋從基礎(chǔ)大模型到行業(yè)應(yīng)用的全鏈條，形成了多模態(tài)、語言、視覺、語音等全系列模型能力，參數(shù)量覆蓋十億到萬億級全規(guī)格，匯聚700PB高質(zhì)量行業(yè)數(shù)據(jù)。

中國電信則依托“云改數(shù)轉(zhuǎn)智惠”戰(zhàn)略，構(gòu)建了覆蓋“IaaS-PaaS-SaaS”全層級的詞元服務(wù)體系。在IaaS層，其天翼云完成從基礎(chǔ)算力底座向AI原生算力底座的升級，形成高并發(fā)、高吞吐的詞元規(guī)模化生產(chǎn)能力，自有及接入智算總規(guī)模已達(dá)91 EFLOPS；在PaaS層，通過Triless平臺架構(gòu)實(shí)現(xiàn)資源、框架、工具三重解耦，為大模型訓(xùn)練與推理提供標(biāo)準(zhǔn)化工具支撐，降低了詞元服務(wù)的技術(shù)門檻。

端側(cè)落地是運(yùn)營商開展詞元經(jīng)營的獨(dú)特優(yōu)勢。區(qū)別于互聯(lián)網(wǎng)廠商依賴中心化算力的模式，運(yùn)營商擁有覆蓋全國的網(wǎng)絡(luò)節(jié)點(diǎn)與海量終端觸點(diǎn)，能夠?qū)⒃~元推理能力下沉至邊緣節(jié)點(diǎn)與用戶終端，在家庭安防、智慧家庭、行業(yè)終端等場景實(shí)現(xiàn)本地推理，既降低了中心算力壓力，也縮短了服務(wù)響應(yīng)時(shí)延。這種“云網(wǎng)邊端”一體化的布局，讓運(yùn)營商的詞元服務(wù)能夠更貼近生產(chǎn)生活場景，具備規(guī)模化落地的天然基礎(chǔ)。

Token倒逼智算產(chǎn)業(yè)鏈系統(tǒng)性重構(gòu)

萬億級詞元調(diào)用量的爆發(fā)式增長，正在從需求端反向重塑整個(gè)智算產(chǎn)業(yè)鏈的供給結(jié)構(gòu)，推動產(chǎn)業(yè)從單點(diǎn)技術(shù)突破向全鏈條系統(tǒng)性變革演進(jìn)。

算力端的需求結(jié)構(gòu)正在從“訓(xùn)練驅(qū)動”向“訓(xùn)練+推理雙輪驅(qū)動”切換。中國信通院報(bào)告指出，基礎(chǔ)大模型訓(xùn)練推動了第一波智算集群建設(shè)浪潮，而隨著AI應(yīng)用規(guī)模化落地，模型推理將成為智算基建的第二條增長曲線。當(dāng)前運(yùn)營商的智算中心已開始同步適配訓(xùn)練與推理兩類需求，通過算力池化、彈性調(diào)度應(yīng)對詞元調(diào)用的潮汐效應(yīng)。

網(wǎng)絡(luò)端的算網(wǎng)融合趨勢持續(xù)深化。詞元的實(shí)時(shí)調(diào)用特性對算力與網(wǎng)絡(luò)的協(xié)同提出了更高要求，算力不再是孤立的節(jié)點(diǎn)資源，而是需要依托高速網(wǎng)絡(luò)實(shí)現(xiàn)全域調(diào)度。運(yùn)營商憑借基礎(chǔ)網(wǎng)絡(luò)優(yōu)勢，成為算網(wǎng)融合的核心推動者。如中國電信打造的“息壤”算力分發(fā)網(wǎng)絡(luò)平臺，可實(shí)現(xiàn)跨服務(wù)商、跨地域、跨架構(gòu)的算力統(tǒng)一管理與調(diào)度，為不同場景的詞元調(diào)用匹配最優(yōu)算網(wǎng)資源。

平臺端的一站式服務(wù)能力成為核心競爭力。隨著詞元成為通用計(jì)價(jià)單位，用戶不再滿足于單純采購算力，而是需要“算力+模型+工具+運(yùn)維”的一體化解決方案。目前運(yùn)營商諸多平臺已推出一站式智算服務(wù)，覆蓋從數(shù)據(jù)管理、模型訓(xùn)練、部署上線到推理調(diào)用的全生命周期，用戶可直接按詞元用量結(jié)算，無需關(guān)注底層算力細(xì)節(jié)。這種一站式模式大幅降低了AI應(yīng)用的落地門檻，也讓詞元的流通效率得到顯著提升。

萬億級調(diào)用下的成本優(yōu)化與價(jià)值提升路徑

國家數(shù)據(jù)局?jǐn)?shù)據(jù)顯示，我國日均詞元調(diào)用量已超140萬億次，且仍保持高速增長態(tài)勢。規(guī)模擴(kuò)張帶來產(chǎn)業(yè)機(jī)遇的同時(shí)，也帶來了巨大的算力成本壓力。如何在保障模型服務(wù)效果的前提下，控制單位詞元的算力消耗，實(shí)現(xiàn)模型效率與算效的平衡，是運(yùn)營商乃至全行業(yè)必須破解的核心命題。

從技術(shù)路徑看，模型輕量化與國產(chǎn)適配是成本優(yōu)化的核心抓手。針對通用大模型參數(shù)量大、推理成本高的問題，運(yùn)營商可基于自身行業(yè)積累，面向政務(wù)、工業(yè)、客服等典型場景推出輕量化行業(yè)模型，通過模型蒸餾、參數(shù)稀疏化、量化壓縮等成熟技術(shù)，在保障場景效果的前提下，大幅降低單Token推理的算力需求。與此同時(shí)，持續(xù)推進(jìn)模型與國產(chǎn)算力芯片的深度適配，挖掘國產(chǎn)芯片的性能潛力，逐步降低對高端進(jìn)口芯片的依賴，從硬件層面控制算力采購成本。

從架構(gòu)層面看，算網(wǎng)邊端協(xié)同推理是提升整體效能的關(guān)鍵方向。構(gòu)建“中心云-邊緣節(jié)點(diǎn)-終端設(shè)備”的分層推理體系，將簡單交互、低時(shí)延要求的詞元處理任務(wù)下沉到邊緣與端側(cè)，復(fù)雜推理、多模態(tài)生成等高算力需求保留在中心節(jié)點(diǎn)，通過任務(wù)拆分與動態(tài)調(diào)度，實(shí)現(xiàn)算力資源的分層復(fù)用。這種模式既能夠緩解中心算力的供給壓力，也能減少數(shù)據(jù)傳輸帶來的帶寬成本與時(shí)延損耗，尤其適合智慧家庭、工業(yè)現(xiàn)場等分布式場景。

從運(yùn)營維度看，精細(xì)化調(diào)度與分級服務(wù)可實(shí)現(xiàn)資源價(jià)值最大化。依托算網(wǎng)調(diào)度平臺，對全國算力資源進(jìn)行潮汐調(diào)度與閑時(shí)復(fù)用，錯(cuò)峰填補(bǔ)算力需求的波谷，提升整體算力利用率。同時(shí)，針對不同行業(yè)、不同場景的詞元調(diào)用需求，推出差異化的分級服務(wù)，對金融、醫(yī)療等對精度和穩(wěn)定性要求高的場景，提供高性能模型與專屬算力保障；對通用客服、內(nèi)容生成等場景，提供優(yōu)化后的輕量模型與普惠型定價(jià)。通過價(jià)值與成本的匹配，在控制整體成本的同時(shí)，保障核心場景的服務(wù)質(zhì)量。

從流量經(jīng)營到詞元經(jīng)營，運(yùn)營商的轉(zhuǎn)型軌跡，正是我國數(shù)字經(jīng)濟(jì)向智能經(jīng)濟(jì)升級的縮影。萬億級詞元調(diào)用不是產(chǎn)業(yè)發(fā)展的終點(diǎn)，而是高質(zhì)量發(fā)展的新起點(diǎn)。在規(guī)模增長的浪潮中守住效能底線，通過技術(shù)創(chuàng)新、架構(gòu)優(yōu)化與運(yùn)營精細(xì)化實(shí)現(xiàn)平衡，運(yùn)營商不僅能找到自身的新增長曲線，也將為我國智能經(jīng)濟(jì)的可持續(xù)發(fā)展筑牢算網(wǎng)底座，推動AI技術(shù)真正高效、普惠地融入千行百業(yè)。