7月17日,世界人工智能大會(huì)(WAIC 2026)在上海開(kāi)幕。國(guó)內(nèi)AI infra(人工智能基礎(chǔ)設(shè)施)頭部企業(yè)是石科技首次以展覽形式亮相WAIC,并正式發(fā)布“國(guó)產(chǎn)Token優(yōu)化工廠——拓元(Vectron)”,展示了AI算力從規(guī)模競(jìng)賽走向效率競(jìng)賽的全新路徑。
![]()
近年來(lái),我國(guó)算力建設(shè)持續(xù)提速,已建成50余座智算中心,智能算力總規(guī)模已突破1000EFLOPS,“十五五”期間產(chǎn)業(yè)總投資預(yù)計(jì)將達(dá)7萬(wàn)億元。但也要看到,面對(duì)應(yīng)用端的新挑戰(zhàn),傳統(tǒng)分散式算力已難以為繼,算不滿(mǎn)、算不起、算不快的問(wèn)題普遍存在,平均利用效率有巨大提升空間。
是石科技創(chuàng)始人兼董事長(zhǎng)閆博文判斷,當(dāng)前AI競(jìng)爭(zhēng)正從“比誰(shuí)擁有更多GPU”轉(zhuǎn)向“比誰(shuí)讓算力產(chǎn)生更大價(jià)值”,或者說(shuō),從更大規(guī)模、更多參數(shù)、更強(qiáng)訓(xùn)練能力的單一目標(biāo),轉(zhuǎn)向對(duì)更低成本、更高效率、更強(qiáng)應(yīng)用能力的追求。“如果算力利用效率持續(xù)提升,將釋放萬(wàn)億級(jí)算力價(jià)值空間。”
這一背景下,是石科技通過(guò)構(gòu)建“HPC+AI”超智融合的全棧式大規(guī)模集群解決方案,打通了從底層芯片到上層應(yīng)用的層層壁壘,并正式推出了“國(guó)產(chǎn)Token優(yōu)化工廠——拓元(Vectron)”,產(chǎn)品地址:vectron.meta-stone.com。
“拓元”的定位是把每一份算力變成穩(wěn)定、高效的Token——同等算力投入下產(chǎn)出更多有效Token,同等大模型部署下實(shí)現(xiàn)更快的推理響應(yīng),同等顯存硬件下超長(zhǎng)上下文運(yùn)行更穩(wěn)。
閆博文表示,“拓元”的核心邏輯是“一套系統(tǒng)完成AI推理全鏈路優(yōu)化”:在任務(wù)自適應(yīng)層面,依托請(qǐng)求畫(huà)像匹配最優(yōu)計(jì)算鏈路,算力按需分配,減少資源浪費(fèi);在算子庫(kù)層面,通過(guò)硬件專(zhuān)屬算子融合編譯,充分釋放芯片極限算力;在模型與推理框架層面,兼容主流國(guó)產(chǎn)芯片與大模型,異構(gòu)深度調(diào)優(yōu),提升業(yè)務(wù)并發(fā)量;在異構(gòu)集群調(diào)度層面,破除跨地域、多芯片算力孤島,統(tǒng)一納管調(diào)度,盤(pán)活閑置算力。
目前AI基礎(chǔ)設(shè)施面臨的效率難題主要包括:異構(gòu)算力難以統(tǒng)一調(diào)度、大模型推理缺乏深度優(yōu)化、長(zhǎng)上下文導(dǎo)致顯存與成本壓力驟增、國(guó)產(chǎn)芯片生態(tài)適配成本高昂等。針對(duì)這些痛點(diǎn),“拓元”在五個(gè)技術(shù)方向帶來(lái)了實(shí)質(zhì)性突破:結(jié)果感知驅(qū)動(dòng)的KV Cache壓縮(突破靜態(tài)注意力局限)、全模態(tài)推理的Token壓縮(基于模態(tài)自適應(yīng)的免訓(xùn)練方案)、長(zhǎng)上下文后訓(xùn)練優(yōu)化(訓(xùn)練數(shù)據(jù)量遠(yuǎn)小于Meta方法,效果顯著提升)、深度推理優(yōu)化(基于元獎(jiǎng)勵(lì)的可擴(kuò)展獎(jiǎng)勵(lì)建模)、以及智能體長(zhǎng)程任務(wù)記憶機(jī)制(確保長(zhǎng)程agent任務(wù)穩(wěn)定執(zhí)行)。
截至目前,“拓元”已兼容10余款國(guó)產(chǎn)算力芯片,可適配20余個(gè)主流模型,每日Token吞吐量達(dá)到千億級(jí),公司服務(wù)客戶(hù)涵蓋頭部互聯(lián)網(wǎng)和頭部大模型廠商,以及高端制造、航空航天、生物制藥、新能源等行業(yè),應(yīng)用場(chǎng)景包括編程應(yīng)用、文生視頻、OPC社區(qū)(一人社區(qū))、企業(yè)智能體等。
“AI時(shí)代比拼的不只是算力,而是駕馭算力的能力。”閆博文表示,“拓元”的愿景,是讓每一份算力產(chǎn)生更多可能。
是石科技成立于2021年,技術(shù)團(tuán)隊(duì)源自于清華大學(xué),依托國(guó)家級(jí)算力中心工程經(jīng)驗(yàn),以高性能計(jì)算為基礎(chǔ)、并行優(yōu)化技術(shù)為內(nèi)核,率先推出超智融合的計(jì)算服務(wù)平臺(tái)。圍繞“HPC+AI”基礎(chǔ)設(shè)施,聚焦“超智融合賦能千行百業(yè)、并行優(yōu)化打破算力邊界、軟硬協(xié)同加速智能發(fā)展”,構(gòu)建了高性能基礎(chǔ)軟硬件服務(wù)的技術(shù)服務(wù)創(chuàng)新模式,是國(guó)內(nèi)極少數(shù)同時(shí)積累HPC及AI應(yīng)用場(chǎng)景商業(yè)化案例的公司。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.