近日,中昊芯英TPU算力正式完成與OpenCSGCSGHub平臺(tái)的適配接入。雙方充分發(fā)揮國產(chǎn)AI專用算力與開源AI基礎(chǔ)設(shè)施的協(xié)同優(yōu)勢,為大模型開發(fā)、模型服務(wù)部署及企業(yè)級(jí)AI應(yīng)用落地提供更加開放、靈活的底層算力支撐。
當(dāng)前,大模型與智能體應(yīng)用正加速邁向產(chǎn)業(yè)落地階段。企業(yè)不再只關(guān)注模型本身,更關(guān)注模型如何管理、部署、運(yùn)行和持續(xù)迭代;與此同時(shí),AI算力正從以GPU為主流逐步發(fā)展為TPU、NPU、DCU等多元算力協(xié)同發(fā)展的格局。其中,TPU作為針對(duì)張量計(jì)算和AI工作負(fù)載深度優(yōu)化的專用架構(gòu),通過優(yōu)化計(jì)算單元維度與數(shù)據(jù)傳輸路徑,在AI計(jì)算場景中展現(xiàn)出高于傳統(tǒng)通用架構(gòu)的能效比與計(jì)算密度,是降低AI算力成本、提升模型迭代及智能體應(yīng)用效率的關(guān)鍵路徑,也是國產(chǎn)AI算力生態(tài)中極具戰(zhàn)略價(jià)值的技術(shù)方向。
中昊芯英現(xiàn)已向OpenCSG開源社區(qū)貢獻(xiàn)TPU適配代碼并合入CSGHub主倉庫,CSGHub平臺(tái)已實(shí)現(xiàn)對(duì)中昊芯英TPU算力資源的識(shí)別與調(diào)度,在硬件資源模型、資源類型校驗(yàn)、部署調(diào)度、運(yùn)行時(shí)資源請求生成、集群節(jié)點(diǎn)標(biāo)簽識(shí)別等關(guān)鍵鏈路中新增TPU支持,進(jìn)一步豐富國產(chǎn)AI算力生態(tài)。
中昊芯英長期專注于高性能TPUAI芯片、AI計(jì)算集群與算力平臺(tái)的設(shè)計(jì)與研發(fā),是國內(nèi)最早實(shí)現(xiàn)全自研高性能TPU架構(gòu)AI專用算力芯片流片與量產(chǎn)的企業(yè)。其芯片產(chǎn)品「剎那?」、「須臾?」擁有100%自研的IP核、指令集與計(jì)算平臺(tái),AI算力性能超越同期海外知名主流GPU產(chǎn)品近1.5倍,能耗降低30%,單位計(jì)算成本降低近50%,可承載萬億參數(shù)大模型分布式訓(xùn)練、多智能體協(xié)同運(yùn)算、全平臺(tái)海量token并發(fā)推理等重負(fù)載業(yè)務(wù)。
OpenCSG則聚焦開放AI基礎(chǔ)設(shè)施建設(shè),面向模型、數(shù)據(jù)集、應(yīng)用、智能體和算力資源,提供統(tǒng)一管理、部署與運(yùn)營能力。作為面向大模型與智能體時(shí)代的開源AI基礎(chǔ)設(shè)施平臺(tái),OpenCSG通過CSGHub、AgenticHub等產(chǎn)品,幫助企業(yè)、園區(qū)和城市客戶構(gòu)建可管理、可部署、可運(yùn)營的AI能力底座,并以開放架構(gòu)持續(xù)連接模型生態(tài)、開發(fā)者生態(tài)與算力生態(tài)。
此次合作,雙方技術(shù)團(tuán)隊(duì)完成了中昊芯英TPU芯片與CSGHub平臺(tái)的全流程聯(lián)合適配測試,涵蓋模型上傳與部署、單機(jī)與多卡推理、大模型微調(diào)、算子調(diào)度、穩(wěn)定性連續(xù)負(fù)載以及量化加速等核心場景。測試結(jié)果表明,中昊芯英TPU算力芯片可原生兼容、穩(wěn)定流暢運(yùn)行OpenCSG開源平臺(tái)全部核心功能,軟硬件協(xié)同性能達(dá)標(biāo),滿足商用部署、開源生態(tài)接入需求。
基于此,CSGHub平臺(tái)即將上線中昊芯英TPU算力租賃規(guī)格,提供從單卡128GB至八卡1024GB共八檔配置。中昊芯英TPU算力將成為CSGHub平臺(tái)上可供開發(fā)者和企業(yè)用戶按需調(diào)用的一種標(biāo)準(zhǔn)算力資源,用戶無需在底層硬件適配和集群管理上額外投入精力,通過平臺(tái)即可直接選擇和調(diào)度中昊芯英TPU算力,完成從模型開發(fā)、微調(diào)訓(xùn)練到推理部署的全流程工作。
此次中昊芯英TPU算力接入OpenCSGCSGHub平臺(tái),是國產(chǎn)AI專用算力芯片與開源AI基礎(chǔ)設(shè)施協(xié)同創(chuàng)新的再進(jìn)一步,也將助力國產(chǎn)AI生態(tài)從單點(diǎn)技術(shù)突破走向平臺(tái)化、標(biāo)準(zhǔn)化的規(guī)模協(xié)同。
對(duì)于中昊芯英而言,TPU算力進(jìn)入OpenCSG開放AI基礎(chǔ)設(shè)施生態(tài),將讓這種專為AI而生的高性能算力,通過開放平臺(tái),將其在計(jì)算密度、能效比及綜合成本上的顯著優(yōu)勢真正釋放至AI開發(fā)者和企業(yè)應(yīng)用場景;對(duì)于OpenCSG而言,新增TPU算力支持進(jìn)一步完善了平臺(tái)對(duì)國產(chǎn)異構(gòu)算力的連接能力,也強(qiáng)化了OpenCSG作為開放AI基礎(chǔ)設(shè)施平臺(tái)的生態(tài)屬性。
隨著國產(chǎn)大模型、國產(chǎn)AI芯片和企業(yè)級(jí)AI應(yīng)用加速發(fā)展,開放、兼容、可持續(xù)演進(jìn)的基礎(chǔ)設(shè)施平臺(tái)將成為連接上層應(yīng)用與底層算力的關(guān)鍵樞紐,而以TPU為代表的創(chuàng)新型AI專用芯片架構(gòu),正在成為這一樞紐中不可或缺的算力基石。未來,中昊芯英與OpenCSG將持續(xù)深化合作,推動(dòng)創(chuàng)新架構(gòu)的國產(chǎn)AI專用算力資源進(jìn)入統(tǒng)一、開放、可運(yùn)營的AI基礎(chǔ)設(shè)施體系,為企業(yè)AI轉(zhuǎn)型和產(chǎn)業(yè)智能化升級(jí)提供堅(jiān)實(shí)底座。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.