7月17日,星環(huán)科技在上海世界人工智能大會(huì)(WAIC)上發(fā)布GPU原生認(rèn)知數(shù)據(jù)庫預(yù)覽版,該產(chǎn)品將數(shù)據(jù)庫完整功能遷移至GPU運(yùn)行,試圖重構(gòu)數(shù)據(jù)庫底層計(jì)算架構(gòu)。
星環(huán)科技創(chuàng)始人孫元浩稱,星環(huán)科技是目前全球唯一將完整數(shù)據(jù)庫功能在GPU上運(yùn)行的公司,領(lǐng)先國際競(jìng)爭(zhēng)對(duì)手一代。據(jù)他介紹,在TPC-DS基準(zhǔn)測(cè)試中,該產(chǎn)品使用多卡GPU可在數(shù)秒內(nèi)完成1TB數(shù)據(jù)集的99個(gè)復(fù)雜查詢,而傳統(tǒng)CPU方案需要數(shù)十秒至數(shù)百秒。
孫元浩表示,該產(chǎn)品研發(fā)周期約一年半,預(yù)覽版發(fā)布后已開放客戶測(cè)試申請(qǐng),正式版預(yù)計(jì)今年年底前上線。
此次產(chǎn)品發(fā)布的背景是,企業(yè)級(jí)AI應(yīng)用正從大模型問答向AI Agent方向演進(jìn)。孫元浩表示,AI Agent在執(zhí)行任務(wù)過程中會(huì)持續(xù)調(diào)用數(shù)據(jù)、檢索知識(shí),單次任務(wù)可能發(fā)起數(shù)百次數(shù)據(jù)訪問。傳統(tǒng)CPU數(shù)據(jù)庫在面對(duì)高并發(fā)Agent負(fù)載時(shí),計(jì)算核心和內(nèi)存帶寬不足,且數(shù)據(jù)在CPU與GPU之間搬運(yùn)帶來的時(shí)延問題突出。
一位數(shù)據(jù)庫行業(yè)人士表示,將完整數(shù)據(jù)庫功能遷移至GPU在工程上難度極高,涉及存儲(chǔ)引擎、查詢優(yōu)化器、事務(wù)管理等模塊的全面重寫。
GPU擁有萬級(jí)并行計(jì)算單元和數(shù)TB/s級(jí)高帶寬顯存。星環(huán)科技的方案是將數(shù)據(jù)庫整體遷移至GPU運(yùn)行,使數(shù)據(jù)分析計(jì)算與模型推理在同一顯存內(nèi)完成,避免跨芯片數(shù)據(jù)搬運(yùn)。孫元浩稱,這一架構(gòu)改變了對(duì)傳統(tǒng)CPU-GPU 1:1配比的需求,GPU空閑算力也可被充分利用。
除計(jì)算架構(gòu)變化外,新產(chǎn)品還將知識(shí)檢索、上下文供給與長期記憶管理納入同一數(shù)據(jù)庫底座。孫元浩將其定義為“認(rèn)知數(shù)據(jù)庫”,稱其不只記錄結(jié)構(gòu)化數(shù)據(jù),還能理解文檔內(nèi)容、自動(dòng)建立關(guān)聯(lián)。據(jù)其介紹,該系統(tǒng)記憶準(zhǔn)確率超過90%,在BEAM 500K和LongMemEval-S基準(zhǔn)測(cè)試中超過主流開源記憶系統(tǒng)。
在GPU加速數(shù)據(jù)庫領(lǐng)域,Snowflake和Databricks均在探索相關(guān)技術(shù)路徑。孫元浩評(píng)價(jià)稱,國際公司的嘗試時(shí)間更長,但僅實(shí)現(xiàn)局部加速,加速比平均約1.5倍,GPU比CPU貴兩三倍,1.5倍的加速?zèng)]有經(jīng)濟(jì)性。
從客戶側(cè)看,孫元浩表示,對(duì)GPU原生數(shù)據(jù)庫反饋?zhàn)罘e極的行業(yè)包括金融、制造、零售和交通。在本次WAIC展會(huì)上,星環(huán)科技展示了浦發(fā)銀行、天津能源投資集團(tuán)等客戶的案例。以信貸全鏈路分析為例,面對(duì)4.8億條明細(xì)數(shù)據(jù),GPU原生數(shù)據(jù)庫實(shí)現(xiàn)了特定場(chǎng)景下449倍的性能提升;在智能投研場(chǎng)景中,性能提升覆蓋30倍至5881倍。
不過,性能數(shù)據(jù)能否轉(zhuǎn)化為商業(yè)收入仍存不確定性。星環(huán)科技近年財(cái)報(bào)顯示公司尚未盈利,企業(yè)級(jí)基礎(chǔ)軟件的拓展受限于客戶預(yù)算周期。GPU原生數(shù)據(jù)庫的定價(jià)策略、與現(xiàn)有產(chǎn)品的兼容遷移方案、以及從試用到采購的轉(zhuǎn)化率,將決定該產(chǎn)品能否成為新的增長點(diǎn)。
在產(chǎn)品矩陣方面,星環(huán)科技同時(shí)展示了大模型運(yùn)營平臺(tái)Sophon LLMOps、智能體開發(fā)平臺(tái)AgentBox、智能數(shù)據(jù)平臺(tái)XClaw和數(shù)據(jù)治理平臺(tái)Astro,覆蓋從語料治理到智能辦公的鏈路。但孫元浩強(qiáng)調(diào),公司核心仍是數(shù)據(jù)基礎(chǔ)軟件,數(shù)據(jù)庫和大數(shù)據(jù)平臺(tái)是主業(yè)。
談及算力成本,孫元浩認(rèn)為,盡管Token單價(jià)在下降,但企業(yè)實(shí)際使用中的總成本仍然高昂,他判斷,未來兩三年硬件將有革命性變化,軟件層面也在重構(gòu),必須通過軟硬件聯(lián)合創(chuàng)新持續(xù)降低推理成本,企業(yè)才能大規(guī)模用得起AI。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.