僅手掌大小的Agent Computer,能驅(qū)動(dòng)千億參數(shù)大模型,24小時(shí)在線的本地“桌面AI助理”,能一句話自動(dòng)生成PPT;全息交互個(gè)人終端,可以實(shí)時(shí)進(jìn)行畫面渲染,驅(qū)動(dòng)一個(gè)可以持續(xù)對(duì)話的數(shù)字人……7月18日,在WAIC 2026張江科學(xué)會(huì)堂,(記者觀察到,)后摩智能攜多款M50 Inside創(chuàng)新AI終端集中亮相,讓大模型從云端真正走向本地,端側(cè)智能觸手可及。
![]()
大模型推理走向端側(cè),高算力、低功耗、易部署芯片成剛需
隨著大模型從云端全面向端側(cè)遷移,端側(cè)AI迎來爆發(fā)式增長,各類終端設(shè)備逐步具備自主記憶、智能檢索、邏輯推演、自主任務(wù)執(zhí)行的全流程能力。行業(yè)普遍將2026年定義為端側(cè)AI元年,AI PC、智能服務(wù)機(jī)器人、邊緣智能終端等產(chǎn)品加速落地商用場景。
當(dāng)前大模型參數(shù)規(guī)模持續(xù)擴(kuò)容,但終端設(shè)備的體積、電池功耗、散熱空間均存在剛性限制,算力、功耗、延時(shí)、部署等約束,已然成為大模型規(guī)模化落地端側(cè)的核心瓶頸,也讓高算力、低功耗、易部署的大模型端邊AI芯片成為產(chǎn)業(yè)剛需。
針對(duì)行業(yè)痛點(diǎn),后摩智能M50芯片依托存算一體架構(gòu),在10W功耗下實(shí)現(xiàn)160 TOPS單芯片算力,可流暢運(yùn)行30B至120B參數(shù)量級(jí)大模型。M50徹底突破終端算力桎梏,在有限電池容量與散熱條件下,充分滿足端側(cè)復(fù)雜的記憶存儲(chǔ)、智能檢索、邏輯推演等AI任務(wù)需求。即便多并發(fā)推理的高負(fù)載場景,也能全程保障低延遲、高穩(wěn)定運(yùn)行。
為加速大模型端側(cè)AI算力規(guī)模化落地,降低行業(yè)適配門檻,后摩智能同步推出M.2卡、AI加速卡等多元化標(biāo)準(zhǔn)形態(tài)硬件。在軟件側(cè),后摩自主研發(fā)了大道軟件棧,可兼容主流深度學(xué)習(xí)框架并內(nèi)置優(yōu)化算子,客戶無需手動(dòng)調(diào)參和量化校準(zhǔn),即可完成大模型部署,大幅壓縮產(chǎn)品適配及開發(fā)周期。
![]()
大模型端側(cè)AI加速規(guī)模化,M50 Inside 推動(dòng)多終端商業(yè)化創(chuàng)新
此次WAIC展會(huì),后摩智能集中展現(xiàn)了M50芯片在Agent Computer、智能移動(dòng)終端、具身機(jī)器人和端邊推理等場景的應(yīng)用成果,覆蓋智能辦公、智能教育、個(gè)人陪伴、邊緣計(jì)算等熱門領(lǐng)域。
當(dāng)下,科技圈 “養(yǎng)龍蝦” 智能體熱潮持續(xù)升溫,Agent Computer 成為展區(qū)人氣焦點(diǎn)。后摩智能聯(lián)合聊趣智能推出全息交互個(gè)人智算中心 ClawHouse X1 Pro ,搭載 M50 存算一體芯片,可同步承載實(shí)時(shí)畫面渲染、百億級(jí)大模型本地推理、低延遲語音交互等多項(xiàng)高負(fù)載任務(wù)。無論智慧辦公、智能教育還是個(gè)人智算場景,均能確保數(shù)據(jù)安全、交互流暢、算力充足,節(jié)省約80%繁冗操作。
![]()
同為Agent Computer標(biāo)桿產(chǎn)品,聯(lián)想AI主機(jī) P7搭載M50芯片,在手掌大小的機(jī)身中兼顧高性能算力與全本地部署能力,綜合算力達(dá)到190TOPS。該設(shè)備可離線流暢運(yùn)行高達(dá)1220億參數(shù)大模型。無網(wǎng)絡(luò)環(huán)境下本地推理速度達(dá)到50Tokens/s,可支撐多輪對(duì)話、專業(yè)知識(shí)問答、批量文檔處理等高頻場景的即時(shí)交互,為用戶帶來絲滑無感的本地AI體驗(yàn)。
![]()
在智能移動(dòng)終端場景,隨著AI PC全球出貨量跨過億臺(tái)門檻,本地計(jì)算帶來的數(shù)據(jù)安全保障和離線辦公能力,正成為AI PC區(qū)別于“云端AI+傳統(tǒng)PC”方案的優(yōu)勢之一。展會(huì)現(xiàn)場,長城N90 Pro展現(xiàn)了35B本地大模型離線運(yùn)行成果:借助M50芯片高算力底座,用戶即便身處無網(wǎng)環(huán)境,仍可調(diào)用完整AI能力,使用智能文檔寫作、離線問答、會(huì)議記錄、靈感速記等辦公全場景功能;依托全棧國產(chǎn)自主軟硬件與本地大模型,設(shè)備在提升數(shù)據(jù)安全和隱私保護(hù)水平的同時(shí),也為政務(wù)、金融、能源等行業(yè)提供了更適合本地部署的AI辦公方案。
![]()
展會(huì)現(xiàn)場,搭載M50芯片的聯(lián)想AI Workmate概念機(jī)以桌面機(jī)器人形態(tài)呈現(xiàn),可在本地處理語音控制和手勢操作。設(shè)備掃描筆記或文檔后,可生成摘要、梳理思路或轉(zhuǎn)化為演示文稿,并通過投影形成共享看板,在斷網(wǎng)環(huán)境下仍可使用。
![]()
面向端邊推理,可道云TeamSilo A10內(nèi)置后摩智能力擎LQ50 M.2卡,提供160 TOPS算力,可支撐35B大模型在本地離線運(yùn)行。產(chǎn)品將企業(yè)云盤、知識(shí)庫與本地大模型能力整合到一臺(tái)設(shè)備中,圍繞企業(yè)文件開展知識(shí)檢索、離線問答和Agent應(yīng)用搭建。
![]()
目前,后摩智能已實(shí)現(xiàn)大模型端側(cè)AI算力與多款A(yù)I創(chuàng)新硬件的深度融合,并與聯(lián)想、長城、中國移動(dòng)等數(shù)十家頭部終端企業(yè)建立深度合作,推動(dòng) M50 芯片在 AI PC、桌面機(jī)器人、AI NAS、Agent Computer 等多元終端中實(shí)現(xiàn)規(guī)模化商用,持續(xù)拓寬端側(cè)AI商業(yè)化應(yīng)用邊界。
“各類智能終端走進(jìn)千家萬戶,切實(shí)惠及民生,‘中國智造’已然成為中國式現(xiàn)代化的又一亮麗名片。”立足大模型端邊AI產(chǎn)業(yè)變革浪潮,后摩智能始終堅(jiān)守初心:用底層創(chuàng)新,加速大模型在每一臺(tái)終端設(shè)備上的落地,讓AI算力像電力一樣隨處可及,以一顆芯,驅(qū)動(dòng)終端AI的全域進(jìn)化與產(chǎn)業(yè)創(chuàng)新。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.