![]()
2026年的世界人工智能大會(WAIC 2026)現場,AI算力的話題熱度絲毫不減。隨著模型規模持續膨脹、MoE架構成為大模型主流,Agent任務鏈條不斷拉長,“Token輸出速度”成為付費用戶最敏感的指標。一個問題正日益尖銳:我們現有的AI芯片架構,還能撐多久?
帶著這個問題,半導體產業縱橫專訪了億鑄科技創始人、董事長兼CEO熊大鵬,在他看來,AI大模型本質上是在“模仿人腦”,而人腦的工作方式——存算一體或許才是這場算力革命的最終答案。而他的思考,正從最底層的架構矛盾開始。
01
從近存計算到存算一體
“傳統的AI大模型芯片,基本上都基于存算分離架構。存就是存,算就是算。”熊大鵬開門見山地指出了當前AI芯片架構的最大痛點。在這種架構下,大量的數據在存儲與計算單元之間來回搬運和分發,由此帶來兩個致命問題:數據搬運所消耗的功耗極高,以及數據堵塞導致的計算有效利用率極低。熊大鵬表示,“絕大部分功耗是數據搬運和數據分發所消耗的。”
為了緩解這一矛盾,業界近年來開始密集布局近存計算(Near-Memory Computing)路線,通過3D堆疊/HBM等技術縮短數據搬運距離、擴大數據帶寬。但在熊大鵬看來,這仍不是根本解:“近存計算從本質上來講,它是要縮短數據搬運的距離,但它在計算結構上面還是傳統的計算架構。”真正的變革方向,是存算一體CIM(Computing In Memory,CIM)。存算一體的概念并非橫空出世。早在1969年,斯坦福研究所的Kautz等人,率先提出了存算一體計算機的概念。但是,受限于當時的技術和工藝,概念僅僅停留在理論研究階段,并未得到實際應用。隨著半導體技術日益成熟和AI大模型時代海量參數帶來的數據搬運需求,存算一體重新受到業界重視。熊大鵬解釋道:“存算一體的計算架構是以存儲為中心,在存儲介質的內部或周邊加上適當的邏輯,使得它變成一個計算的陣列。數據從存儲介質里流動出來的同時,就完成了所有的計算。”存算一體從架構上徹底消除了多級緩存的層級結構,直接在存算陣列完成計算,從根本上杜絕了數據搬運導致的高功耗和數據堵塞的發生。
更深一層看,AI大模型本身的工作機制與人腦高度相似。熊大鵬進一步闡釋:“AI大模型的本質就是存算一體。大量的知識壓縮以后,存在我們的大腦里,反映在大模型中就是參數;當外部有輸入進來,我們能夠很快找到對應的知識區間,通過推理機制給出判斷和決策。從芯片的角度來講,這就是存算一體的工作原理和底層邏輯。”也正因如此,存算一體在特定場景下展現出傳統架構難以企及的優勢,尤其是對長文本輸入輸出、低延時要求高的應用。愿意付費的用戶往往要求Token輸出速度達到每秒100個、200個甚至300個以上,無論是編程還是短視頻編輯,都需要這樣的效率。這對傳統架構而言步履維艱,存算一體卻游刃有余。
02
存算一體的“兩座大山”:容量和精度
盡管理論優勢巨大,但在走向大規模商用的道路上,行業長期面臨兩座“大山”。
第一座大山是存儲容量。存算一體芯片的存儲介質直接決定了可承載的模型規模。當前行業存算一體介質主要分為兩類:RRAM、MRAM、PCM 等新型非易失存儲,以及 SRAM、DRAM 成熟傳統易失存儲。依靠新型存儲搭建的模擬存算、SRAM 數字存算原型,單片容量大多僅 MB 級別;普通 2D DRAM 容量充足,但其原生結構不適合用于存算一體芯片。
這是一個結構性難題,存算一體的核心理念是“存”與“算”深度融合,且“不能外掛存儲,就像我們人的大腦一樣”。這意味著芯片本身的存儲容量,直接決定了它能容納多大的模型參數。對于動輒百億、千億參數的大模型而言,MB級別的片上存儲顯然杯水車薪;而常規 2D DRAM 缺少存算一體化設計,在云端大模型推理場景下的適配能力相對有限。
![]()
第二座大山是計算精度。早期的存算一體走的是“模擬計算”路線,主要采用憶阻器(Memristor,一般為RRAM)作為存儲和計算介質。其基本原理是利用歐姆定律和基爾霍夫定律,在憶阻器交叉陣列(Crossbar Array)中,通過電壓驅動和電流累加,一步完成矩陣-向量乘法運算。這種“模擬存算一體”在理論上可以實現極高的計算并行度和能效比。然而,理想豐滿,現實骨感。模擬計算對器件的非理想性極其敏感,憶阻器的阻值漂移、溫度變化、工藝偏差、噪聲干擾等因素,都會直接轉化為計算誤差。而且在神經網絡多層卷積、矩陣乘運算中,每層誤差不斷疊加,最終會大幅降低任務推理準確率,極端溫變、長時間工作場景下穩定性更差。
受限于容量和精度,此前存算一體芯片的應用場景長期被壓縮在端側AI這種對算力和模型規模要求有限的領域。要做云端大算力芯片,在許多人看來,幾乎是天方夜譚。
03
億鑄科技的解法:通用存算一體+3D DRAM
如何破解容量和精度瓶頸,把存算一體做進云端大算力芯片?億鑄科技的解法是全數字3D DRAM通用存算一體芯片。
計算精度層面,億鑄科技的數字存算一體放棄了模擬計算的“捷徑”,回歸數字電路的確定性,從根本上消除了器件非理想性帶來的精度損失,為大模型推理所需的高精度計算提供了保障。“全數字化,就是為了解決模擬存算一體存在的數據精度低、品質不可靠的問題。”熊大鵬一語道破。數字存算的優勢在于其精度高、容錯能力強、易于架構集成。此外,數字存算架構由于處理的是數字信號,且大多基于傳統存儲器,因而在數據存儲的可靠性和制造成本上也更具優勢。在存儲容量層面,億鑄科技選擇了3D DRAM。“對于存算一體來說,存儲容量的大小是至關重要的參數。我們可以用大腦做通俗類比,大腦可承載的信息容量越大,能處理的復雜任務就越多;在生物界也是如此,將來的模型肯定是越來越大。”熊大鵬用了一個生動的比喻,“3D DRAM的容量、穩定性、性價比,綜合考慮下來是最好的,未來還會做得更大。3D堆疊不只是提升容量,還能顯著拉高存儲帶寬與數據吞吐能力。大模型 Token 持續生成的過程高度依賴高速數據傳輸,大容量疊加高帶寬,直接決定最終的推理輸出效率。”容量和成本是億鑄科技選擇3D DRAM根本原因。3D DRAM為存算一體芯片突破“MB級天花板”、邁向GB甚至更高容量提供了物理基礎。
當然,技術層面的突破只是第一步。熊大鵬強調,存算一體本質上是一個IP,只能完成有限的特定計算,如矩陣計算;要做成真正可落地的產品,必須與通用計算緊密結合。“我們稱之為基于存算一體的通用大算力芯片,簡單理解就是存算一體+GPU。”這里的“通用”二字至關重要。“AI大模型也是天天在變,今天主要以大語言模型為主,未來可能是物理大模型,甚至兩者組合。如果做專用芯片,可能兩三年后就不適用了。”通用存算一體路線,既保留了存算一體在能效和延遲上的優勢,又通過融合GPU等通用計算單元,確保了對包括CUDA在內的主流生態的兼容性和對未來算法演進的適應性。
具體到芯片架構層面,億鑄科技的方案是一個完整的通用算力平臺,而非一張加速卡。其關鍵在于完整的自研ISA指令集、軟硬件協同架構、通用+存算雙IP,使得芯片能夠支撐端到端的AI計算任務。在這一架構中,存算一體單元負責高效處理計算密集、參數固定的矩陣運算、線性運算等等計算類型,計算時無需在計算前從外部內存(如HBM)反復加載,而通用SIMT單元則負責處理控制邏輯復雜、不規則的計算(如激活函數Silu、歸一化RMSNorm、數據重排等)以及通用的標量與邏輯運算。這種設計在獲得存算一體極高能效的同時,保留了GPU的編程模型和通用性,避免了純模擬存算一體架構所面臨的靈活性與編程難題,是實現CUDA等主流生態兼容的硬件基礎。基于這一整套判斷,億鑄科技已完成技術驗證,并正式推出第一代商用AI芯片,全數字3D DRAM通用存算一體芯片。
04
三大定律與終局推演:不止于一款芯片
然而,熊大鵬的思考并未止步于單款產品。在WAIC 2026現場,他將這些實踐洞察提煉為系統性的產業判斷,首次提出“通用存算一體三大產業定律”。
![]()
第一定律是搬運代價定律,AI計算中,數據搬運的功耗和延遲代價是計算本身的100倍。計算架構的每一次革命,本質都是數據搬運的革命。誰能最大程度消除數據搬運,誰就能拿到下一個時代的入場券。第二定律是通用邊界定律,任何專用計算單元的效率優勢,都會被通用計算的生態優勢抹平。只解決單一問題的技術,無論參數多好看,最終都只會成為通用計算的補充,而不會成為主流計算平臺。在熊大鵬看來,存算一體是一個創新架構,但如何把這個創新架構跟傳統的通用計算GPU架構很好地融合在一起至關重要,否則,存算一體帶來的巨大算力紅利可能會被抵消。第三定律是異構終局定律,不存在單一的計算單元能同時滿足“零搬運、全通用、高擴展”三個要求。存算一體的終局必然是異構協同:專用單元做專用的事,通用單元做通用的事,通過架構創新實現1+1>2。熊大鵬進一步解釋,存算一體僅僅高效地實現了矩陣乘、矩陣加,但對通用計算來說,遠遠要多于這些。盡管矩陣計算占用了98%、99%的計算量,通用計算也絕不能忽略。
這三大定律勾勒的是產業演進的底層邏輯,基于這三大定律,熊大鵬對產業未來給出了三條技術路線的判斷:“第一,存算一體芯片本身會高度的跟GPU通用計算融合在一起。第二,傳統的GPGPU芯片也會借鑒存算一體的優點,向存算一體或通用存算一體的方向發展。包括英偉達收購Groq團隊,也印證了這個發展方向。第三,在兩三年之內,GPU跟存算一體通用計算是一個協同關系,各有長處,各有不足。”以PD(Pre-fill&Decode)推理流程為例,傳統架構在預填充(Pre-fill)階段表現不錯,而存算一體在解碼(Decoding)階段優勢相當明顯。兩者通過“通用計算+存算一體”協同配合,便能從整體方案上實現最優解。
億鑄科技未來也將持續針對這些技術方向布局路線圖。技術路線上,持續優化存算一體與傳統計算的超異構融合。讓用戶用起來感覺跟傳統的GPU一樣,開發工具一樣,開發平臺一樣,編程模型一樣,拿來即用。帶來的好處是:性能明顯提升,能耗明顯降低,軟件編程明顯簡單。產品路線上,從第一代云端大算力芯片出發,不斷迭代,并延伸至超節點、大端側(如智能機器人)等更廣闊的場景。生態路線上,以AI云運營商為切入點,同步覆蓋大模型企業和各垂直領域的大模型開發者,同時著力培養軟件生態。
在這場以“模仿人腦”為最終目標的AI革命中,存算一體不應再是屈居于端側的“配角”,而應走向云端、走向通用、走向與GPU的深度融合。而億鑄科技,正試圖用一顆“存算一體+GPU”的通用大算力芯片,率先邁出起跑的第一步。
【AI疊變】第十四期:億鑄科技。由擁有近30年中美芯片行業經驗的熊大鵬博士在上海創立,國內首家全數字3D DRAM通用存算一體架構的AI大算力芯片公司。公司2022年正式運營,總部設于蘇州,在上海、杭州、成都、長沙設有子公司。團隊近300人,研發人員占比超80%。截止2026年,公司累計完成多輪融資,總額超十億元。2025年11月,該公司啟動面向智算云的國產存算一體AI算力平臺項目,計劃未來五年投資5億元建設創新中心與示范基地,預計實現年產值超10億元。公司首創全數字化通用存算一體架構,從根本上打破存儲墻,極致減少數據搬運與功耗,實現算力能效數倍提升。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.