深度｜字節押注自研推理芯片，AI成本戰進入基礎設施層

字節跳動正在把 AI 基礎設施的投入推向更深處。

據 The Information 報道，字節跳動正在開發一款新的 AI 推理芯片，設計思路接近美國芯片公司 Groq 的語言處理單元（LPU）。這類芯片不是為了訓練最大模型，而是為了以更低成本運行已經訓練好的模型。對擁有豆包、AI 編程工具、視頻生成模型和推薦系統的字節跳動來說，推理已經成為更高頻、也更持續的算力消耗。

字節跳動還在與上海存儲芯片創業公司昕原半導體合作，研究如何把后者的 RRAM 存儲技術集成進這款芯片。知情人士稱，新芯片設計可能不使用 HBM。HBM 是當前先進 AI 加速器的關鍵部件，也受到美國出口管制嚴格限制。

這不是一次孤立的芯片嘗試。過去一年，字節跳動一邊繼續通過海外數據中心和第三方供應商獲得先進 GPU，一邊提高 AI 基礎設施預算，并尋找英偉達之外的芯片來源。它要解決的不是“有沒有算力”，而是在 AI 應用調用量持續上升、外部供應不確定的情況下，如何獲得更穩定、更便宜、也更可控的推理能力。

這一變化發生在字節跳動大幅提高 AI 基礎設施預算之后。

去年底，英國《金融時報》報道稱，字節跳動曾初步計劃在 2026 年投入 1600 億元人民幣建設 AI 基礎設施。今年 5 月，南華早報報道稱，字節跳動已將今年 AI 基礎設施支出計劃上調 25% 至 2000 億元人民幣。隨后，彭博社報道稱，字節跳動正在討論今年最高 700 億美元的資本開支，用于數據中心和其他 AI 基礎設施建設，資金很大一部分將來自其 2025 年約 500 億美元的利潤。

這些數字的口徑并不完全一致，但指向同一個事實：AI 基礎設施正在成為字節跳動最重要的資本開支項目之一。

過去，字節跳動的 AI 投入更多被外界理解為模型和應用投入。豆包是中國使用最廣的 AI 聊天機器人之一，字節也在視頻生成、AI 編程、搜索和推薦等方向持續投入。

但隨著產品調用量增加，算力問題變得更接近業務問題：模型越多、場景越多、用戶越活躍，推理成本就越難被單純視為研發費用。

訓練通常是階段性投入，推理則跟隨用戶規模、調用頻率和響應長度持續發生。AI 應用真正進入日常使用后，推理成本會變成一家公司能否長期擴大 AI 服務的底層約束。

HBM 之外的路線

字節跳動轉向推理芯片，是在尋找一種不同于通用 GPU 的算力組織方式。

Groq 的 LPU 代表了一種思路：把模型運行所需的數據盡量放在芯片內部的高速存儲中，以減少數據搬運，提升響應速度，降低功耗。對高頻調用的 AI 服務而言，這種效率改善比單次峰值算力更重要。

據報道，今年早些時候，英偉達達成一項 200 億美元交易，獲得 Groq 技術授權后，字節跳動加快了相關研發。英偉達的動作說明，推理芯片不再只是小公司的差異化路線，也開始被主流 AI 芯片供應商納入下一階段競爭。

字節跳動并不是唯一沿著這個方向投入的公司。美國大型科技公司也在開發面向不同推理場景的 AI 加速器，以降低對通用 GPU 的依賴。The Information 上月報道稱，Google 正在與美國芯片公司 Marvell 洽談開發新的推理芯片，其設計也與 Groq 的 LPU 類似。

但對中國公司來說，專用推理芯片還有另一層含義：繞開受限供應鏈的一部分。

當前先進 AI 加速器通常依賴 HBM。HBM 位于加速器芯片旁邊，提供高帶寬數據訪問，是英偉達、Google 等 AI 芯片的重要組成部分。美國對中國出口先進 AI 芯片的限制，已經延伸到 HBM 等關鍵部件。

Groq 的 LPU 使用大量片上 SRAM 存儲模型相關數據。SRAM 的讀取速度快于 HBM，但成本、面積和容量都有不同約束。字節跳動正在開發的新芯片如果不使用 HBM，意味著它有機會減少對受控供應鏈的依賴，但也需要在芯片面積、制造成本、模型適配和軟件生態上重新權衡。

昕原半導體因此進入字節跳動的芯片計劃。昕原成立于 2019 年，總部位于上海，專注于 RRAM，即阻變式隨機存取存儲器。RRAM 通過存儲單元內部電阻變化保存數據，被視為一種新型存儲技術。昕原在中國設計芯片，但通過臺積電成熟制程產線制造。這些成熟制程目前不在美國出口管制限制范圍內。

字節跳動曾在 2024 年投資昕原。據一名了解融資情況的人士和另一名直接知情人士稱，昕原目前正在進行約 4 億美元融資，投資方包括字節跳動和云鋒基金。云鋒基金由阿里巴巴創始人馬云參與創立。本輪融資前，昕原估值約為 15 億美元。

不過，RRAM 距離大規模用于 AI 計算仍有距離。多名了解合作的人士稱，昕原正從研究原型轉向商業化生產。新型存儲技術能否穩定量產、是否適合大模型推理負載、如何與字節跳動的軟件和模型體系協同，仍需要時間驗證。

短期離不開英偉達，長期重組算力供應

芯片自研對字節跳動不是新命題。早在 2022 年，字節就開始招聘半導體工程師。

據 The Information 報道，除這款類似 Groq 的推理芯片外，字節跳動目前還在開發另一款代號為 Ada-S 的新 AI 處理器。另有兩名字節員工稱，公司還在開發一款用于視頻算法的獨立芯片，可用于短視頻應用中的濾鏡等功能。

這說明字節跳動并不只是在為一個單點項目尋找芯片，而是在根據不同業務負載拆分硬件需求：訓練和通用推理仍依賴先進 GPU；高頻推理可能嘗試專用架構；視頻算法則對應更垂直的處理芯片。

短期內，字節跳動仍無法離開英偉達。

據《華爾街日報》此前報道，字節跳動正通過馬來西亞云服務商 Aolani Cloud 獲取一組英偉達 Blackwell 集群，規模約 500 套 GB200 NVL72 系統，合計約 3.6 萬顆 B200 GPU，價值約 25 億美元。由于先進芯片對中國出口受限，境外算力部署成為中國 AI 公司補充高端訓練能力的一種方式。

與此同時，字節跳動也在尋找其他供應商。彭博社本周報道稱，高通已與字節跳動達成協議，將為后者 AI 數據中心供應芯片。這類交易顯示，字節跳動正在為 AI 基礎設施搭建多供應商體系，而不是把未來押在單一來源上。

這套體系的成本很高。數據中心建設、海外 GPU 集群、第三方芯片采購、自研 ASIC、新型存儲合作，每一項都需要資本、工程團隊和長期調試。對字節跳動這樣的公司來說，投入 AI 基礎設施的動機不只是防御供應風險，也來自業務側的壓力。

豆包需要低成本服務海量用戶；視頻生成模型需要持續消耗算力；推薦系統和廣告系統需要更強的模型能力；TikTok、抖音、電商、本地生活和企業服務，都在尋找 AI 可以嵌入的環節。AI 如果只是少數實驗產品，外部算力采購就足夠支撐；如果要變成所有業務的底層能力，算力就必須被重新組織。

這也是大公司自研芯片的共同邏輯。

Google 有 TPU，亞馬遜有 Trainium 和 Inferentia，Meta、微軟也在推進自研 AI 芯片。它們并不是為了完全取代英偉達，而是為了在確定性負載上降低成本，并把硬件、模型和業務場景綁定得更緊。

字節跳動面臨的約束更復雜。美國出口管制限制了它獲得先進 GPU 和 HBM 的渠道；中國本土 AI 芯片生態仍在成熟；自研芯片需要時間；新型存儲還沒有被大規模驗證。它能做的，是同時推進多條路徑，讓不同類型的算力在不同階段承擔不同任務。

因此，字節跳動的芯片計劃更像是一次中長期資源重配，而不是短期替代。它不會很快減少對英偉達 GPU 的依賴，也無法立刻解決全部推理成本問題。但它反映出一個變化：AI 競爭正在從模型參數、應用下載量，進入基礎設施效率的競爭。

接下來需要觀察的信號包括：這款推理芯片能否進入流片和量產階段；昕原的 RRAM 能否穩定商業化；Ada-S 和視頻算法芯片是否會進入字節內部業務；以及字節跳動在海外數據中心、第三方 AI 芯片和自研芯片之間，最終如何分配資本開支。

字節跳動過去擅長用產品和流量把新技術推向大規模使用。AI 時代，它還需要證明自己能以可承受的成本運行這些技術。算力不再只是后臺資源，而是在決定 AI 應用能走多遠。

加入ZF討論群，請先添加小助手微信

我們相信認知能夠跨越階層，

致力于為年輕人提供高質量的科技和財經內容。

稿件經采用可獲邀進入Z Finance內部社群，優秀者將成為簽約作者，00后更有機會成為Z Finance的早期共創成員。

我們正在招募新一期的實習生