北京商報訊(記者 魏蔚)7月23日,阿里云宣布,阿里真武M890超節點已成功適配Qwen3.8,并上線阿里云百煉平臺提供模型推理服務。Qwen3.8是阿里最新旗艦模型,參數規模2.4萬億,跑通這一規模的模型需要將參數分散到幾十張甚至上百張高速互聯的GPU(圖形處理器)卡。
真武M890是平頭哥新一代訓推一體AI芯片,原生支持FP32到FP4等多種數據精度,可應用于高精度訓練、低精度和超低精度推理的全場景。真武超節點實例通過ICN Switch 1.0互聯芯片,讓64張真武M890實現了800GB/s的高速互聯,顯存規模達到9TB,單實例即可支撐大規模2萬億參數MoE模型的專家并行需求。
阿里還從芯片到云平臺層面實現了與Qwen模型的全鏈路優化。實測數據顯示,通過算子優化和軟硬件架構協同,該超節點實例在Agentic推理場景中最多可實現1.5倍的推理性能提升。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.