阿里云真武超節點Day0適配Kimi K3大模型，雙方展開國產算力合作

7月28日，阿里云真武M890超節點實例已Day0適配Kimi K3，這是國內首個跑通近3萬億參數模型的超節點。雙方將進一步展開國產算力合作，千問AI平臺和阿里云百煉也將提供Kimi K3 的模型API。

 

Kimi K3是目前業界參數規模最大的模型之一，跑通這一規模的模型需要將參數分散到幾十張甚至上百張高速互聯的GPU卡，讓萬億參數“跑得又穩又快”。然而，普通AI集群因通信帶寬的局限，無法滿足高吞吐、低延遲、高并發的需求。

 

 

阿里云真武超節點實例通過ICN Switch高速互聯芯片，讓64張平頭哥真武M890實現800GB/s的全互聯，其顯存規模達到 9TB，可突破萬億參數模型運行的算力、顯存和網絡帶寬的瓶頸，單實例即可支撐大規模萬億級參數MoE模型的專家并行需求。

 

為提升Kimi K3的運行效率，阿里云、平頭哥與Kimi團隊從軟件棧、算子等層面進行了深度聯合適配。例如，真武M890對Kimi K3模型架構的核心算子進行優化，顯著提升推理的算力和帶寬利用率，可穩定支持最1M長上下文，從容應對長文檔理解、復雜推理等場景。測試顯示，適配后模型的首Token時延降低約35%，單卡解碼吞吐提升1.8倍。

 

目前，國內外主流模型已進入超2萬億參數規模的時代，阿里云真武超節點不僅跑通Kimi K3，還實現了模型的高效運行，意味著國產算力已具備支撐超大參數模型大規模應用的能力。