<mark id="oztn4"></mark>
0
提到AI的落地你最先會想到什么？
有人想到了AI芯片的利用率以及底層硬件的調度；有人想到AI芯片的算力效益；還有人想到算力服務。
AI的落地，能夠為智慧城市的建設，更精準的天氣的預測，構建更安全的網絡環境等提供底層支撐。
但是，AI的落地依舊面對諸多的挑戰。比如，如何才能將AI用起來？如何才能漸進式的實現AI的價值？如何基于AI發展算力經濟？
這逐層漸進的問題，考驗著所有提供AI技術以及想要使用AI技術的人。對于最底層的AI芯片的提供者，目前非常棘手的問題之一就是軟件。
燧原科技創始人兼COO張亞林在2022世界人工智能大會上就表示：“根據過往落地實踐，我們發現，AI數據中心因其軟件運維復雜，普遍具有方案選型難、各廠商產品兼容未知等痛點，而且數據中心部署交付周期長、溝通成本高、項目管理周期長。”
軟件問題，特別是基于云端高性能AI推理和訓練芯片的上層軟件和生態，限制著眾多AI芯片創新者的發展。
燧原科技創始人、CEO趙立東認為，“生態的壟斷是目前我們面臨的最大挑戰，而生態壟斷的原因是緊耦合的軟件和硬件。因此，我們一定要創新。”
為了解決當下云端AI芯片落地的挑戰，不同的公司會從不同的維度突破軟件和生態的挑戰。
2022年9月3日，燧原科技在“算盡其用·定義AI算力中心新實踐”云端算力產業應用論壇上給出了解決這一挑戰的答案——云燧智算機（CloudBlazer POD）。
云燧智算機是針對大規模、集約化人工智能算力應用場景的高性能AI加速集群，有一站式預集成人工智能加速硬件、一體化開發與管理平臺及配套人工智能應用軟件與服務，適用于數字政府、科研院所、科創平臺等。
簡單來說，燧原科技在解決高性能云端AI芯片落地給出的一個解題思路就是“開箱即用”。
何為開箱即用？在交付方式上，云燧智算機提供包括采購、安裝、運維一體的交鑰匙方案。
能夠以這樣的方式交付，還是因為云燧智算機采用一體化設計。
硬件的算力層面，基于燧原科技已經發布的自研AI高性能芯片。在典型配置下，云燧智算機每單元可達到8PFLOPS的TF32浮點算力，并且支持按需橫向擴容，可支持數千卡規模集群，能夠實現頂級超算的E級算力。
同時，云燧智算機也集成了合作伙伴的CPU，提供充足的算力。但計算集群除了算力這個核心要素之外，網絡和存儲和非常關鍵。
張亞林介紹，“云燧智算機代表了燧原科技經過多個大規模工程實踐所形成的計算、網絡、存儲的整體設計：以全局優化為目標，基于計算、存儲、管理網絡分離，全互聯無阻塞的網絡架構，結合高效的多級存儲方式，在‘邃思’AI芯片與CPU的異構算力支撐下，云燧智算機能夠提供卓越的AI性能。”
雷峰網(公眾號：雷峰網)了解到，燧原科技的第一代和第二代“邃思”芯片已實際應用于大規模AI集群工程中，落地規模達千卡級別，場景包括融媒體生成、城市智能感知等。
當然，提到計算集群就不得不關注數據中心整體能效（PUE），特別是在雙碳目標以及綠色環保的總體趨勢，以及東數西算有政策性要求。據悉，云燧智算機采用一體化冷板式液冷技術，實現單節點8顆高性能人工智能芯片液冷散熱，PUE可降至1.1及以下。
前面提到，AI落地一個巨大的挑戰就是軟件。不過軟件是一個很寬泛的概念，既需要能夠提升AI芯片利用率的編譯器、庫等，也需要算力平臺的管理軟件。
隨最新推出的云燧智算機一起推出的是燧原科技提供燧池智算平臺（CloudBlazer Station），包含基礎設施層的異構算力調度平臺，智能運維平臺，馭算軟件棧SDK，算法服務層的智能算法管理平臺以及訓推一體化平臺。
同時，面對超大參數量的巨量模型趨勢，云燧智算機可支持超千億參數巨量模型的高效、并行訓練，這主要是得益于云燧智算機計算節點內基于GCU-LARE2.0多芯互聯技術提供近1TB/s的互聯帶寬，跨節點互聯能力高達600Gb/s，可實現千卡級大規模集群高速互聯。
開箱即用的計算集群確實能夠在一定程度降低使用者的門檻，但計算集群畢竟是一個復雜的系統，最終能在多大程度上促進高性能AI計算的落地，還需要用更多的落地項目證明。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
