<mark id="oztn4"></mark>
0
全球芯片行業近年來技術、產品、市場的變革，都與摩爾定律的放緩直接相關。AI芯片就是典型代表，當傳統的CPU、GPU依靠摩爾定律帶來的芯片性能提升不足以滿足AI、大數據的需求時，大量的AI芯片應運而生。
繼AI芯片之后，DPU（Data Processing Unit）芯片又成了各大芯片巨頭、互聯網巨頭、初創公司爭相研發的新產品，也是近年來資本熱衷投資的方向，所有的參與者都希望在市場爆發前搶占先機。
不同于CPU和GPU，DPU是典型的應用驅動型芯片，傳統芯片巨頭有豐富的芯片設計經驗但對應用場景的理解不夠深入，互聯網巨頭深刻理解自身業務需求但芯片設計經驗不足，初創公司各有所長。
多位業內人士告訴雷鋒網，DPU芯片市場將在2-3年后爆發。在全新的DPU賽場，誰能脫穎而出主導市場？
到底是IPU還是DPU？
探討新鮮的DPU，不妨從命名開始。DPU的概念最早由美國一家名為Fungible的初創公司提出，但將DPU概念帶入大眾視野的是英偉達。在Fungible提出DPU概念的2019年，英偉達以69億美元收購了Mellanox，一年后的2020年，英偉達基于Mellanox的產品發布了DPU，DPU的概念一炮而紅。
今年6月，英特爾公布了IPU（Infrastructure Processing Unit，基礎設施處理器）的愿景。
英特爾公司數據平臺事業部首席技術官Guido Appenzeller對雷鋒網表示，“DPU和IPU在功能上沒有根本性差別，只是命名不同。我個人認為，IPU這個名稱要好很多，因為IPU的作用就是處理基礎設施功能，這是其與眾不同之處。”
“IPU和DPU都有其合理性，目前看將兩者畫等號問題不大。不過我更傾向于使用DPU的命名?！敝锌岂S數CEO鄢貴海表示，“如果將處理器按照結構劃分，可以分為以控制為中心和數據為中心兩大類，DPU是以數據為中心，強調的是吞吐量、運算的高效性等，以DPU命名也比較貼切?！?/p>
中科馭數是2018年成立于北京的DPU初創公司，在7月底宣布獲得了數億元的A輪融資。
2020年剛成立，在今年7月宣布獲得數千萬元Pre-A輪融資的DPU初創公司大禹智芯也更傾向于DPU的命名方式。
大禹智芯CEO李爽說：“IPU更多是從應用場景的角度命名，DPU則是描述產品的功能，如果類比CPU和GPU的命名方式，我覺得DPU更合適。英特爾用IPU也很合理，畢竟這類產品還沒有形成標準，大公司想要自己定一個標準，而且，IPU中也包含intel的首字母?！?/p>
無論是IPU還是DPU，都是全新的命名，那全新的命名代表的是全新的產品嗎？李爽和Guido Appenzeller認為屬于全新的產品。鄢貴海則認為DPU只能視為全新的商品，實際上DPU的技術已經發展了很多年。
“DPU是一個I/O密集型專用處理器，早在40年前，IBM也有功能類似的產品，他們叫做I/O控制器。因此，DPU的技術要素之前已經存在，只不過當時的重要性沒有凸顯，如今是通過DPU這樣一個產品來進行集中體現?！臂迟F海解釋。
李爽提出，“我們不應該把重點放在尋找DPU的定義上，而應該更多關注DPU要解決哪些問題?！?/p>
為什么需要DPU/IPU？
“DPU誕生的背景是帶寬與計算性能的增速失調。CPU的性能從5-10年前每年30%的增幅，到三年前大概只有每年不到3%的性能增幅。而網絡帶寬每年依舊還有35%左右的增長?！臂迟F海指出：“處理性能和帶寬增速的比例從原來的大概1:1，變成了現在的1:10左右?！?/p>
“當有10倍以上的差距時，就需要思考新的架構。因為原來的架構沒辦法進行平行擴展，這時候就需要專用的系統。所以DPU不能簡單講是一顆芯片，它是一個系統?！?strong>李爽認為，“DPU實際上是架構轉移。”
Guido Appenzeller從另外一個維度去解釋IPU的誕生。“傳統數據中心內只有一個主人。而在云中，工作負載和系統則分別屬于租戶和云系統提供商，我們看到這兩種架構開始分離?！彼f，“IPU是一個新興的架構，專門運行云服務提供商的軟件，租賃這些服務器的租戶的軟件則在CPU上運行?！?/p>
用一個形象的比喻來解釋傳統數據中心與云服務提供商數據中心架構的不同，傳統的數據中心就像是家庭場景，客廳、廚房、餐廳都在一個大的區域內，有一個明確的主人。而云服務提供商的數據中心則像是酒店，客房、餐廳是分開的，酒店客人和工作人員也同樣分開。
Guido Appenzeller認為IPU帶來了三個顯著優勢，首先，加入IPU的架構可以清晰地區分租戶區和云服務提供商區。其次，可以把基礎設施功能轉移到專門優化的IPU上，實現性能的大幅提升。最后，IPU把數據中心變成了無磁盤架構，無需再給每臺服務器配備磁盤。
根據Facebook給出的數據，基于微服務的現代應用占用了大量的CPU循環，從31%-83%不等，比如在Web應用中，83%的CPU循環被用于開銷，包括傳輸、壓縮、解壓縮、加密等功能。如果把這些開銷從CPU轉移到IPU，云服務提供商就可以把整個CPU租給客戶。
鄢貴海也表示，數據中心東西流量與南北流量大約是4:1，東西流量統計的是數據中心節點之間流量，這表明底層基礎設施之間消耗的計算資源遠大于對外提供服務消耗的資源。目前來看，網絡卸載能力是客戶對DPU最剛性的需求。
接下來值得關心的問題就是這種新產品的技術路線。
有哪些類型的DPU/IPU？
李爽認為，目前DPU有三種技術架構，一種是Arm多核或MIPS多核，一種是CPU+FPGA的架構，一種是ASIC SoC的架構。前兩種已經被驗證過，優劣勢也比較明顯。多核架構具有通用性，整個技術棧偏軟件為主。
Guido Appenzeller只將IPU分為兩類架構，第一個是專用ASIC IPU；第二個是基于FPGA的IPU。“每一類都有自己的優勢和劣勢?；贔PGA的IPU能快速實施新協議，應對不斷變化的要求或新協議。專用ASIC IPU可以實現性能和效率的最大化。
“在美國和中國，六大云服務提供商目前使用基于FPGA的IPU。隨著帶寬變高，我們看到他們緩慢地轉向專用ASIC IPU。因為存在很多專利協議，所以不會發生快速轉變。” Guido Appenzeller指出IPU發展的趨勢。
鄢貴海也認同這個趨勢，“Arm/MIPS多核的方式在實際的應用系統中未必能真正發揮優勢，FPGA的方式可以在接口上省去一些功夫，但重要的部分沒有突破，我覺得是避重就輕。ASIC的限制條件更少，能進行更多的定制，實現更大的差異化，差異化越大才能有更大的優勢。”
“通過與客戶的溝通我們發現，市場對于DPU的認可度非常高，但還沒有一款很好的DPU能夠滿足客戶需求，大家都在期待一款好的產品?！崩钏赋鍪袌龆荚谄诖豢顑炐愕腄PU。
這里需要強調的是，雖然目前IPU/DPU與智能網卡（SmartNIC）在形態和功能上有一些類似，但他們本質上是不同類別的產品。Guido Appenzeller解釋，IPU 具有本地控制平面，這意味著IPU可以控制CPU，而SmartNIC更多的是卸載，由CPU管理，處于CPU的控制系統中。
一款有競爭力的DPU/IPU有哪些特性？
正如對于AI芯片的評價還沒有公認的評價體系，想要評價尚在探索階段的DPU也并不容易?！叭绻u價AI芯片的性能已經很困難，我覺得評價DPU的性能會更困難。由于DPU本身功能的多樣性，導致我們去衡量它的時候需要的不是一個指標而是一套完整的指標?！臂迟F海指出。
比如，衡量DPU的網絡加速功能，網絡帶寬是關鍵指標。DPU支持虛擬化，OVS的轉發容量又是關鍵?？剂緿PU的數據壓縮/解壓縮，加密和解密性能，在非對稱的性能中選擇哪一個作為關鍵指標又是問題。
李爽指出，無論如何，DPU的處理性能一定要大于端口的能力。
Guido Appenzeller說：“設計一款出色的 IPU有很多挑戰。我認為最難的部分是獲得加速器和流水線，因為它們負責做大部分工作，能夠確保具有非常高的性能、非常低的延遲，特別是對大規模云提供商影響最大?！?/strong>
當然，對于一款芯片來說，物理指標，包括性能、功耗和面積依然可以作為衡量一款DPU的重要維度。但更重要的衡量維度是整個DPU系統，因為DPU是典型的場景驅動芯片。
“CPU、GPU這些傳統的芯片都有標準的框架和技術定義，芯片設計公司按照定義去設計芯片，到了用戶端最困難的其實是驅動和軟件框架。所以最后會發現在芯片硬件性能相似的時候，比拼的是硬件和軟件的銜接。”李爽進一步表示，“DPU是一個全新的系統，沒有參考設計。這時候只有充分理解客戶的需求，從底層硬件架構到軟件設計出一套新型的芯片系統滿足客戶需求是非常大的挑戰。”
“要設計一款有競爭力的DPU，一定要對場景有非常深刻的理解?！崩钏瑥娬{。
對于這一點，英特爾已經用產品證明，其首款產品是一款200G的ASIC IPU，是與一家頂級云服務提供商共同合作開發，實現更高的性能，包括數據包處理，安全性和隔離性等。
鄢貴海也說：“像DPU這樣應用驅動的芯片，其性能最終要體現在應用側。要在應用側發揮出DPU領先的性能，我認為軟件會成為一個重要的瓶頸?！?/strong>
“這一點我們在之前已經感受到，在做網絡二、三層協議卸載的時候，為了能夠充分發揮性能，幾乎要重構底層的BSP網絡協議，但同時要保證API的不變?！?strong>鄢貴海說，“整個DPU系統的性能要提升，不僅要對應用層有足夠深度的了解，還需要有包括網絡、虛擬化、存儲、高速總線協議方面的專業知識。因此需要一套非常好的設計方法和流程，將具備不同設計能力，對不同領域有深度了解的人和設計整合起來?！?/strong>
“英偉達DPU的軟件棧DOCA是在復制了他們在GPU+CUDA領域的成功?？蛻粲袑W習和遷移的門檻，也是需要慎重考慮是否采用的選擇?！边@是李爽和鄢貴海的共識。因此大禹智芯和中科馭數都是通過在軟件層面投入大量的工作，取不同客戶需求的最大公約數提供相應功能，在API層面盡量兼容客戶已有的習慣，最大化降低客戶的使用門檻和遷移成本。
“目前我們還沒有準備好談論軟件，今年晚些時候會有更多相關消息?！?Guido Appenzeller表示。
那么，DPU系統的競爭，會朝著什么方向發展？
2-3年后正式開啟DPU賽場
有意思的是，此次與雷鋒網深度交流的三家DPU提供商，硬件路線都各有特色。英特爾是典型的傳統芯片巨頭的代表，他們擁有ASIC IPU和FPGA IPU兩條產品線。中科馭數選擇的是ASIC IPU的路線。大禹智芯采用Arm、FPGA、ASIC根據場景不同組合的路線。
ASIC一般而言是在犧牲一定的靈活性的前提下獲得高效處理能力。對于采用ASIC IPU路線的中科馭數，鄢貴海對靈活性的看法是，“如果分工過于細致但共享度不夠，可能會損失效率，但如果有足夠的共享程度，分工帶來的潛在靈活性損失會被極大彌補，這一點我倒不是特別擔心。而過分追求靈活性，也可能喪失DPU異構計算的潛力。”
大禹智芯堅持DPU的通用性。李爽解釋：“我們的目標是構建面向云計算市場的通用DPU。所以在軟件可以復用，硬件采用多種方案。這實際也是降低風險的方式，先配合上層應用定義好軟件，在這個過程中不斷提取對硬件的定義，減少因為對場景理解不夠透徹可能導致的芯片設計偏差?！?/p>
據悉，大禹智芯會使用Arm的IP以及第三方的FPGA，ASIC則是自己的芯片團隊設計。
至于最終的落地情況，中科馭數FPGA版本的DPU已經與上交所、華泰證券、中泰證券、國泰君安等十余家頭部客戶建立合作，其產品的性能、穩定性已經在實際應用場景中驗證。即將推出的下一代產品會向數據中心、5G邊緣計算等領域擴展。
大禹智芯首要的目標市場與英特爾一樣都是云服務提供商。李爽說，“我們的目標客戶是那些對于DPU的需求量不小，但又不夠支撐其自研的公司。這樣對于客戶和我們試錯成本都比較低。我們的策略是不做定制，要做DPU產品服務提供商。”
大禹智芯、中科馭數都把自己定位為中立的DPU供應商提供領域通用的芯片，核心的原因還是看到了這一市場未來的前景。頭豹研究院預測，中國DPU市場規模預計將在2025年達到37.4億美元。全球DPU市場規模2025年預計將達到135.7億美元。
中國DPU市場規模，2020-2025年預測，來源：頭豹研究院
報告同時指出，數通市場是DPU最大的應用市場，其中裸金屬服務其對DPU存在剛需。DPU在電信市場的應用主要為邊緣計算場景，滲透率不足5%。針對智能駕駛領域的DPU仍在探索階段，預計在2023年DPU才有望布局在智能駕駛領域。
Guido Appenzeller 認為“從根本上來說，運營模式類似云就非常適合采用IPU。”
“未來2-3年市場會爆發，因為現在各家公司的DPU從今年開始設計，硬件系統大概需要2-3年的時間。我認為近三年大家都沒有競爭關系，是在比賽誰先把產品推向市場。”李爽表示。
鄢貴海同樣認為，“2-3年后市場陸續會有DPU產品推出，那時候DPU的競爭會更強調先進制程、先進封裝。我認為未來DPU的競爭一定是異構系統的競爭。”
Guido Appenzeller 對于當下DPU市場的態度是，“有幾家初創公司正在開發DPU，而且擁有許多有趣的技術和產品，這對所有廠商來說都是非常有益的。從長遠來看，我認為云端的幾乎每個服務器都會有類似 IPU 的東西，這顯然是一個很大的市場。漸漸地，這不再是一個初創市場，而是由大公司主導的市場。”
但除了傳統的芯片巨頭和初創公司，頭部的云廠商們也在自研DPU產品。亞馬遜云科技（AWS）2013年開始就開始研究將網絡、存儲等之前由CPU處理的任務卸載到網卡上，并推出了相應的產品。阿里云也在其神龍服務器核心組件中應用了專用芯片，統一支持網絡、I/O、存儲和外設的虛擬化。
此時，DPU的性能和成本優勢都是競爭的關鍵。李爽預估，云服務提供商采用DPU后可以帶來十倍的性能提升，TCO（總體擁有成本）能下降超過10%。鄢貴海在有很多限制條件下做出的預估更加樂觀，TCO下降可以達到30%。
讓人更加期待的是，當IPU/DPU讓云服務提供商擁有更強的能力之后，未來可能創造的新產品和新應用。
資本在加持，玩家在增加，傳統芯片巨頭、初創公司、自研DPU的頭部云服務提供商，誰會成為最終統治市場的2-3家DPU提供商？
相關文章：
DPU芯片“國家隊”中科馭數完成數億元A輪融資，今年實現單季度千萬級營收
英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
