英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元

本文作者：吳優(yōu)

2020-10-05 22:52

導(dǎo)語：此次GTC開幕演講中，黃仁勛也提到了英偉達與Arm的關(guān)系。

雷鋒網(wǎng)消息，10月5日，英偉達召開一年一度的2020 GTC（GPU技術(shù)大會）。黃仁勛再次在自家廚房發(fā)表了開幕演講，這次演講主要分為4個部分：數(shù)據(jù)中心、邊緣人工智能、協(xié)作工具和醫(yī)療保健。

核心亮點包括：

數(shù)據(jù)中心：推出英偉達Blue Field-2 DPU和英偉達Blue Field-2X DPU，具有英偉達Mellanox的所有功能；推出DOCA SDK。
邊緣人工智能：宣布推出英偉達EGX AI平臺，使各種規(guī)模的組織能夠快速有效地大規(guī)模部署人工智能；推出Jetson Nano 2GB開發(fā)套件，范圍包括從入門級AI設(shè)備到高級平臺。
協(xié)作工具：支持百萬設(shè)計師實時合作的開源測試版本Omniverse平臺，流媒體視頻AI平臺英偉達Maxine。
醫(yī)療保?。和蜥t(yī)療公司GSK及其AI集團合作，正建造供英國醫(yī)療人研究人員使用的超級計算機。

新一代DPU加速數(shù)據(jù)中心

黃仁勛說，當(dāng)下的數(shù)據(jù)中心是由軟件定義的，這使得數(shù)據(jù)中心更加靈活的同時也產(chǎn)生了巨大的負擔(dān)，數(shù)據(jù)中心基礎(chǔ)架構(gòu)的運行能夠消耗20%-30%的CPU核心，因此需要一種新的處理器，即DPU（Data Processing Unit）。

英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元

DPU究竟有什么作用？根據(jù)英偉達官方的解釋，DPU是一種SOC，集三個關(guān)鍵要素于一身：

行業(yè)標(biāo)準(zhǔn)的、最高性能及軟件可編程的多核CPU，通?；趶V泛的Arm架構(gòu)，與其SOC組件密切配合；
高性能網(wǎng)絡(luò)接口，能以線速或網(wǎng)絡(luò)中的可用速度解析、處理數(shù)據(jù)，并高效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。
各種靈活和可編程的加速引擎，可以卸載AI、機器學(xué)習(xí)、安全、電信和存儲等應(yīng)用，并提升性能。

DPU的這些功能對于實現(xiàn)安全的下一代云上大規(guī)模計算至關(guān)重要。

基于英偉達今年四月收購的Mellanox的最新研究成果，英偉達推出了兩款DPU產(chǎn)品，英偉達BlueField-2 DPU與BlueField-2X DPU。

英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元

據(jù)英偉達介紹，BlueField-2 DPU具有英偉達Mellanox Connext-6 SmartNIC的所有特點，并與強大的Arm內(nèi)核連接在一起，且是可完全編程的，能夠提供每秒200千兆比特的數(shù)據(jù)傳輸速率，加速關(guān)鍵數(shù)據(jù)中心的安全、網(wǎng)絡(luò)和存儲任務(wù)。

BlueField-2X DPU則擁有包括BlueField-2 DPU的所有關(guān)鍵特性，其特性能夠通過英偉達安培GPU的AI功能得以增強。

為了能夠讓開發(fā)人員在DPU加速的數(shù)據(jù)中心基礎(chǔ)設(shè)施服務(wù)上構(gòu)建應(yīng)用程序，英偉達還推出類似于英偉達CUDA編程模型幫助開發(fā)人員構(gòu)建GPU加速的應(yīng)用程序——DOCA軟件開發(fā)工具包。

英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元

值得一提的是，DOCA為開發(fā)人員提供了一個全面、開放的平臺，完全集成在一個軟件目錄中，能夠為第三方應(yīng)用程序提供商提供一個方便的軟件環(huán)境，利用DPU加速數(shù)據(jù)中心，并開發(fā)、認證和分發(fā)應(yīng)用程序給客戶。

黃仁勛宣布，將在英偉達下一代安培GPU添加新的BlueField-2，用于英偉達AI計算。

此外，黃仁勛還公布了英偉達DPU的發(fā)展路線圖，預(yù)計在2023年推出400 TOPS、400Gbps的BlueField-4，這意味著在短短幾年內(nèi)，英偉達DPU的計算吞吐量將跨越近1000倍。

英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元

EGX AI平臺部署人工智能，民主化的Jetson AI機器人

黃仁勛認為，總有一天數(shù)以萬計的人工智能設(shè)備和機器人將遍布家庭、辦公樓、商店等場所，充斥整個地球，“為了支持這一大規(guī)模的轉(zhuǎn)變，英偉達創(chuàng)建了一個加速計算平臺，幫助公司實現(xiàn)數(shù)據(jù)中心的現(xiàn)代化，并在任何地方部署人工智能。”

這里所說的加速計算平臺即英偉達EGX人工智能平臺，該平臺的系統(tǒng)能夠通過戴爾、聯(lián)想、浪潮、超微等領(lǐng)先的服務(wù)器制造商獲得。

英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元

英偉達還宣布，EGX平臺正在擴大合并英偉達安培GPU和BlueField-2 DPU在單個PCIe卡上的功能，為企業(yè)提供了一個共同的平臺來構(gòu)建安全、加速的數(shù)據(jù)中心。

為了部署和管理EGX服務(wù)器，英偉達推出一項名為英偉達艦隊司令部的新服務(wù)，將邊緣計算的安全和實時處理能力與遠程管理和軟件服務(wù)的易用性結(jié)合起來，能夠通過統(tǒng)一的控制平面，集中管理遍布廣大地區(qū)的服務(wù)器，包括工廠、醫(yī)院、零售店甚至城市街道。據(jù)悉，全球供應(yīng)鏈解決方案的領(lǐng)導(dǎo)者KION集團正在使用英偉達EGX AI平臺為其智能倉庫系統(tǒng)開發(fā)AI應(yīng)用程序，提高零售配送中心的吞吐量和效率。

去年，英偉達推出了售價為99美元的Jetson AI計算機，今年擴大Jetson AI在邊緣平臺上的入門級開發(fā)套件，售價僅為59美元。

英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元

據(jù)悉，作為Jetson系列的新成員，Jetson Nano 2GB開發(fā)人員套件是為教學(xué)和學(xué)習(xí)人工智能的人群而設(shè)計的，其范圍從入門級AI設(shè)備到高級平臺，用黃仁勛的話講，Jetson AI機器人是民主化的機器人。為了支持人工智能教學(xué)，英偉達還宣布了Jetson免費在線的可用性，補充了許多開源項目，數(shù)千名開發(fā)人員都活躍在Jetson社區(qū)，培訓(xùn)和獲得人工智能認證。

Booz Allen Hamilton分析和人工智能研究主任Drew Farris說：“在Booz Allen，我們尋求增強人們改變世界的能力。我們正在使用英偉達 Jetson來培訓(xùn)新的技術(shù)資源，因為人工智能對于企業(yè)和人員來說至關(guān)重要，利用人工智能來解決最困難的全球問題挑戰(zhàn)。”

安培架構(gòu)拓展至專業(yè)視覺產(chǎn)品線，Omniverse構(gòu)建元宇宙

除了在數(shù)據(jù)中心和邊緣人工智能方面取得的進展，英偉達還宣布推出協(xié)作工具Omniverse平臺的開放測試版本和AI數(shù)據(jù)流平臺Maxine，構(gòu)建致力于AI醫(yī)療研究的超級計算機“劍橋1”。此外，英偉代還在GCT fall上宣布延展至專業(yè)視覺產(chǎn)品線的安培架構(gòu)。

英偉達DPU計算吞吐量三年將跨越近1000倍！Jetson AI機器人價格低至59美元

Omniverse是世界上第一個基于英偉達RTX的三維仿真和協(xié)作平臺，它融合了物理和虛擬世界，實時模擬現(xiàn)實，并具有真實感的細節(jié)?！癘mniverse允許設(shè)計師、藝術(shù)家、創(chuàng)作者甚至人工智能在不同的世界中使用不同的工具，在一個共同的世界中連接合作，共同創(chuàng)造一個世界。”黃仁勛說。

使用Maxine，開發(fā)人員可以減少視頻帶寬消耗，降低供應(yīng)商成本名為終端用戶提供能流暢的視頻會議體驗，改善視頻會議的經(jīng)驗。

除了提高普通流媒體的用戶體驗，英偉達在GCT Fall上宣布，正在與AWS展開合作，發(fā)布英偉達CloudXR，并在Amazon EC2 P3和G4上可用。據(jù)悉，英偉達CloudXR平臺包括 CloudXR軟件開發(fā)工具包、Quadro虛擬工作站軟件和AI SDK。借助云流式的體驗，專業(yè)人員可以輕松設(shè)置、擴展和訪問來自任何地方身臨其境的體驗，不再受到VR環(huán)境的限制。

在GTC Fall上，英偉達還宣布推出面向?qū)I(yè)設(shè)計師的Quadro RTX A6000和英偉達A40 GPU，與上一代產(chǎn)品相比，新一代GPU具有新的RT核心、Tensor核心和CUDA核心，加快了圖形渲染和AI的速度。

最后，值得注意的是，在此次演講中，黃仁勛也提到了英偉達與Arm的關(guān)系，宣布了推進Arm平臺重大舉措：