英特爾物聯(lián)網(wǎng)副總裁Jonathan Ballon：未來(lái)20年AI將有一半在邊緣上

11月14日至15日，英特爾人工智能大會(huì)（AIDC）在北京舉行。大會(huì)上，英特爾公司物聯(lián)網(wǎng)事業(yè)部副總裁Jonathan Ballon發(fā)表了以“數(shù)據(jù)時(shí)代，人工智能產(chǎn)品創(chuàng)新與實(shí)踐”為題的演講。

他指出，在英特爾以數(shù)據(jù)為中心的轉(zhuǎn)型中，邊緣是分布式計(jì)算的一環(huán)，是真正采取行動(dòng)的地方，而計(jì)算機(jī)視覺是AI落地的重要機(jī)會(huì)。

Jonathan表示，大量的數(shù)據(jù)在邊緣產(chǎn)生、在網(wǎng)絡(luò)上產(chǎn)生、在基礎(chǔ)架構(gòu)上以及在本地產(chǎn)生。這些數(shù)據(jù)需要大量的計(jì)算資源進(jìn)行處理，同時(shí)也對(duì)數(shù)據(jù)處理速度有著很大需求，很多情況下要求接近于實(shí)時(shí)的數(shù)據(jù)分析，并最終成為一種自動(dòng)化系統(tǒng)。與此同時(shí)，這些數(shù)據(jù)還是多種類型的。這意味著，異構(gòu)的計(jì)算架構(gòu)是部署AI的關(guān)鍵。

“過去幾年大家意識(shí)到，所有最好的AI能力是在GPU上，這是一種錯(cuò)誤的認(rèn)為，事實(shí)上今天如果去看一下邊緣部署，它實(shí)際上是在本地發(fā)生，有些時(shí)候可能是比較困難的環(huán)境，所以你需要一個(gè)異構(gòu)的計(jì)算架構(gòu)才能夠在這些部署當(dāng)中取得成功。”

 一組預(yù)測(cè)數(shù)據(jù)顯示，2017-2025年的AI軟件收入中，幾乎有一半是基于計(jì)算機(jī)視覺。也就是說(shuō)，邊緣上的AI，最大的機(jī)會(huì)來(lái)自于計(jì)算機(jī)視覺，比如說(shuō)機(jī)器視覺、視頻監(jiān)控、醫(yī)療影像、預(yù)測(cè)性維護(hù)、質(zhì)量保障、制造場(chǎng)所等。

雷鋒網(wǎng)曾報(bào)道，前段時(shí)間，在英特爾中國(guó)物聯(lián)網(wǎng)峰會(huì)上，英特爾重新定義了英特爾物聯(lián)網(wǎng)的戰(zhàn)略，重點(diǎn)關(guān)注在三個(gè)層面，物聯(lián)網(wǎng)芯片、邊緣計(jì)算和計(jì)算機(jī)視覺。

據(jù)雷鋒網(wǎng)了解，在物聯(lián)網(wǎng)芯片方面，從凌動(dòng)（ATOM）到至強(qiáng)（XEON），整個(gè)系列處理器支持包括英特爾最近在布局的新零售領(lǐng)域的數(shù)字標(biāo)牌、交互式白板、安防領(lǐng)域的智能攝像頭等應(yīng)用。除此之外，英特爾在專用芯片和軟件工具上著力，提供包括Movidius芯片、FPGA硬件加速、無(wú)線連接芯片、OpenVINO開發(fā)工具包。

在計(jì)算機(jī)視覺方面，英特爾收購(gòu)了機(jī)器視覺公司Movidius，并且推出了針對(duì)機(jī)器視覺領(lǐng)域高端市場(chǎng)的Movidius Myriad VPU，基于自己的硬件設(shè)備推出優(yōu)化的人臉檢測(cè)、人臉屬性識(shí)別等計(jì)算機(jī)視覺技術(shù)。

在邊緣計(jì)算方面，英特爾已經(jīng)與合作伙伴一起在邊緣側(cè)部署了一系列邊緣服務(wù)器（Edge Servers）、AI數(shù)據(jù)中心等，也希望未來(lái)能夠在邊緣進(jìn)行AI訓(xùn)練。

會(huì)后，雷鋒網(wǎng)參加了媒體問答環(huán)節(jié)，以下為問答原文：

Q：英特爾目前整體的戰(zhàn)略是什么？物聯(lián)網(wǎng)在其中是什么樣的地位？

A：您提了很好的問題，謝謝。英特爾的戰(zhàn)略是從一個(gè)過去以PC為主導(dǎo)的企業(yè)向以數(shù)據(jù)為核心的公司進(jìn)行轉(zhuǎn)型。我們認(rèn)為數(shù)據(jù)將會(huì)驅(qū)動(dòng)下一代計(jì)算架構(gòu)的發(fā)展，并且在此過程之中，AI（人工智能）有關(guān)的應(yīng)用會(huì)加速這個(gè)發(fā)展的過程。在過去15年的時(shí)間里，我們看到云和數(shù)據(jù)中心的業(yè)務(wù)呈現(xiàn)出非常強(qiáng)勁和顯著的增長(zhǎng)，但是現(xiàn)在我們發(fā)現(xiàn)大趨勢(shì)是在向分布式計(jì)算進(jìn)行演進(jìn)，這也意味著終端或設(shè)備要和云進(jìn)行互動(dòng)，這樣的發(fā)展趨勢(shì)將會(huì)產(chǎn)生大量的機(jī)會(huì)以及可能性，這主要是關(guān)于數(shù)據(jù)的處理、存儲(chǔ)和分析。

我們認(rèn)為，在未來(lái)20年的時(shí)間里，人工智能所產(chǎn)生的這些機(jī)遇或者說(shuō)機(jī)會(huì)，將有一半體現(xiàn)在網(wǎng)絡(luò)的邊緣之上。這也意味著對(duì)于英特爾公司來(lái)說(shuō)，物聯(lián)網(wǎng)實(shí)際上是會(huì)發(fā)揮一個(gè)非常重要的作用。我們要做的工作就是將我們?cè)谠贫司邆涞哪芰M(jìn)一步擴(kuò)展延伸到網(wǎng)絡(luò)。換言之，在將周遭的世界進(jìn)行數(shù)字化的過程當(dāng)中，我們將更有效、更高效的挖掘物理世界能帶給我們的價(jià)值。當(dāng)然這樣的過程就和過去或者現(xiàn)在我們來(lái)挖掘并充分利用互聯(lián)網(wǎng)的過程是一樣的。

Q：我們知道物聯(lián)網(wǎng)本身是一種萬(wàn)物互聯(lián)的狀態(tài)，在這樣的狀態(tài)中，系統(tǒng)級(jí)的方案以及物聯(lián)網(wǎng)的服務(wù)可能是物聯(lián)網(wǎng)往更高層次提升的必備條件。從英特爾的角度來(lái)講，你們提供的物聯(lián)網(wǎng)解決方案以及硬件，如何能夠更好的讓AI應(yīng)用最終細(xì)化成終端用戶的一種全新物聯(lián)網(wǎng)體驗(yàn)？

A：很好的問題。我們認(rèn)為物聯(lián)網(wǎng)是有三種不同的狀態(tài)或者是階段。在第一種狀態(tài)之下是未被連接的設(shè)備間的互聯(lián)，換言之這是讀取數(shù)據(jù)的過程，基本上這個(gè)環(huán)節(jié)我們是已經(jīng)都做到了。我們看到其實(shí)在過去十來(lái)年的時(shí)間里，包括我們?cè)跀?shù)據(jù)中心當(dāng)中處理或者存儲(chǔ)的這些數(shù)據(jù)，現(xiàn)在都已經(jīng)不能夠完全滿足物理世界對(duì)于數(shù)據(jù)的需求。

物聯(lián)網(wǎng)發(fā)展的第二種狀態(tài)，高度的互聯(lián)和復(fù)雜的互聯(lián)，就是你剛才提到叫做智慧的系統(tǒng)。在這個(gè)層級(jí)上我們不僅僅是考慮單個(gè)的一些終端和設(shè)備，不再是單一的渦輪機(jī)或者單一制造的生產(chǎn)線，而是由很多很多的終端設(shè)備組建起來(lái)，如同艦隊(duì)一般。我們現(xiàn)在在這個(gè)階段里需要考慮的是如何實(shí)現(xiàn)系統(tǒng)層級(jí)的變化。

物聯(lián)網(wǎng)發(fā)展的第三種狀態(tài)，我們稱之為由軟件定義的高度自動(dòng)化的系統(tǒng)。在這個(gè)階段里我們將看到高度自我學(xué)習(xí)的能力，或者說(shuō)某種程度上，這個(gè)系統(tǒng)本身可以脫離人類的控制，實(shí)現(xiàn)某種程度自動(dòng)化的運(yùn)營(yíng)或者運(yùn)作。

前面提到三個(gè)不同的狀態(tài)和階段，在每一個(gè)階段或者狀態(tài)當(dāng)中，當(dāng)我們把人工智能應(yīng)用進(jìn)去的時(shí)候，我們會(huì)發(fā)現(xiàn)價(jià)值實(shí)現(xiàn)了增速。比如當(dāng)我們?cè)谶M(jìn)行連接并從中往外讀取數(shù)據(jù)的時(shí)候，如果能夠輔以大數(shù)據(jù)或者分析能力，便會(huì)增加價(jià)值。說(shuō)到這一點(diǎn)，如果想要在系統(tǒng)一級(jí)獲得明顯的額外收益，我們需要深度學(xué)習(xí)，需要人工智能在邊緣或者數(shù)據(jù)中心上進(jìn)行一些推理和培訓(xùn)。

Q：您其實(shí)在剛才的報(bào)告中也談到邊緣計(jì)算對(duì)物聯(lián)網(wǎng)的重要性，現(xiàn)在很多的AI應(yīng)用尤其是大規(guī)模的AI應(yīng)用，很多都是需要很強(qiáng)大的計(jì)算能力，在邊緣這種計(jì)算能力受限的地方要實(shí)現(xiàn)部分AI應(yīng)用的時(shí)候，它怎么能夠去更好的控制任務(wù)分配的狀況，同時(shí)能夠保證這些邊緣設(shè)備不會(huì)增加太多的成本和計(jì)算能力的消耗？

A：過往我們?cè)谄髽I(yè)和數(shù)據(jù)中心所遵循和執(zhí)行所有的原則，最終也同樣會(huì)在邊緣上實(shí)現(xiàn)和遵循。我們認(rèn)為會(huì)出現(xiàn)一個(gè)應(yīng)用的虛擬化。首先在Hypervisor這樣的層上，我們會(huì)針對(duì)數(shù)據(jù)中心里面的應(yīng)用搭建一些容器。一方面我們先把這些應(yīng)用集合起來(lái)，放在通用的計(jì)算平臺(tái)之上；另一方面，我們也會(huì)根據(jù)不同的條件來(lái)對(duì)應(yīng)用進(jìn)行具體的優(yōu)化，比如具體的使用場(chǎng)景是什么，或者會(huì)面臨的一些限制是什么，這些限制有很多種：帶寬的限制、延時(shí)的限制和安全上的限制，比如你來(lái)回來(lái)去導(dǎo)數(shù)據(jù)會(huì)產(chǎn)生安全方面的限制，我們會(huì)把所有的這些因素都綜合起來(lái)考慮。所以總的來(lái)說(shuō)，我們會(huì)根據(jù)成本、速度或者具體的使用場(chǎng)景和目的等等，來(lái)加以考慮。現(xiàn)在云服務(wù)供應(yīng)商們正在把這些能力在慢慢地向邊緣進(jìn)行擴(kuò)展，所以將來(lái)我們會(huì)看到在邊緣出現(xiàn)很多的數(shù)據(jù)中心。

Q：前段時(shí)間英特爾中國(guó)物聯(lián)網(wǎng)峰會(huì)重新定義了英特爾物聯(lián)網(wǎng)的戰(zhàn)略，重點(diǎn)關(guān)注在三個(gè)層面，一個(gè)是物聯(lián)網(wǎng)芯片，一個(gè)是邊緣計(jì)算，一個(gè)是計(jì)算機(jī)視覺。我想了解一下這三個(gè)方面的情況。

A：過去15年的時(shí)間里，我們的戰(zhàn)略都是非常清晰，我們要把在硅片上原來(lái)既有的優(yōu)勢(shì)慢慢向IOT（物聯(lián)網(wǎng)）市場(chǎng)進(jìn)行轉(zhuǎn)移，過去15年我們都是這樣做的。比如我們面向數(shù)據(jù)中心的至強(qiáng)，比如我們面向PC、面向平板、面向移動(dòng)終端的酷睿和凌動(dòng)芯片，現(xiàn)在都會(huì)慢慢往IOT的市場(chǎng)里進(jìn)行擴(kuò)展。過去15年我們已經(jīng)這樣做，把既有的能力進(jìn)行擴(kuò)展，除此之外我們還要做得更多。我們發(fā)現(xiàn)整個(gè)IOT市場(chǎng)的精密度和復(fù)雜度在上升，現(xiàn)在確實(shí)有必要為了特定的使用場(chǎng)景和范例來(lái)培養(yǎng)一些獨(dú)特的能力。在這里可以給你舉一些例子，比如時(shí)間統(tǒng)籌的計(jì)算能力。具體而言，在一條生產(chǎn)線上有整個(gè)一個(gè)艦隊(duì)的機(jī)器人在工作，你需要在時(shí)間上進(jìn)行協(xié)調(diào)，讓所有生產(chǎn)線上的機(jī)器人能夠同步加以運(yùn)作，而且這中間的時(shí)間差可能就是10納秒，非常小，這是IOT非常明顯的特點(diǎn)。

第二個(gè)例子，所謂功能性安全。比如我們有一個(gè)鐵律，機(jī)器人不能傷害到人類，我們需要運(yùn)用到計(jì)算機(jī)視覺，通過計(jì)算機(jī)視覺看到說(shuō)有一個(gè)人或者有一個(gè)物體可能正好擋到了機(jī)器人的路上或者怎樣，這種情況下就會(huì)發(fā)出指令，讓這個(gè)機(jī)器人立刻關(guān)機(jī)，不能再動(dòng)，否則就會(huì)傷害到人類。我只是想通過這些例子來(lái)說(shuō)明我們現(xiàn)在有必要專門針對(duì)IOT一些獨(dú)特的使用目標(biāo)來(lái)開發(fā)出一些能力，這就是為什么我們要專門有所謂IOT芯片。此外還有一些其他例子，比如我們芯片可能要適應(yīng)極端的溫度，要在特別炎熱的高溫下正常運(yùn)作，或者這個(gè)芯片可能要壽命特別長(zhǎng)，至少要用15年或者15年以上。這些都是IOT市場(chǎng)當(dāng)中非常獨(dú)特的一些要求，也正因?yàn)槿绱耍覀儸F(xiàn)在有你剛才提到的專門的IOT芯片組。至于邊緣計(jì)算，剛才前面幾個(gè)話題一直都在講邊緣計(jì)算，就不再做過多的闡述。

計(jì)算機(jī)視覺，我們認(rèn)為整個(gè)IOT傳感器到了最后，實(shí)際上還是一個(gè)視覺的效果，最終我們是需要有視覺能力再配備上深度學(xué)習(xí)，使IOT能夠獲取高于人類的很高的精度或者準(zhǔn)確度。

Q：物聯(lián)網(wǎng)這些年也經(jīng)歷過起起落落，今年看到物聯(lián)網(wǎng)方面很多大公司把物聯(lián)網(wǎng)提到戰(zhàn)略的層面，英特爾今年物聯(lián)網(wǎng)有什么突破？

A：我覺得原因在于我們到了所謂的引爆點(diǎn)。在過去幾年時(shí)間里，確實(shí)有很多公司在技術(shù)層面上進(jìn)行試驗(yàn)和測(cè)試，現(xiàn)在我們認(rèn)為技術(shù)已經(jīng)相對(duì)來(lái)說(shuō)比較成熟，畢竟這些公司在過去幾年的時(shí)間里對(duì)技術(shù)進(jìn)行了大量的嘗試。現(xiàn)在我們會(huì)發(fā)現(xiàn)人工智能、物聯(lián)網(wǎng)和真正的生產(chǎn)有機(jī)地結(jié)合起來(lái)，并且在現(xiàn)實(shí)當(dāng)中得以部署，還不斷地在擴(kuò)大規(guī)模。所以說(shuō)到這里，這個(gè)大背景之下產(chǎn)生兩個(gè)非常重要的因素：首先人工智能的確是在加速物聯(lián)網(wǎng)，因?yàn)槲锫?lián)網(wǎng)部署能夠帶來(lái)的經(jīng)濟(jì)效益和價(jià)值是真實(shí)和可見的，這是第一個(gè)要素。

第二個(gè)要素主要關(guān)于競(jìng)爭(zhēng)，是競(jìng)爭(zhēng)的壓力和競(jìng)爭(zhēng)的要求。各個(gè)大公司都在積極部署相應(yīng)的系統(tǒng)，因?yàn)樗麄兏惺艿絹?lái)自業(yè)界同行的壓力。換言之，如果現(xiàn)在不能夠通過IOT來(lái)有效地獲取這些數(shù)據(jù)，不能夠有效地利用這些數(shù)據(jù)的話，就會(huì)被競(jìng)爭(zhēng)對(duì)手甩在身后。

Q：我這邊了解到英特爾物聯(lián)網(wǎng)部署多個(gè)產(chǎn)業(yè)的領(lǐng)域，比如安防、零售、自動(dòng)駕駛、智能家居等等，現(xiàn)在英特爾看好哪一個(gè)領(lǐng)域，覺得它發(fā)展會(huì)比較快，能夠有真正的回報(bào)？

A：目前來(lái)說(shuō)，如果看機(jī)會(huì)和機(jī)遇的話，最為成熟的一個(gè)市場(chǎng)細(xì)分還是和工業(yè)有關(guān)的，尤其在中國(guó)更是如此。整個(gè)國(guó)家的智能制造戰(zhàn)略，包括從工業(yè)3.0向工業(yè)4.0的升級(jí)，都會(huì)在工業(yè)這個(gè)領(lǐng)域具體的應(yīng)用中帶來(lái)很大的機(jī)會(huì)。比如像阿里巴巴在這方面也有很多的工具或者解決方案，將基于中國(guó)這些制造業(yè)的能力進(jìn)行升級(jí)，走向下一代更高的水平。在下一代之中，將會(huì)有更多由機(jī)器來(lái)驅(qū)動(dòng)的價(jià)值，而不是像過往那樣靠人來(lái)驅(qū)動(dòng)或者產(chǎn)生價(jià)值。

如果放眼更加長(zhǎng)遠(yuǎn)的話，我認(rèn)為最大的機(jī)會(huì)還是在智慧城市方面。但是目前來(lái)說(shuō)和智慧城市相關(guān)的可能也僅僅是在安全、安防和交通管控上，因?yàn)楫吘乖谶@個(gè)環(huán)節(jié)里還不是那么的成熟。

Q：現(xiàn)在尤其是在邊緣計(jì)算或者跟物聯(lián)網(wǎng)終端這邊比較相關(guān)的一些產(chǎn)品中，他們基本上都選用NPU，去作為整個(gè)系統(tǒng)處理器的一部分，專門做人工智能方面相關(guān)的應(yīng)用。而英特爾并沒有在自己的架構(gòu)當(dāng)中做這樣的調(diào)整，可能還會(huì)用以前的普通CPU的架構(gòu)去處理。這對(duì)于在邊緣計(jì)算中的開銷以及計(jì)算效率是否會(huì)產(chǎn)生一些影響？英特爾沒有這么做的原因是什么？你們做人工智能神經(jīng)計(jì)算棒的產(chǎn)品，里面這些處理器能夠作為一個(gè)獨(dú)立的物聯(lián)網(wǎng)節(jié)點(diǎn)出現(xiàn)嗎？還是只是為了讓開發(fā)者們?nèi)W(xué)習(xí)或者使用了解人工智能的一些簡(jiǎn)單應(yīng)用而制造的一個(gè)過渡性產(chǎn)品？

A：不管是谷歌的TensorFlow也好，還是NPU神經(jīng)處理單元，還是視覺處理單元等等，它們究其本質(zhì)還是推理的能力。目前英特爾主要把關(guān)注點(diǎn)放在視覺處理的環(huán)節(jié)上，因?yàn)樵谖覀兛磥?lái)，在眾多的數(shù)據(jù)類型當(dāng)中，計(jì)算機(jī)視覺的推理其實(shí)是復(fù)雜度、難度和重要性更高一些。

目前為止除了英特爾公司之外，沒有任何一家企業(yè)能夠規(guī)模化地推出加速器的芯片組，只有英特爾可以。當(dāng)然其他有些公司會(huì)做一些專屬目的的人工智能芯片，基本上都殊途同歸，本質(zhì)上是一樣的。對(duì)于未來(lái)的方向，會(huì)有一些不同的流派，比如谷歌有自己的處理集團(tuán)，它認(rèn)為把這個(gè)和谷歌云配對(duì)起來(lái)是對(duì)的；微軟認(rèn)為用FPGA配合他們的云是正確的架構(gòu)。所以目前在這個(gè)工作領(lǐng)域里面，整個(gè)行業(yè)還處在一個(gè)相對(duì)早期的階段，大家的重頭戲還是放在推理上，至于推理的工作可能會(huì)有各種不同的配置。

說(shuō)到計(jì)算棒，這是我們專門用來(lái)支持創(chuàng)新的開發(fā)工具，不只是指著它來(lái)掙錢，沒想賣好幾百萬(wàn)個(gè)掙大錢，不是這樣。這只是一個(gè)工具，讓開發(fā)者能夠有更好的能力來(lái)真正獲取AI方面的能力，而且京東也在賣。

Q：請(qǐng)您講一下英特爾物聯(lián)網(wǎng)三大戰(zhàn)略，互聯(lián)網(wǎng)高性能芯片、邊緣計(jì)算和計(jì)算機(jī)視覺，這三塊對(duì)應(yīng)的產(chǎn)品具體是怎樣的？它們是怎樣配合起來(lái)提供給其他的合作伙伴？

A：我嘗試著在我認(rèn)為可以的范圍內(nèi)做如下的回答。就戰(zhàn)略來(lái)說(shuō)我們有多年演進(jìn)的路線圖，比如在芯片組方面，在視覺計(jì)算單元方面，從凌動(dòng)到酷睿到至強(qiáng)，我們都有未來(lái)五年的發(fā)展路線圖，這里面也會(huì)涉及到專門面向IOT市場(chǎng)的特定功能和性能。邊緣計(jì)算是我們一整套的戰(zhàn)略，這個(gè)戰(zhàn)略意在將邊緣終端所產(chǎn)生的價(jià)值更好地挖掘出來(lái)。在過去一年的時(shí)間里，針對(duì)不同的行業(yè)我們已經(jīng)推出了150個(gè)邊緣計(jì)算的解決方案。在計(jì)算機(jī)視覺方面，里面意味著大量硬件方面的組合，包括視覺的處理單元、加速器、卡，還有OpenVINO這樣的工具，以及配合上一整套的算法。現(xiàn)在英特爾能夠?yàn)槲覀冋麄€(gè)生態(tài)鏈的合作伙伴提供軟件、服務(wù)、云、系統(tǒng)的集成能力。

相關(guān)文章：

英特爾AIDC大會(huì)：向AI開發(fā)者敞開懷抱，更加注重生態(tài)搭建

英特爾重申IoT三大戰(zhàn)略，邊緣側(cè)布局初見成效

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。