地平線張永謙：邊緣AI芯片在AIoT市場落地面臨5大挑戰

AIoT 融合落地方興未艾，工業制造智能轉型迫在眉睫。

為了構建行業對 AIoT 產業的全新認知，解析 AIoT 泛產業的 “云、管、邊、端” 及智能制造產業的發展，探討當下 AIoT 行業落地困境及工業互聯網發展思路，2019 年 11 月 22 日，全球 AIoT 產業· 智能制造峰會在深圳隆重舉行，本次會議由雷鋒網主辦，由深圳市軟件行業協會、深圳市大數據產業協會、深圳市人工智能學會、深圳市人工智能行業協會作為支持單位。

作為雷鋒網精心打造的唯一年度 AIoT 盛會，峰會聚焦 AI、IoT、5G、邊緣計算及其場景應用在內的關鍵技術發展；聚焦智能家居、智能制造、智慧城市為核心的關鍵產業落地，致力于打造探討 AIoT 技術發展及產業落地中關鍵問題的行業技術峰會。為產學研思想碰撞、融合應用提供一個前沿陣地，為政企各界專業人士提供一個交流互動的專業平臺。

在上午的「AIoT 技術變革」論壇上，地平線副總裁兼智能物聯網芯片方案產品線總經理張永謙帶來了《邊緣 AI 芯片賦能行業，共建普惠 AI 時代》的分享。他表示，AIoT設備數量的快速增長背后隱藏著巨大的需求和商業機會。這其中，邊緣產生的數據和有限的骨干網的處理能力之間的矛盾愈加凸顯，要解決這個矛盾一定是云、端、邊緣相結合。

地平線副總裁兼智能物聯網芯片方案產品線總經理張永謙

在邊緣側，邊緣AI芯片光有算力還不夠，還要看算力的有效利用率。不僅如此，AI芯片不應該只是一個硬件，而是需要軟硬結合。具體到AIoT的場景，張永謙認為AI的落地面臨多形態產品、場景效果、快速開發應用、硬件開發、系統整合5個挑戰，并且具體介紹了地平線如何一步步拆解解決這些挑戰。

以下為雷鋒網做了不改變原意編輯整理的演講實錄：

AI確實已經越來越多地和我們的生產、生活相結合，也開始去創造一些真實的價值。我今天要和大家分享的是地平線在邊緣側如何做Al芯片解決方案，以及如何把邊緣側和云端結合在一起，讓整個AI落地。

首先談一下計算，計算從中央往邊緣越來越分散，一開始大家用的是大型機，然后到PC，每個家庭一臺，到了手機每人一部，到AloT的時代，終端設備的智能化的趨勢越來越明顯，我們認為在不久的將來智能設備的數量可能比全球總人口數量高一個數量級，甚至兩個數量級。這個過程背后隱藏著巨大的需求和商業機會，這個也是我們非常感興趣的一個地方。

5G其實是為AloT去做準備的，它可以讓端側、邊緣側接入的設備數量大大增加，接入的質量也大大增加。但5G會帶來一個更大的矛盾，就是在邊緣側巨大的數據每天都在產生，但建設骨干網和云端，擴容和成本都是非常大的挑戰。

也就是說到了5G時代，邊緣側產生的數據和比較有限的骨干網的處理能力之間的矛盾會愈加凸顯。要解決這個矛盾，將來AI的落地一定是云、端、邊緣相結合，需要達到一個動態的平衡。前端我們必須做智能化的處理，一個大的架構是前端做大量的感知，真正的云端做比較復雜的認知，這其中就形成了一個動態的平衡，讓整個網絡的性價比達到最優。

邊緣計算這幾年比較火，因為它還有一些別的優點，比如在隱私保護上面，相比把數據傳到云端，數據留在端上可以被更好地保護。當然邊緣計算這個詞也越來越火，現在跟云計算并列成為整個架構里面一個關鍵的元素。

講到邊緣計算的時候不能不提邊緣AI芯片，這幾年國內很多的公司都在提AI芯片，地平線從公司創立之初一直在做這個事情。從我們的角度看，邊緣AI芯片跟傳統的芯片有一個很大的不一樣的地方，就是傳統的芯片大家基本都是講PPA，也就是Power功耗、Performance性能，Area芯片面積（成本）。這些要素主宰了摩爾定律在過去二十年到三十年間的快速發展。

到了AI邊緣側計算的時候，這個評估變得很復雜。首先大家在提AI芯片的時候會提我有幾個T的邊緣算力，但是光有算力不夠，還要看算力的有效利用率。比如你有一個T的算力，但是你在實際場景只有30%的有效利用率，意味著70%的成本包括維持芯片正常工作的功耗都被白白浪費。

這之上要再看AI芯片的處理場景，針對這個場景處理的輸出結果的有效性指標是不是最優，也是衡量整個AI芯片，包括上面算法一個最重要的指標。我們把這幾點結合在一起，最終才能真正去評估。

基于上面的分析，地平線2015年成立之初做AI芯片的時候，就不單純是一個芯片公司，我們做了大量的軟件工作。我們在設計芯片的時候，除了芯片的架構，還設計了相應的指令級、編譯器以及模型結構。這些其實都是我們對于未來幾年主流邊緣側、AI場景的一個預判。我們在設計芯片整個架構和模型時，都會和這個預判緊密結合，把整個軟硬件結合在一起。我們認為只有這樣才能滿足邊緣側對性價比、能耗比非常苛刻的要求，才能把邊緣側AI芯片做好。

在我們看來，AI芯片不應該只是一個硬件，而是需要軟硬結合。最好的踐行者就是蘋果，大家用蘋果手機即使用得很久，也會覺得非常流暢，因為它把軟硬件做得非常好。即便蘋果的主頻和純粹的物理計算力可能比高通要低，但事實上蘋果手機運行操作系統，工作兩三年以后，它的流暢性和工作性能，要高于同等主頻下面的芯片廠商提供芯片的手機，這是一個很好的例子解釋軟硬結合的威力。

這是我們公司自己做的一個評估，在我們公司自主研發的芯片上面輸入720p的圖象，運行一個人臉識別的場景的算法。如果我們不考慮軟件、編譯器和架構，單楨消耗是141.9 MB per Frame，單楨計算延遲43.77毫秒，計算資源利用率57%。我們把編譯器打開之后做優化，它單楨的帶寬消耗是大大降低了，計算的資源利用率可以達到95%，它跟外面存儲數據的交換次數和時間大大減少。這個例子體現了軟硬結合的威力，這是我們公司成立到現在一直在努力的方向，我們在底層賦能的上面給用戶帶來的價值就是軟硬結合。

我們有信心把摩爾定律延續下去，傳統的摩爾定律是工藝為主，臺積電已經在籌備3納米的工廠。但是通過軟硬件的結合，我們可以看到還有很大的發展空間。

下面講一下地平線，地平線是2015年7月份成立，是中國第一家軟硬結合的、真正面向AI做芯片的公司，率先提出了軟硬結合的BPU架構。

2017年12月份，地平線發布了中國第一款邊緣AI芯片——旭日一代和征程一代，旭日一代面向AloT，征程一代面向智能駕駛，我們比較榮幸是臺積電全球第一家流片AI芯片的公司。

2018年，我們的征程芯片登陸美國頂級的Robotaxi車隊。2018年底，旭日一代落地的首年，我們的芯片和解決方案出貨量達到了六位數。

今天這個大會的主題是“智能制造”，所以這里我就是給大家介紹一下我們面向AloT 的AI芯片，地平線在剛剛結束的安博會上發布了旭日二代，這是面向AloT的邊緣芯片處理器，等效算力是4T。

除了剛剛講到的軟硬結合的芯片理念之外，我接下來講一下我們的邊緣AI芯片是如何賦能整個行業的。

在我們軟硬結合的基礎之上，面對行業里面非常有能力的客戶，我們會提供一個底層的工具鏈，這些客戶都有很好的算法團隊，有非常豐富的行業里的場景和數據，他們可以用我們的芯片和工具鏈，在這之上訓練出來他們自己的模型。

這個訓練區別于普通的計算芯片，對于未來的主流場景的算法演進趨勢，我們投入力量做了非常大的預判，在我們的芯片里，我們對非常多的算法做了進一步的加速，這樣，客戶用我們的處理器和工具鏈結合他們的數據做訓練的時候，相當于站在我們的肩膀之上。如果是一個普通的AI處理器，可能需要幾位比較資深的算法工程師，花較長的時間進行訓練，但是在我們這上面需要幾位相對來說比較入門的或者不需要那么資深的工程師，同樣可以快速地訓練出來模型。這是對于很多新的應用和分散的邊緣側的應用有好處的事情，能夠大大降低企業的投入和產品上市的時間。

2015年到現在四年多的時間， AloT在整個邊緣側落地的局面里存在一個問題，真正自己有很強AI能力的公司，包括算法能力、數據能力，占的比例非常少，可能連1%都不到。

大量的企業都有著非常豐富的行業經驗，可能他們也有些行業數據，但是對于如何把AI在邊緣側做好，這個事情其實對他們來說挑戰非常大。因為這是一個系統級的事情，大家可以看到它面臨著非常多的挑戰：

第一是各種形態的AI產品，比如像攝像頭、智能面板機、各種形態的機器人、智能家電等等。這么多的AI產品形態，如何能夠把它進行產品化，是一個非常挑戰的過程。

第二是場景下的智能效果，你可以去購買一個AI芯片，再從某個算法公司里面找到你想要的算法，之后你要把這么多的東西自己整合在一起，還要考慮輸入的圖象質量，真正打造一個在邊緣側可以非常好地去做智能感知、分析，解決場景化需求的產品。其實做出來一個demo級的東西和一個產品級真正可用的東西，中間的需要投入的資源差別非常之大。如何能夠把邊緣側的產品效果、AI的效果做得非常好，不光要有算力，還要把效果做好，也很難。

第三是如何快速開發上層的智能應用。因為在邊緣側落地的場景的復雜度，即便有芯片、有算法、有很好的圖象輸入仍然不夠，因為整個前端的場景的策略非常復雜，你今天有一個基礎的算法，輸出一些結構化的信息，但是這些結構化的信息離你想要的有用信息其實是往往差得非常遠，怎樣能夠快速地基于應用，把跟應用相結合的有效的軟件開發出來，這中間還有一個很大的鴻溝。而且你每到一個場景會發現，可能策略都不太一樣，這個時候怎么樣快速開發上層的智能應用是第三個挑戰。

第四是硬件的挑戰，因為我們在這個過程之中發現，AI因為他是跟場景打通的，并不是像傳統的產業鏈分工這樣，做產品的做產品，做硬件的做硬件，然后再賣給那些真正在行業里面落地的。其實有非常多的行業和應用里的客戶，他們離場景最近，知道AI怎么用，他們非常想自己擁有一個智能的產品，而不是再從某個第三方采購，他希望他可以直接拿到一個智能化的非常好的產品，但是硬件開發對他們來說其實是非常頭疼的，因為大量的公司原來從來沒有做過硬件的開發。

第五是系統級的整合。一個做AI芯片的公司，即便像地平線這樣的公司軟硬結合做得非常好，還提供工具鏈，但是會發現真正賦能行業的時候99%的用戶用不起來，太復雜了，產業的分工還沒有形成，產業鏈沒有變得那么成熟，需要我們多做一步去賦能，去克服這些挑戰。

后面我會詳細介紹一下，我們賦能的方式，就是針對邊緣側的場景做芯片級的解決方案，進一步地賦能我們客戶。

AloT是一個很大的概念，我們做解決方案的時候從上面的挑戰一步步拆解，第一是不同形態的AI產品，這里面主要是做三類，第一類是攝像頭，大家都知道攝像頭芯片覆蓋的場景非常廣。第二是帶屏幕智能產品，可以用來交互的面板機的產品，主要用在一些近距離的交互上。第三種邊緣側的計算盒子的解決方案，比較靈活地對接各種前端的感知的數據，這是目前基于地平線第一代旭日芯片和第二代旭日芯片的邊緣側AI解決方案。

首先說一下大家最關心的智能，我們有一個全棧的智能算法的能力，我列出來最主要針對人的智能化，因為人的智能化市場目前看起來是最先落地的一個市場。一級結構化，對一些原子的智能檢測，到二級的結構化，可以做一些識別，包括做屬性的分析和語音，然后再到最外層的三級結構化，對被分析目標的時間和空間的運動做進一步的語義級的分析，像Re  ID，基于旭日芯片，地平線有全棧的能力賦能我們的客戶。這是對密集人群3D的建模，包括實時的跟蹤，包括五個關鍵點的分析，這樣能夠為時空里面的追蹤、Re  ID包括行為分析打下一個非常好的邊緣側的基礎。

所有的密集人群里面的時空分析，其實都是在2瓦左右的邊緣側的一個小的AI芯片上完成的，它的性價比比傳統的服務器大大提高，能耗也大大降低。

有了好的算法之后還需要有好的圖象輸入，這個圖象輸入也是一個技術活，不是選定了某一個芯片里的某一個ISP就好了，對于不同的場景要做大量的微觀的調試，通過算法克服場景里圖象輸入帶來的一些干擾，比如在室外布了一個智能感知的設備，一天中太陽的角度從早晨到中午、到晚上，冬天到夏天，強光、暗光，然后背光、逆光等等，在不停地變化，怎么讓這個設備在一天中能夠自動地去獲取最好的圖象效果，就要做非常多的圖象的調優。

下面談一下工程，怎么樣在邊緣側和端側快速開發不同的智能產品。我們在軟件架構上做了統一的規劃，讓我們快速推出這些方案，也讓客戶在這個軟硬架構上面可以快速地基于我們提供的底層做上層的應用開發。我們把這些智能能力都封裝好，把整個硬件，包括OTA升級和云對接的SDK這些工作在我們的方案里面打包做好，用戶可以很快的在這上面開發他們的應用。

我們除了把與我們芯片周邊相關的做了完整的算法設計，去確保圖象識別的效果，我們還對智能攝像頭的模組也進行了設計，這樣客戶可以直接用已經調試好的整套硬件的核心部分，再加上外圍自己擴展的部分，快速完成硬件的設計。

真正去布到場景里去的時候，即便把剛才那些都做了，效果可能還會受一些非常小的因素帶來的很大影響，比如在低照的情況下如何補光，又比如有的時候通過可見光做不好，要補其他的光線，像紅外光。

補光燈的位置、功率多少也會直接影響到圖象輸入，以及最終的效果。整個這些參考設計，我們都會在里面做好，讓客戶真的可以快速地完成產品化的過程。

除了這些，我們還會幫助我們的客戶在一些比較關鍵的行業去過行業檢測。我們推出第一代的AI芯片之后逐步摸索，慢慢給廣大的客戶去賦能，梳理清楚要做的事情及思路。目前我們已經推出了三個系列的解決方案，最上面是針對智能面板機的解決方案，另外是針對智能IPC的方案，還有像通行、考勤、可視對講等，這里面主要針對人臉的智能化。攝像頭里面人臉的識別現在用得最多，還包括在商業場景用的客流分析，以及在一些相對要求復雜的場景里做人員的結構化分析，以及行為分析。這些也都同樣可以沉淀在我們邊緣側的分析單元里。

最后我想總結一下：地平線是專注于邊緣AI芯片及解決方案的公司，我們在底層通過軟硬結合，以及整套的解決方案去賦能，目前在行業里面像我們能夠有這么大的投入、有這么全面能力的公司其實非常少，因為這個路確實比較艱苦，又要做芯片、又要做算法、又要做方案。

我們的服務理念是堅決不做行業應用，我們不會和我們的客戶去競爭，也不會因為看到某一個行業在大爆發，就直接沖到最下游去，既做產品又做項目，然后把我們合作伙伴的事都給做了。我們還是恪守我們的本份，做底層的技術賦能。

我們最終的目標是希望能夠讓AI更加普惠，不是只在少數有實力的組織才能去玩的東西，而是通過我們的軟硬結合和解決方案，能夠讓AI走到行業客戶的面前，客戶在上面再把整個行業的應用進行更好的開發，然后在邊緣側形成一個非常好的智能感知的輸入和篩選。在邊緣側的AI再和云端的AI相結合，最后讓這個技術整個在行業里面真正地落地。

關注「雷鋒網」公眾號，發關鍵詞「2019 AIoT峰會—地平線」，獲取本文精彩演講PPT。

相關文章：

大咖云集，觀點碰撞！《全球 AIoT 產業· 智能制造峰會》圓滿落幕

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。