<mark id="oztn4"></mark>
0
AI時代下，人人都在講開源（Open Source）。
開源一詞，可以說是近些年人工智能領域最熱門的主題詞之一。從概念上理解，開源全稱為開放源代碼，指企業/開發者/普通終端用戶能夠利用源代碼在其基礎上進行修改和學習。
這一概念從提出至今，已經歷三十年的發展。從最初Linux開源操作系統，到Github平臺社區的建立，再到Tenseflow等重量級框架的出現，國外早已形成一條完整的開源產業鏈；而反觀國內，雖然起步較晚，但近些年也進入了一個加速發展的階段。
從技術層面來看，如今大熱的大數據、區塊鏈、人工智能、物聯網領域，其中最重要、最受歡迎的技術都是開源的。從企業層面來看，騰訊開源萬億級分布式消息中間件 TubeMQ，百度開源 PaddlePaddle ，一個比肩PyTorch、TensorFlow的國產深度學習框架，還有阿里、滴滴、小米等也都開源了很多軟件。
另外，除了這些互聯網巨頭外，也不斷有其他科技企業為開源加碼，其中，值得一提的是，曠視開源其深度學習框架——天元（MegEngine），這是國內首家開源深度學習框架的AI獨角獸企業。
毋庸置疑的是，開源軟件已經對人工智能產業發展形成了強大的推動力量，由此，也吸引了越來越多的中堅力量加入其中。 不過，從長遠來看，中國的開源產業還處于剛剛起步的階段，而且其中也面臨著諸如開源人才短缺、項目不足等挑戰。
因此，在機遇與挑戰并存的AI時代下，未來如何發展中國的開源產業，構建開源生態是所有從業者需要思考和解決的問題。
作為開源產業的積極倡導者，曠視在2020中關村論壇期間舉辦了一場平行分論壇，以“人工智能開源開放和生產力促進”為主題，邀請了來自海內外的數十位專家學者和企業代表，從自身學術觀點和產業實踐的角度出發，分享了各自對開源產業未來發展趨勢的獨到見解，以及如何通過軟件開源，技術協作助力人工智能產業落地等問題的思考。
除此之外，在論壇上，曠視首席科學家孫劍博士還帶來了深度學習框架天元的重大技術升級。最后，論壇還設置了圓桌討論環節，邀請到七位資深專家探討了深度學習開源框架的深度趨勢和應用落地。
9月18日上午9時許， 在曠視科技資深副總裁趙立威的主持下，嘉賓分享環節正式開啟，第一位分享的是中國工程院院士鄭南寧教授。
中國工程院院士鄭南寧：重塑 AI 的創新基礎：數據、算法和計算能力
鄭南寧教授指出，當前以深度學習為代表的新一代人工智能技術，正面臨著卷積神經網絡帶來的局限性，以及如何應對指數級復雜性任務的挑戰，而解決這些問題，我們需要新的AI計算架構。
在他看來，符號主義的基本問題是，很難從低級信息直接形成符號實體，而連接主義的問題是，缺乏推理和因果關系的表達能力，無法解釋決策背后的推理，無法表征人類的語言學習能力，難以實現高階的認知功能，這就需要將符號主義算法與連接主義相結合去探索新的計算架構。
對此，鄭南寧教授進一步指出，
人類所需要解決的問題具有不確定性和開放性，任何機智能機器都無法完全取代人類在現實世界的交互，那么，如何恰如其分地把人的作用引到人工智能系統中，建立新的混合增強的人工智能框架，是一個非常值得探索的重要方向。
最后，他強調框架開源對推動人工智能發展至關重要。人工智能生態系統的發展可以統稱為AI堆棧，通常由三個組件來構成，一是基礎設施，二是開發環境；三是業務線的應用程序和服務。其中，應用程序的開源庫，指的就是Tensorflow、Caffe等深度學習開源框架，它是人工智能技術發展所需工具和技術主要來源。
因此，他表示，曠視天元等國產深度學習框架選擇開源，對提高我國人工智能的核心競爭力，對AI生產力發展及生態建設都具有重大意義。
清華大學高等研究院雙聘教授沈向洋：AI 科技：人才 發展 創新
沈向洋教授圍繞人才、發展和創新三個主題詞講述了當前人工智能發展面臨的機遇和挑戰。
第一，如何把人口紅利變成工程師紅利，培養AI人才。他認為，應該培養學生讀論文、作實驗、寫論文和作報告的能力，除此之外，還要培養學生基本的團隊協作和溝通的能力。
第二，如何從深度學習到深度理解，促進AI發展。在過去幾年，在大數據、算法的支持下，感知智能取得飛速發展，尤其是在計算機視覺、語言識別領域。對于人工智能下一階段的發展，沈向洋認為將會聚焦于認知智能，包括從認知模型到常識建模、到因果推理都是重要的研究方向。而且，自然語言處理將在其中發揮核心作用。
如他所說，“從感知到認知，懂語言者得天下，我們必須要把自然語言里的認知問題搞清楚”。雖然諸如GPT-3、BERT等超大模型已經在語言處理方面表現出了驚人的性能，但他相信，它們的理解還是遠遠不夠的，未來還會有更多混合模型的方法被提出。
第三，在創新層面，未來中國的開源應該如何做？沈向洋認為首先開源是文化問題，我們要認識到開源不僅是抄代碼，更重要的是貢獻代碼，甚至是引領開源項目，在這一點上，百度、阿里、曠視等科技公司做了很多工作，是我們學習的榜樣；另外，是創造更多的工具和平臺，與國際現有平臺接軌，同時，為開發者提供更多創新和創新的機會。
清華大學計算機系副主任，教育部長江學者特聘教授胡事民：機器學習框架"計圖"的創新與探索
胡事民教授主要通過計圖的研發歷程，講述了高校如何做深度學習框架的技術創新。教授介紹稱，計圖框架支持30多個骨干網絡，27種GAN模型以及更多的AI應用。其內部框架分為系統層、計算圖層以及算子層，在這其中，我們做了很多創新工作。
首先是算子層，Tensorflow有2000多個算子，不但難維護而且管理成本高。計圖在這里發現了一個更優的解決方案，即可以把其中最簡單的計算提煉出18個，稱為元算子，再通過與其他算子組合再做算法。
另外是計算圖的問題。計圖通過結合Google靜態圖和Facebook動態圖的優勢，提出了一種統一計算圖的概念，即通過元算力理論，將其做成局部靜態優化，可以在提高性能的同時，增強靈活性。
對于框架下一步的研發方向，教授認為會聚焦在可微編程技術，如圖靈獎獲得者LeCun教授所說，“深度學習已死，可維編程萬歲”。在他看來，目前深度學習的框架提供的可微模塊和算子需要優化訓練，隨著任務越來越復雜，比如渲染、幾何、物理模擬等可能無法實現，那么，我們就需要自底向上搞一套可微編程的東西，這非常重要。
最后，教授強調，中國的深度學習框架不是多了，而是少了，只有百花爭鳴才能共同發展，另外，無論是企業還是開發者都應該積極擁抱開源，互相支持，共同發展，才能使中國人工智能做得更好，走得更穩。
中移系統集成有限公司副總經理王昀：共建5G新生態 共贏智慧新時代
王昀提出，5G是一個新的開端，之前3G、4G移動互聯網是為個人娛樂服務的，而5G將通過與人工智能結合，為整個工業互聯網服務，為整個社會的千行百業服務，它會提高整個國民經濟生產要素的效率和組織能力，這對于社會的回報是非常高的。
當然高回報的同時，也意味著高投入，截止到2025年，僅三個運營商，5G網絡建設投資累計將達到1.2億
隨后，王昀介紹了當前中國移動在5G網絡技術上的最新進展：
在技術上，中國移動的5G專利多達1700多項，在全球運營商里排名第一。
在能力上，將5G與AI結合，將產生的海量數據，再次通過人工智能技術應用到工業、港口、礦山、輪船等各行各業中，真正實現通信能力與AI能力的結合。
在生態上，中國移動已經與國內很多AI企業達成了合作關系。
隨后，王昀具體介紹了中國移動在數字城市、數字政府等方向上，利用AI與5G結合的應用案例。目前中國移動已經形成了完整的人工智能產品體系，未來他表示，希望通過與更多企業合作真正，讓該產品真正落地，賦能百業。他說，
中國移動在融入千行百業，每個行業都有不同的應用，不同的合作伙伴，不同的需求，我們除了做中間的平臺，做底層5G網絡和物聯網的接入之外，我們希望和學校，相應的AI公司和政府能協同起來。
Imagination全球副總裁Andrew Grant ：在邊緣側神經網絡處理器IP中使用開源的AI 框架
Andrew Grant主要講述了開源AI框架在邊緣側神經網絡處理器IP中的使用，如何有效地集成到多個AI框架，以及開源社區的價值等三個方面。
Grant強調，邊緣側AI推理從根本上承擔了以前僅適用于云的工作負載，它通過在所有類型的設備中嵌入高性能推理，為移動、工業、安全、物聯網等多個產業發展帶來了新機遇。接下來，他具體從邊緣推理加速器、GPU等方面進行了論述。
首先，邊緣側推理加速器具有4-16位的可變帶寬，其動態定點數據類型，可以幫助用戶優化精度，并具有高度確定性。它還為Android NN提供過濾器目數選擇，為Tensorflow Lite帶來兼容性和更好的量化特性。因此，IMG的邊緣側加速器，即NNA，具有很高的PPA效率，可擴展并且支持多實例。
另外，在GPU方面，當我們構建AI Synergy方法以利用Hyperlane技術時，浮動任務可以在GPU上運行而且您可以使用Khronos的行業標準API，包括OpenGLES、OpenCL和Vulkan，而Imagination公司的GPGPU可以補強Imagination NNA，在運行不同的工作負載時，每個負載都針對特定IP進行了優化。
IMG DNN API是一個單獨的IPI，它使開發人員只需最少的代碼更改即可輕松地將應用程序從GPU移植到NNA，從而使開發人員能夠啟用軟件和工具。
隨后，教授介紹了如何使用開源工具建構神經網絡生態的示例。與此同時，他也強調，開源是創新和機器學習發展的最有效的手段。
MLPerf負責人David Kanter ：加速機器學習的創新
David Kanter主要分享了關于機器學習的潛能，以及全社會如何通過開源共享成果，進而讓機器學習發揮更大價值。在他看來，機器學習的發展和應用，存在三個關鍵點：
第一是基準和指標，它可以讓研究人員、市場客戶與供應商之間形成共識，并得到統一且最優的解決方案。
第二是實現開源開放。通過Tensorflo和PyTorch等開源框架，以及大規模數據集的共享，加速整個行業的發展。例如ImageNet數據集的出現，推動了計算機視覺領域的發展。
第三是最佳實踐。更多的開發者能夠基于最好的機器模型進行訓練和部署，幫助減少使用機器學習模型的阻力并復現。例如Linux項目，正式通過開源社區的開發者們不斷下載、優化、上傳而最終實現的。
最后，Kanter強調無論是自動駕駛、翻譯、醫療診斷還是圖像技術，機器學習都能夠發揮重要作用，而開源開放平臺，以及最佳實踐和行業標準正式推動其發展的核心力量，希望能夠有更多的開發者參與到其中。
在嘉賓們分享結束后，曠視研究院院長、首席科學家孫劍重磅發布了曠視天元（MegEngine）1.0預覽版。
今年3月份，曠視正式開源了其自研深度學習框架—曠視天元（MegEngine）。該命名取自棋盤的中心點，在之后的6個月內，天元經歷了多項技術升級和多次版本迭代。
此前，6月份更新的Beta版重點優化了三方面的特性，一是支持各種ARM系列的CPU，二是量化訓練模型的推理功能，三是性能優化，這次的1.0預覽版在此基礎上，圍繞訓練一體，全平臺高效支持、動靜結合三大核心優勢，進一步帶來了5項技術升級。
全新Imperative Runtime：解決資源釋放問題，改善動態圖的特性。
自動代碼剪裁：最小化推理時的代碼體積，提升端側推理效率。
推理性能優化：推出近十種推理優化方法，端側推理性能進一步提升。
國產硬件支持：支持更多國產AI芯片，推理更高效。
基于MLIR的靜態子圖優化引擎：融合編譯器最新算子優化方式，提升深度學習訓練和推理速度。
曠視一直強調，“訓練一體，為產業應用而生”，是天元框架的最大特色，也是天元開源的初心。在論壇上，孫劍博士針對這一點做了具體的分享，在框架的生態建設方面，天元提供大量的圖像分類、圖像檢測、圖像分割、關鍵點、自然語言處理、生成對抗網絡等基礎預訓練模型；在開源生態方面，與小米的MACE，Open AI的Tengine等不同的深度學習端側推理引擎達成合作；在開發者方面，提出培訓和激勵計劃，推動其發展和衍生等。
同時，他也強調未來天元還會不斷進行技術升級和版本迭代。
目前AI領域不乏一些重量級的深度學習開源框架，比如主流的Tensorflow、PyTorch以及國產新秀PaddlePaddle等。那么，如何在未來的技術迭代上，持續保持自己的核心優勢，擴大產業應用范圍？是曠視需要面對的問題。
對此，孫劍博士也分享了三點思考，他表示，真正提高AI生產力平臺，標準化深度學習開發流程將是首要的發力方向；其次，編譯器技術在深度學習框架領域逐漸成為趨勢，曠視也會在這個方向上加大投入力度；最后是AI芯片，曠視的目標是實現AI芯片去黑盒化，在框架中支持不同類型的AI芯片，以提高訓練和推理性能。
最后，值得一提的是，除了開源開放促進AI產業落地外，曠視創始人兼CTO唐文斌還正式發布了“人工智能加速計劃”，進一步從技術開源開放、人才培養和產業標準定制兩個方面助力AI與傳統產業的深度融合。
在開源開放方面，曠視還推出了Brain++商業版，幫助企業快速、高效低建立AI基礎設施。據驗證，Brain++可有效縮短80%算法從需求到落地時間，整體降低55%的算法生產成本。
在人才培養方面，曠視通過“辰星計劃”，培養3000名AI人才；通過企業培訓，培養1萬名能夠通過Brain++完成算法生產的AI人才。
在產業標準制定上，曠視已經參與了一系列國內外的AI產業標準制訂，未來將在基礎技術互通標準，AI行業應用標準，AI治理標準等多個方面上繼續發力，與合作伙伴共同推動行業的良性發展。
在曠視高級副總裁趙立威的主持下，論壇進入了最后的高峰對話環節。該環節圍繞“深度學習開源框架的技術趨勢及應用”，邀請了來自產業界和學界的7位重量級嘉賓展開深度探討。
他們分別是清華大學計算機系教授唐杰，寒武紀副總裁劉道福，北京一流科技有限公司創始人袁進輝，曠視研究院高級技術總監田忠博，小米深度學習框架負責人何亮亮，OPEN AI LAB（開放智能）Tengine產品負責人程實，北京燧原智能科技有限公司首席架構師李翔。
趙立威提問：最近發布的GPT-3，含有1750億參數，模型大小達到了700個G，一次訓練成本高達上百萬美元，各位如何看待現在神經網絡數據量參數、訓練成本不斷上升的趨勢？
唐杰：其實，回過頭來看近10年的發展歷程，從最初的計算上云，到數據上云，云端存儲和共享已經成為計算機發展的一種必然趨勢。從這個角度來看，如果未來語言模型上云，GPT-3相當于給全世界訓練了一個語言模型，那么在某種程度上，它的成本并不高，或者還可以說降低了。而且我們不需要每個人都去維護一個大數據，維護一個計算資源，或者維護一個訓練模型，這樣還可以把更多的資源和精力放在算法研發和產品落地上。
李翔：我想說的是BERT模型，事實證明，在NLP領域陷入瓶頸時，谷歌提出這樣一種簡單粗暴的方法是可行的。即把一些簡單結構變成一個大的模型，直接利用算力來解決問題。這種方法其實也帶給我們一些啟發，當我們在應用領域的研發非常困難時，利用硬件優勢解決問題可能更加有效，所以，我覺得GPT-3之后，還會有更多更大的模型出現，這是一種趨勢。還有另外一種趨勢是很多研發人員愿意通過壓縮、量化的方法來減少算力的需求，我覺得這兩種趨勢可能會相輔相成，相互促進。
趙立威提問：在深度學習框架領域，接下來最重要的技術創新方向有哪些？
何亮亮：我想突出的一點是，在深度學習框架領域，創新從未停止，當“破壞式”創新出現的時候，可能會顛覆整個生態。比如，今天很多學界和工業界，因為PyTorch的技術創新而改變了生態。另外，深度學習編譯，包括單設備編譯以及分布式編譯，也出現了很多創新的想法。比如，微軟研究院最近開源一項最新編譯技術，相信兩個月文章后發表會引起編譯技術重要變革。
田忠博：在深度學習領域，有很多值得關注的技術，如大規模并行、芯片適配，但我認為最重要的是框架的編譯器化，它代表著一個全新的范式，一個本質的變革。
就像沈向洋來時所說智能來自代碼，人工智能產業本質上是由生產出來的代碼支撐的，而編譯技術就是生產代碼最重要的技術之一。我相信框架編譯器化是未來的趨勢。我們在天元1.0版中引入MLIR技術，也是希望能夠和編譯器的社區做更深入的探索。
趙立威提問：業界非常關注這幾家企業為什么要開源自己的框架，背后的思考過程是什么？與公司商業化是否能夠形成閉環？
田忠博：我覺得我們開源天元是為了曠視人、為了中國人的技術理想，我們希望能夠在這里表達自己的聲音，能夠把我們的技術理念更好的傳播給大家，為了更好的人工智能的未來。
袁進輝：很多框架研發者都是算法科學家出身，他們做框架是給自己用的，因為別人的框架不滿足不了需求，那么為什么還要開源呢？我理解的是，開源是非常好的軟件分發手段，它能直接和用戶、場景發生關聯。這就像如今的自媒體直播一樣，它能夠讓更多有才華的人有展示的機會。
趙立威提問：計算機研究在工業界和學界的差距究竟有多大，如何克服并搭建溝通二者的橋梁，包括學術界、工業界對技術成熟度的判斷是否有標準上的差異呢？
唐杰：最近幾年，學術界在算法方便做了很多引領性的工作，包括CVPR、ICCV收錄的論文數量爆增，其中有很多重磅的研究成果。同樣，工業界也做出了很大貢獻，尤其是在數據規模、算力、算法方面。
最近幾年，AI發展逐漸進入一個Stable穩定期，學術界開始做一些fundamental的研究，側重挖掘理論研究背后的本質東西，而產業界更加關注場景落地，比如，算法是否能為工業帶來真正價值，節省成本或者更高的收入，更多的是從經濟角度去衡量，這是學術界和工業界之間形成的Gap。
那么如何Bridge二者之間的Gap，我覺得這是一件很難的事情，如果學術界和工業界耦合太緊，一定會走向兩個極端，學術界會繼續看十年、甚至二十年的東西，而工業會繼續研究現實的場景落地，所以，接下來的紀念，二者之間的Gap會越來越大，這是我的一個大膽預判。
趙立威提問：AI作為一種新的生產力，我們的共識是它將在不久的未來重塑所有的傳統行業，當然在落地過程中又面臨場景、人才以及需求、部署、成本這些挑戰。未來我們要如何解決這些挑戰？
田忠博：我認為智能時代的深度學習技術就像工業時代的電，會從最初有限的應用范圍，擴展到我們日常生活的每分每秒中。對于AI落地過程中的挑戰，我們應該從以下幾個方面考慮：第一，需要有完整、全面地從生產到應用的整體解決方案；第二，需要足夠多的AI人才，我們可以通過不斷地培訓，為社會輸送高質量人才；第三，推動AI技術在各個行業的滲透率，讓更多開發者低成本享用到最新技術，這樣才能和整個智能時代的發展相輔相成。
何亮亮：我談兩個目前存在的挑戰，一是算法能力和產品落地Gap的問題；二是企業部署成本的問題。前者簡單說，就是懂產品的人不懂算法，懂算法的人沒有產品意識。為了解決這個問題，我們一方面是鼓勵算法和產品部門加強交流；二是補齊他們各自的短板，比如鼓勵產品人去了解相機的算法、可穿戴設備的算法等。
后者部署成本問題，可以分解為兩個方面：一是固定成本，二是可變成本。固定成本，我們需要提升研發的效率，像數據平臺化，計算平臺化等能夠提升數據采集和算法研發的效率。可變成本，就是硬件成本，在保證算法效果前提下能使用更好的算力，這可以通過模型的量化壓縮和自動化機器學習的方法來減少模型對算力的要求。
AI時代下，開源開放與生態建設正在蓄勢待發。
無論是從開發者、企業，還是整個AI產業發展的角度來講，開源開放在其中都發揮著巨大的價值和潛力，這一點從學術界及產業界的嘉賓分享中可以洞見。
另外，曠視開源天元框架也再次印證了這一點。與科技巨頭們不同，天元框架對于這家僅成立九年的公司來說，不僅是其Brain++平臺的核心組件，也是驅動其從創業成長為AI獨角獸的核心引擎。
而曠視選擇開源，一方面是對技術和產品的信心，而另一方面是看到了開源背后的“多贏效應”。
不過，要想在中國形成一條完整的開源產業鏈還有很長的路要走。從論壇中的分享來看，為應對當前開源產業面臨的挑戰，主要解決方案聚焦于以下三點：
在人才方面：引導開發者參與開源項目，實現從抄代碼，貢獻代碼、到開發項目的躍遷。
在企業方面：搭建類似于Github的開源平臺，研發并開源更多的工具和技術。
在生態方面：打通技術、企業合作的上下游，構建開源社區，推動中國開源軟件基金會的建立等。
以上方案中，企業無疑發揮著中堅力量。如果開源開放產業是未來不可逆的大趨勢，那么，企業是否越早布局越好？
雷鋒網雷鋒網雷鋒網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
