AIR 019 | 華為諾亞方舟實驗室主任李航：我們在人工智能領域的愿景與實踐

作為華為諾亞方舟實驗室的主任， 北京大學、 南京大學的兼職教授，我們能夠很輕易地發現，在李航身上兼具著一種學者的探索精神和華為公司特有的研發氣質。在今天下午進行的GAIR大會“人工智能的商業場景”這一議程中，李航以“智能化信息助手”這一愿景為切入口，為大家分享了世界500強之一，中國科技界的領軍企業，華為公司在人工智能和深度學習領域的發展和思考。

首先，李航闡明了諾亞方舟實驗室的概況。他說，實驗室成立4年多以來，主要關注人工智能、機器學習、數據挖掘等前沿科技領域的研究。同時，也面對華為三大BG事業群聚焦一些前沿產品的開發，例如智能通訊網絡，企業BG的大數據應用，消費者BG的智能語音助手等。

其次，他重點表示，華為諾亞方舟實驗室的愿景之一，就是打造一個全智能化的智能移動手機終端，用戶將通過自然語言的方式從終端獲取一切想要的信息和協助。

然后他以該愿景為目標，介紹了目前在諾亞方舟實驗室研發的兩款終端類軟件產品，以及三個智能信息化檢索技術。

兩款產品

第一款產品是華為手機上的App市場。他表示，面對3億用戶，每天3千萬次檢索，1億次下載總量的大數據挑戰，諾亞方舟實驗室一直在聯合華為終端公司共同努力，智能化地為客戶提供檢索結果和推薦App。

第二款產品是華為“手機服務”。該產品是華為手機上的一個App，用戶可以用自然語言的方式向它求助在手機使用過程中遇到的各種問題，在每天10萬次當量的問題求助中，有超過90%的用戶都可以得到滿意的回答。

其次是三個利用深度學習算法實現的智能化檢索技術。

三個技術

第一個是用自然語言檢索分類照片。該方式不使用人工或機器學習的形式預先為每個照片設置一個標簽，然后通過標簽來處理照片。而是采用深度學習模型的方式處理照片，利用照片承載的內容產生自然分類。

第二個是神經機器翻譯。

第三個是神經響應機，即一個自動生成式系統，李航表示這是業界第一臺公開發表的能夠自動生成回復的智能應答機，而不是通過大數據搜索配對實現的。

據李航介紹，后面兩款檢索技術都是基于序列到序列的學習模型而實現，將待翻譯語句和神經響應機中的提問視為序列1，將目標翻譯結果和神經響應機中的問題回復視為序列2。所謂的序列到序列是指，在兩個序列之間存在一種中間變量態，該中間變量通過加權和attention（關注機制）來進行最優目標匹配，同時能有效防止重復和遺漏現象，最終完成了業界最優的深度模型之一。其中第三款神經響應機可以輸出76%的正常對話，和高達95%的正確語句，需要強調的一點：這些都是自動生成的。

最后李航再度總結說，諾亞方實驗室在進行人工智能研究和未來技術探索的同時，主要還將關注終端產品的智能化研發。

以下是演講實錄：

大家好！下面我就介紹一下華為，特別是諾亞方舟實驗室在人工智能方面做的研究和技術開發。重點放在智能手機這塊的應用。

我先介紹一下我們在智能手機上面的愿景，介紹一下我們相關的產品和我們的研究，最后介紹一下我們的技術。

諾亞方舟實驗室成立4年，楊強教授是我們實驗室第一人主任，我們研究的方向主要是人工智能、機器學習，數據挖掘，更進一步來說我們現在圍繞華為三個BG的產品做研究開發，大概來說我們有4個方向：

第一個是智能通訊網絡，大家知道通訊設備是華為非常重要的產品，未來的通訊設備一定是基于數據挖掘的，所以我們在這方面做了很多的技術開發。另一方面是大數據，還有我們聚焦在華為的智能手機上，主要是在語義語音，推薦搜索這方面的技術，幫助我們的用戶能夠更好的使用手機。簡單說一下我們未來的愿景。我們用智能信息數據來概括我們的愿景。未來的華為的智能手機首先通過語言能夠很自然的跟用戶做交流，能夠去幫助用戶克服語言障礙，能夠幫助做翻譯，能夠理解用戶做需求，給用戶做推薦，能夠幫助用戶管理信息，同時能夠很好的幫助用戶得到外界的信息。

下面介紹兩個我們圍繞華為手機做的產品，我們諾亞方舟實驗室跟終端的部門有密切的合作，我們在一起開發幾個重要的產品，比如說華為的應用市場，大家用華為手機的用戶知道到華為的應用市場我們有應用的推薦和搜索，這個推薦和搜索的算法是我們華為諾亞方舟實驗室和終端的產品線的同事們一起開發的，這里面的挑戰就是一個大數據的挑戰，這里面有3億的注冊用戶，每天有3000萬的用戶訪問我們這個市場，下載的用戶每天有1億，這里面怎么能夠幫助用戶很好很快的找到他們的應用，這個是比較挑戰性的問題，大家知道搜索和推薦都是在大數據的環境下都是極具挑戰性的，怎么樣能夠時時的更新模型，能夠更好的滿足用戶的需求，現在用業界最新近的技術做推薦和搜索。

另外，我們做的大家有華為手機的話可以有看手機服務這個部分，我們有智能問答，回答怎么樣更好的使用華為的手機，用自然語言的方式來問答，比如說怎么給手機做備份，我們可以找到答案，有的是我們的技術手冊里面找到的答案，準確率能夠達到90%，能夠給用戶提供更好的幫助，大家不用去網上去搜華為的使用了。

下面我做幾個演示，我們諾亞方舟實驗室一方面在跟產品部門一起開發產品，另外一方面未來在做一些技術的研發，特別是深度學習這方面我們做了一些工作，我現在演示三個演示：第一個是圖片搜索，假設你是一個手機用戶，你在手機上可以用語音或者是拼音的方式輸入你的問題，比如說在飛機上看到云彩的照片，現在這個場景是由2萬張圖片，可以用自然語言的方式搜這些圖片，這些圖片沒有做任何的圖象處理，比如說吃火鍋的照片，或者是爬山的照片可以通過自然語言自動的找到這些照片，現在手機上有成千上萬的照片，怎么樣做好照片的管理，這個是非常有用的應用，我們現在在做這方面的技術開發。

下一個是在做機器翻譯，特別是用深度學習，大家叫做神經技術翻譯，這塊也開發了業界領先的技術，因為時間的關系我就不放了。

這個演示是神經響應機，這個是基于深度學習做單輪的自然語言的對話，這個是我們在業界第一個開發出來的，生成式自對話系統，這個系統可以自動的去產生回答，并不是像傳統的問答系統，我們有大量的數據，有44萬的數據去建立這樣一個系統，這個系統比谷歌其他的公司開發的產品，我們早發表，并且在ACL的頂級的會議上發表了這個論文。我介紹一下里面的內容，比如說你輸入一句話，我們到諾亞方舟實驗室來訪問的話，我們可以給你看看時時的，前天我們華為的總裁來諾亞方舟實驗室參觀我們就給他展示這個，比如我想買一部三星的手機，這個系統會說還是支持一下國產的吧，比如說你說占中終于結束了，系統會說下一個是不是鹿角嘴，產生一些非常有意思你完全想象不到的回答。

我們下面看一下這個技術，我們在圍繞終端這樣的應用場景在做技術開發，這塊列出來的是我們主要在做的技術研究，包括問答、推薦、語音識別、對話、翻譯、圖片、檢索、深度學習，就是說我們在特別是深度學習這方面做了業界一系列比較領先的一些工作，這塊介紹一些具有代表性的工作。第一個是MulimodalCNN，第一個是圖片搜索的演示，你說一句話就找到相關的圖片，我們現在有2萬張圖片，每張圖片大概有3句的描述，比如說一個小孩在游泳照片，有15萬對數據，我們就可以訓練這樣一個模型，大家知道卷神經網絡是一個比較有代表性的網絡，左邊的是可以把這個圖片抽取出來，這個CNN有多層，可以從圖片里面抽取里面的輪廓和物體，另外一個是從文本里面抽取特征，直觀的就是單詞和詞組的特征，你說這句話小孩的照片，這個小孩可能就會被抽取出來作為特征，在這個照片里面正好有一個小孩，這個小孩會作為一個物體抽取出來，通過大量的學習可以做到剛好看到的效果，這個可以看一下，我們的實驗的結果，這個是英語的30K的數據，我們做了比較實驗，我們比較了跟業界的其他部門的方法的結果，可以看到諾亞方舟實驗室提出的剛才MulimodalCNN在檢索方面可以達到最好的效果，有些模型不一定很公平，大家為了所謂的Exprimental上面，可以達到更好的水平，這個工作在去年的圖象識別的大會上訓讀了我們的論文。

下一個介紹的工作，我們看一下機器翻譯和對話里面我們用了序列到序列的學習，最早的模型是谷歌和蒙特利爾大學提出來的，我們對他進行了改進，用在對話和翻譯上取得了非常好的效果。序列到序列的學習到底是什么樣好的方法。大家問自然語言里面哪個深度學習的工具給我們帶來最大的革命性的變化，讓我來說的話就是序列到序列的學習，基本的想法是這樣，用翻譯來做例子，現在把中文的一句話，一只貓坐在墊子上“A  cat sit a  cushion”，序列對序列的模型，從左到右一個詞一個詞的去看我們的中文，把它轉換成一個語義的表示，這個是一個向量，我們現在看到的HE、HT-E，HT，就是這個一只貓坐在一個墊子上得到的語義的表示，我們叫編碼，這個翻譯到目標語言，翻譯成英語的話這個T-1，表示說英語產生這樣的句子在每個位置上對應的語義表示是什么，我們翻譯要做的就是要把這個原文，中文做一個編碼，表示成中間的表示，再從中間的表示轉換成另外的一個中間的表示，是一個解碼，把它轉換成英文的句子，中間的C的這一行就是所謂的叫注意力模型，注意力就是幫助我們去選擇，當我產生英文的某一個單詞，我要做翻譯要一個一個的產生英文單詞，我要有選擇性的去決定，我現在在任何一個位置我要決定產生解碼的表示的時候我是要選擇中文的語言里面的哪個表示更好，這個C實際上做了一個平衡，我在每個位置上我要重新判斷，我現在要產生一個英文的單詞的時候對應的中文是哪個好，直觀上來說是這樣的解釋，我們可以通過這樣的模型，實際上是相當復雜的，通過這個模型你給我任何一個單詞的序列我可以產生另外的序列，這個數據是中英文我可以產生翻譯，這個模型的效果是非常好的。

我們剛才演示的神經響應機實際上也是用的序列到序列學習的模型，這個時候我們有一點不同是中文到中文的句子，但是它不像翻譯，翻譯是在兩句話不同的語言，但是語義是一樣的幾兩句話才同一個語言他們形成同一輪的對話，我們最核心的想法就是用注意力的機制，但是我們有一個全球的機制，直觀上解釋這個C實際上表示我讀完這句話整體的語義就是一個10數值的向量，每個位置上的編碼得到的結果是得到每個位置上得到的語義是什么，這兩者的語義結合起來就變成中間C的這一行的語義，再把它轉換成要對應的話的語義的表示，最后再解碼變成一句話，這個模型我們有400萬的對應的數據的話就可以把這個模型對應得比較好，能夠做這樣轉換。我們看到正確的句子大概有95%，大概有76%的回答是能夠形成自然的對話，就是剛才我舉的例子。

我們現在可以把它用在機器翻譯上，機器翻譯我們用的機制就是我們說序列對序列是很強大了，但是我們可以把它做得更好，用傳統的序列對序列的模型的話會把原文的東西漏掉，或者是翻譯多次，我們這邊有一個機制，翻譯的時候我哪些東西翻譯過了就不用翻了，哪些沒有翻，同時這個機制可以把它變得更強，直觀上說我要產生英文下面是一個實詞和虛詞的話是不一樣的，就中文的話就好了，如果產生一個實詞，cat，這樣的話我就要看哪個詞影響我，如果兩個結合的話會產生很好的效果，這個禮拜ACL頂級會議上我們發表了一個論文，其中有一個就是解決漏譯或者是過譯的問題。

諾亞方舟實驗室在手機方面做產品方面的開發，做圖片檢索等技術方面的研究，就到這里，謝謝大家！

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。