<mark id="oztn4"></mark>
0
ACL 2019 剛剛落下帷幕，想必大家對于今年 ACL 的意大利風情以及火熱程度記憶猶新，其中最令人印象深刻的則要數 8 篇 ACL 2019 最佳論文出爐的高光時刻，其中，劉群教授團隊更是一舉拿下了最佳長論文獎，連同最佳短論文獎、2 篇杰出論文獎的華人一作一起，在 ACL 2019 上一展華人風采。
2018 年 7 月，愛爾蘭都柏林城市大學教授、自然語言處理和機器翻譯領域專家劉群正式加入華為諾亞方舟實驗室的消息，引起了學術、工業兩界的不小轟動。而將時間維度再往前推 6 年，劉群教授的頭銜前綴是「中國科學院計算技術研究所自然語言處理研究組負責人」，他在計算所 20 年的學界職業經歷，開啟了他在機器翻譯領域深耕的大門，也成為他在回憶研究生涯時的第一扇門。
日前，AI 科技評論有幸對劉群教授進行了專訪，主要就他在學術界長達 26 年的研究經歷、加入華為諾亞方舟實驗室的的契機、其執掌的語音語義團隊的整體布局和未來規劃以及對于自然語言處理的發展現狀和未來發展方向的看法，進行了一次深度對話。
劉群，1989 年畢業于中國科學技術大學計算機系，1992 年于中國科學院計算技術研究所獲得碩士學位，2004 年于北京大學獲得博士學位。2012 年 7 月之前，他是中國科學院計算技術研究所的研究員和自然語言處理研究組負責人。2012 年 7 至 2018 年 6 月，劉群任都柏林城市大學教授、愛爾蘭 ADAPT 研究中心（前身 CNGL 研究中心）自然語言處理主題負責人。2018 年 7 月，他正式加入華為諾亞方舟實驗室，任語音語義首席科學家，主導語音和自然語言處理領域的前沿研究和技術創新。
他是自然語言處理和機器翻譯領域的國際著名專家，他的研究方向包括多語言信息處理、機器翻譯模型、方法與評價等。他最初領導研制的 ICTCLAS 開源系統是應用最廣泛的中文詞語切分和詞性標注工具，該項成果獲得中國中文信息學會錢偉長中文信息科學技術獎一等獎。他領導的研究組在基于句法的機器翻譯領域開展了長期的研究工作，其中代表性成果包括樹到串模型、最大熵轉錄語法模型、基于森林的機器翻譯方法等。
劉群教授在自然語言處理頂級會議和期刊上發表論文 60 余篇，迄今為止被引用 6900 余次（GoogleScholar），相關成果獲得了北京市科學技術二等獎和國家科技進步二等獎，并授權給很多企業推廣應用。他組織承擔和重點參與了國家自然科學基金、八六三計劃、愛爾蘭科學基金會、歐盟第七框架和 H2020 框架等眾多大型科學研究項目。劉群教授已培養碩士博士研究生 40 余人，很多學生已成為一些大學自然語言處理和機器翻譯領域的活躍研究人員和一些大型互聯網企業的機器翻譯團隊的負責人。
在對自己迄今為止的自然語言處理研究生涯的回顧中，劉群教授分享了很多故事，而這些故事，要從他 1989 年進入中科院計算所就讀研究生開始說起。
默默無聞的早期研究之路
1989 年至 1992 年，是劉群教授的研究生階段。剛進入計算所的時候，他的導師是張祥老師，也就是當時計算所二室的主任，之后分到了陳肇雄老師領導的機器翻譯課題組。正是在此期間，他對計算語言學和機器翻譯的研究產生了濃厚的興趣，由此走上了機器翻譯這一研究方向，并且在以后的研究工作也一直集中在該領域，從未離開過。
碩士畢業后，陳肇雄老師從計算所二室獨立出來，成立了計算所機器翻譯中心，而當時的劉群還是一個初出茅廬的研究人員，他選擇了留在計算所二室，開始獨立開展機器翻譯研究，并選擇了漢英機器翻譯這一具體的研究課題。而在此期間，他與北京大學計算語言學研究所展開了合作，并由此與其后來的博士導師俞士汶老師結緣。
從畢業到 1998 年，劉群領導的研究團隊與北大的合作項目初見成效，漢英機器翻譯系統參加 863 專家組組織的中文信息處理與智能人機接口技術評測取得了較好的成績，劉群的研究工作也迎來了一次小的高潮。
1999 年至 2004 年，是劉群的博士階段，他繼續在漢英機器翻譯這條研究軌道上深耕。而值得一提的是，在此期間，國際上的機器翻譯研究發生了較大的變化，其中一個最大的變化便是 IBM 公司自 1989 年便開始研究的統計機器翻譯方法，這種方法在國際上經過多年沉寂后，從 1999 年開始流行起來，而國內大部分的研究者還沒有意識到這個變化。
而劉群意識到這一問題的時間已是 2002 年，當時他參加美國 NIST 的漢英機器翻譯評測，結果讓其大失所望，也使其意識到了統計機器翻譯方法與傳統的規則方法相比所具有的明顯優勢，開始轉到了統計方法上來。
而這一年也被劉群教授視作其研究生涯的一個重要轉折點：研究方式從傳統的規則方法過渡到統計方法，由此在之后的幾年時間內取得了一系列突破性成果，工作成果從默默無聞開始在機器翻譯領域嶄露頭角。而他本人也在這一段時間獲得了博士學位，并不久就在計算所評上了研究員（相當于教授），完成了作為一個研究人員身份的轉變。
工作成果開始在機器翻譯界嶄露頭角
2005 年，劉群教授領導的團隊在 NIST 評測中獲得了第五名的成績，并且在這一年，他的學生第一次在 ACL 上發表了論文。對于當時還較為沉寂的中國自然語言處理和機器翻譯研究界而言，劉群教授的這些成果算是為中國的自然語言處理和機器翻譯在國際舞臺上露了一次臉。
劉群教授感慨道：「在此之前國內基本上只有微軟亞洲研究院在 ACL 有一些成果，但那個時候微軟亞研在國內是非常高大上的，他們可以從世界各地聘來最頂尖的研究人員，同時高薪聘請國內最資深的教授和最聰明的年輕人，并給這些研究人員提供最好的研究條件，這讓國內的大學和研究機構都望塵莫及。那時國內高校和研究機構基本上沒有人能夠在 ACL 上發表論文，然而我的課題組連續兩年發表了三篇論文（2006 年又在 ACL 上發表了兩篇論文），并且我們還在 NIST 評測中取得了第五名的成績，而前四名都是這一領域知名的研究機構，并且互相之間有很多的交流和合作。而我們在當時國際交流比較少、國內外開源工具都非常有限的情況下，獨立做出這樣的成果是非常難得的，所以當時無論在國內還是在國際上的影響，都比較大。」
而這些成果的取得，很大程度上還是源于劉群教授開始啟用統計方法來研究機器翻譯的遠見。
另外在 2002 年開始用統計方法做機器翻譯到 2005 年在國際舞臺上取得成績期間，劉群教授還做了一些比較有影響力的工作，其中一項便是基于統計方法做中文分詞，取得了國內最好的成績，并且，他還將這一工具進行了開源，緩解了這個研究領域的瓶頸問題，提升了整個國內中文自然語言處理和機器翻譯領域的研究水平。
劉群教授談到，也就是從這幾年開始，他在自然語言處理和機器翻譯領域的工作開始具有了較大的影響力，獲得了該領域較大的關注。
離開計算所，任職都柏林城市大學
就劉群教授看來，其職業生涯比較重要的轉折點便是 2002 年看到了國內外在機器翻譯研究上的差距，轉而開始使用統計方法來研究機器翻譯，并在此領域開展了一系列深入的研究工作，也由此在該領域產生了比較大的影響力。
而在加入華為開始工業界的征程之前，劉群教授在學術界的職業生涯還發生了另一項重大的變動：于 2012 年離開計算所，前往都柏林城市大學任職。
在計算所任職的那 20 年，除了研究上從默默無聞到開始在機器翻譯領域嶄露頭角，劉群教授回憶起來，還用了另外一句話來做形容，那就是「沒有盡頭的經費壓力」。
「我在計算所帶團隊的時候壓力非常大，主要是來自經費的壓力。當時國家給我們的經費大概是工資的百分之二三十，經費不夠就需要你自己去爭取國家或者企業項目掙經費，那段時間隨著我們的工作影響力逐漸增大，計算所在各方面給了我很多支持，我的團隊也在逐漸增大，最大的時候達到近 30 人，然而維持這個團隊的經費是要我們自己去爭取的。結果好幾次在年終結算的時候，我們的經費都嚴重超支，幾乎難以為繼。所以很長一段時間里，我基本上沒有心思去做其他的事情，整天就是去找項目做以維持團隊研究開銷?！?/p>
這也成為劉群教授在 2012 年選擇離開計算所到愛爾蘭都柏林城市大學任職的原因之一，而另一個更重要的原因則是他希望擁有一段國外科研經歷，從而能夠更好地了解和直觀地感受西方國家的科研體制和從事科學研究的方式。
「其實我本人能感受到國內外學術科研的差距，因此也一直希望能夠擁有一段國外科研經歷。而在此之前，我最長的一段國外科研經歷便是曾到紐約大學訪問過兩個月，這其實算不了真正的國外科研經歷，所以我自己也比較遺憾。此外，我的英文不夠好，也不是很有語言天賦的人，因此我認為要想提高自己的英文能力，必須要在國外真正生活一段時間。
當時，都柏林城市大學和我此前一直有合作的一位老師那邊正好空出一個教授的崗位，他們通過獵頭找到我問我是否有興趣，我當時也覺得這是一個比較好的機會。與此同時，這段期間我正好拿到了一個比較大的項目，經費足以支撐團隊至少兩三年的時間，所以當時我就比較放心地將課題組的負責權交給了課題組的其他老師?！?/p>
基于這段從國內到國外的任職經歷，劉群教授也指出了相比于國外，國內科研環境所存在的一些問題，包括：
第一是科研經費的管理問題。正如劉群教授在前面所提到的，經費壓力乃至生存壓力大的問題是國內科研人員（特別是中科院的研究人員）面臨的一大難題，「這一問題近些年來可能有所好轉，我不太了解現在的情況，但在我當年是非常嚴重的問題。另外，我認為國內行政權力對科研經費的審批和管理的干預過大，也是一個比較嚴重的問題。而在這方面做得最好的應該是自然科學基金，但是其他一些部門的科研經費審批和管理中，行政干預的力度都比較大，我認為這是比較不好的一個方面。」
第二是博士導師資格問題。「國外高校是沒有博士導師資格這一說的，只要老師本人具有博士學位，又有科研經費，就可以招收博士生，然而在國內，很多優秀的年輕老師因為沒有導師資格而無法招收博士學生，而實際上剛博士畢業的年輕老師正處在處在學術生命力最旺盛的時期，然而他們沒有學生就無法很好的開展科研工作，這是國內體制下的一個不那么合理的規定。」
第三是博士生待遇過低的問題。「國外的一個博士生一般情況下可以憑借他的工資養一個小家庭，然而國內博士生的待遇連自身的基本生活都無法保障，又怎么讓他們安安心心地搞科研呢？」
第四是國內科研環境整體比較浮躁的問題?！肝艺J為相比于國外而言，國內整體的科研環境還是有些浮躁和急功近利，具體表現在有很多人著急發論文，雖然表面上看上去做得很漂亮，但是深究下去會發現很多明顯的問題。就比如說我們在一些國際頂會上，中國學者發表的論文數量幾乎和美國差不多了，但是真正有影響力的、原創性的工作相對來說還比較少。不過針對這一點我也不想把問題說得太嚴重，因為國內科研正在高速發展，出現一點浮躁現象也在所難免，但希望這種情況在以后得以慢慢改善。」
在都柏林城市大學任職 6 年以后，劉群教授的研究生涯又迎來了第三個階段：加入華為，正式從學術界轉到工業界。
加入華為存在歷史淵源
2018 年 7 月，劉群教授加入華為，成為 AI 領域學者跨界工業界的又一大重磅消息。對此，劉群教授給出了 4 點原因：
第一，他自身在科研工作中就一直都非常重視應用，「包括在培養學生過程中，我都非常強調應用意識，雖然很多學生都會比較抗拒這一點，我認為這對于他們而言是好事而不是壞事，比如現在國內幾個巨頭企業的機器翻譯研究基本都有我的學生擔任負責人?！?/p>
第二，現在的企業越來越注重學術性的研究，而不是做純應用的研究，這就為學術界希望將研究成果付諸應用但又不愿意做純應用的學者提供了一個很好的機會，所以這一點對于劉群教授而言，同樣具有很大的吸引力；
第三，企業能提供高校所望塵莫及的數據、算力以及人才資源。「比如說人才，我在學校里面帶的學生是沒有什么經驗的，而企業中的人才實踐能力非常強，很多我在學術界無法實現的大項目在企業這里都能夠實現?！?/p>
第四，他加入工業界也有一些個人原因。「實際上，我是一個非常愿意接受挑戰的人，而且我認為一個人的一生要豐富多彩些，老是呆在一個地方可能會錯過很多此前沒見過的風景?！?/p>
那為什么單單選擇加入華為呢？對于劉群教授給出的答案，我們可以用與華為的「惺惺相惜」來概括：
一方面是華為對于劉群教授本身的極大認可?！肝腋A為之間有長期合作的歷史淵源。實際上我以前在計算所就跟華為有過合作，而且在我到愛爾蘭都柏林城市大學任職以后，華為依舊跑到愛爾蘭去繼續跟我合作。我在國內任職的時候，跟我合作的單位也不少，但是我到愛爾蘭后還保持跟我合作、并一直持續合作這么久時間的，基本上也就數華為了。所以，經過這么久時間的合作和互相了解，我很確定華為對于我個人能力以及研究方式的認可?！?/p>
而另一方面，則是劉群教授對于華為在國際化和研究理念等方面的認可?！甘紫?，我認為華為真的是一家國際化公司，而它的這種國際化都是靠自己一步步打下來的，既體現在業務布局的全球化，也體現在人才的國際化。其中，華為為了吸引和招攬全球當地優秀的科學家而直接將研究機構建設到當地去的做法和觀念，我認為非常有意思也非常先進。現在有很多國內企業也在國外建立研究機構，比如說百度和騰訊都在美國建立了當地的研究機構，但是鮮有公司像華為一樣，在歐洲、加拿大、俄羅斯等國家都設立當地研究機構的。其次，華為對于基礎研究是非常重視的，也投入了非常多的資金去做基礎研究，當然現在還不是那種純理論的基礎研究，但是相對于其他公司而言，華為在基礎研究的投入以及實力都是較高的?！?/p>
在加入華為之后，劉群教授在工作內容和工作方式等方面無疑也會面臨著一些轉變，用他的話來說，便是挑戰與機遇并存。
挑戰主要體現在研究范圍和管理的團隊規模都更大了?！肝以趯W術界主要是集中做機器翻譯，幾乎不會完全脫離機器翻譯這個研究領域，而我現在負責的語音語義實驗室，除了機器翻譯以外，還涉及到在自然語言處理技術在工業界方方面面的應用，包括語音、對話、問答等等。與此同時，我目前領導的團隊有 70 多個人，而我原來帶的團隊最多的時候都不到 30 人。這是目前對于我而言，挑戰比較大的地方。」
而與之對應的機遇則是，華為為其研究所提供的平臺支持?！冈瓉砦以趯W術界所無法實現的很多有趣的想法，在華為提供的算力、數據、研究隊伍等方面的支持下，我都能夠一一去嘗試。這是讓我感覺非常幸福的一件事?！?/p>
諾亞方舟實驗室的整體布局和未來規劃
自 2012 年成立至今，華為諾亞方舟實驗室一直以來都是一個相對低調的存在。在本次采訪中，劉群教授也跟我們聊了聊其負責的諾亞方舟語音語義實驗室的整體布局以及未來規劃。
諾亞方舟語音語義實驗室整體布局主要為三大塊：語音、對話和翻譯。而除此之外，現在實驗室還有一個比較重要的研究方向——多模態。他指出，隨著深度學習等技術的引入，自然語言處理技術與計算機視覺等其他技術從完全隔離的狀態逐漸走向互相打通，多模態也從不可能走向易于實現，并且未來還會有很大的研究空間，因而實驗室對于該研究方向也非常重視。
而談到實驗室未來的規劃，劉群教授表示，除了以上四個方向，他還在主導實驗室抓另一研究方向，即語言模型。「它其實是自然語言處理的一項基礎技術，針對這一研究方向，我們目前正在從事的一項具體的研究工作，叫做預訓練語言模型，近期實驗室也投入了很多的力量來深耕這個方向，因為我們希望能夠在這一非常基礎的工具上占據先導地位。」
與此同時，加強國際人才合作也是實驗室在今后非常重視的一個方面?！冈诩夹g研發上，我們并不是任何事情都要自主去做，而是希望能夠借助外腦，跟世界上最好的研究者合作，然后對他們予以最大的支持去開展科研項目。」
針對國際合作，我們也聊到了當下的中美摩擦是否會對華為的國際科研合作造成影響，劉群教授非?？隙ǖ鼗卮穑翰粫?。他表示，中美摩擦其實屬于特殊情況，包括美國在內的世界范圍內的絕大多數科學家其實都反對美國的這一行為，雖然現在中國和美國的科研合作出現一些問題，但中國與其他國家之間幾乎不會出現這種情況，因而當前美國與華為的沖突會更多地影響到產品供貨方面，而科研方面的國際交流很大程度上都是通過公開發表學術論文和開放源代碼等形式進行的，因此限制合作的影響相對來說小得多，幾乎不會影響甚至會促進華為與美國以外地區的國際合作。
劉群教授作為自然語言處理領域的領先專家，AI 科技評論與他的對話自然免不了談到自然語言處理目前的發展現狀以及未來發展方向。
當問及如何看待自然語言處理目前的發展現狀，劉群教授表示：超出預期?！肝乙郧盎谝巹t研究機器翻譯的時候，覺得有很多問題都太難了，有生之年都不一定能看到這些問題得以解決，但是現在，很多問題都被很好地解決了。因此以前一些我不敢去做的研究，比如說語義問題，我現在都可以考慮去做了?！?/p>
同時，劉群教授還指出了近年來自然語言處理領域出現的兩大革命性成果：一個是神經網絡和深度學習的出現變革了自然語言處理研究的范式，把自然語言處理問題的定義和求解從離散的符號域搬到了連續的數值域，導致整個問題的定義和所使用的數學工具與以前完全不同，使得該領域發生了極具革命性的變化；第二個是從去年開始出現的預訓練語言模型，能夠一定程度上實現「一個模型包打天下」，能夠解決自然語言處理領域相關的所有問題，由此就克服了此前一個問題就要設計一套方法的難題，將該領域研究提升到了一個新的水平。
而關于自然語言處理未來的研究方向，劉群教授認為語義問題是今后值得重點關注的研究方向。
他指出，語言問題一般分為兩類，一類是形式問題，一類是語義問題（即意義問題），目前神經網絡能夠比較好地解決形式問題，但是語義問題還是一個待攻克的難題。而語義問題中最難的地方，實際上是對現實世界進行建模，而現實世界有包括物理世界（客觀世界）和主觀世界。
以物理世界為例，其實我們用語言來描述一個物理世界是一種非常粗糙的建模，因此自然語言處理即便從語料庫中學到了某個東西的相關語言描述，但它依舊無法理解某個東西在物理世界中呈現的樣子。但人不一樣，我們每個人腦子里都有一個世界模型，根據一句話就能在腦海中想象出這句話在物理世界或主觀世界中的呈現面貌。
對現實世界建模在具體的自然語言處理研究方向上，包括兩個部分：一是讓自然語言處理研究與知識圖譜結合，嘗試圖神經網絡、概率圖模型等新的研究方向，將圖與語言結合起來研究；二是在自然語言處理研究中結合多模態，實現語言、視覺等多種模態的互通。
「目前我的很多研究工作都在往這個方向走，也認為未來幾年會有一些成果出來，但是這一研究方向具體的實現程度以及何時能夠達到一個理想的狀態，我目前還不敢說，因為我目前還很難想象到一個機器能夠完全跟人一樣，對現實世界中的萬事萬物都有一個認知和理解。」
無論是作為一位科學家在自然語言處理領域的研究工作上，還是作為一位教育者在培育人才方面，劉群教授都可以說是結出了累累碩果，對于后輩研究者，能從他身上借鑒的經驗自然很多，其中非常重要的一點便是從研究問題出發、熱于擁抱新技術的科研品質，而這一點更是劉群教授一直堅持的一套研究方法論。
「一方面，一直以來我做研究的一個特點就是從問題出發，這跟很多研究者強調方法的研究思路不一樣，因此在研究工作中，我最大的目標就是解決問題，而不在乎用什么方法，這也讓我形成了一個很好的心態，就是非常愿意擁抱新技術，比如我一開始用規則方法在機器翻譯領域深耕，發現統計方法的優勢后，我很快就轉向統計方法，后來神經網絡方法出現后，為機器翻譯提供了全新的視角和可能性，我又轉到神經網絡方法來研究機器翻譯。無論是從規則方法轉到統計方法，還是從統計方法轉到神經網絡方法，都是研究方法上的巨大變化，在早期新的研究方法效果還不是很明朗的時候，這種轉移是比較困難，而且需要冒較大風險的。但我總是能夠比較敏銳地意識到這種新方法在解決問題上的優勢，從而比較早地實現這種轉移，因此也能較早地做出一些有影響力的成果。
另一方面，我從來不去做填坑式的研究。所謂填坑式的研究，就是一旦機器學習領域提出一種新的方法，總有人很快把這種新方法在各種 NLP 問題上都刷一遍，然后宣稱自己是第一個用某種方法來解決某個問題的人。我的研究都有比較強烈的問題背景，目的是為了解決某個具體問題，有比較明確的 insight，而不是為了采用某種方法去做一個研究。在我看來，只要能解決問題，不管采用什么方法，不管采用的方法是否時髦，都是好的研究?！?/p>
與此同時，基于目前國內整體較為浮躁的科研現狀，劉群教授也特別針對后輩研究者強調了一點：切勿急于求成！
「現在有些學生都在急著提出一個新的想法，然而這些想法實際上并沒有什么影響力，就算發表了論文也沒有什么太大的意義。相比之下，一些雖小但存在實際價值的想法反而以后可能成為重要、有影響力的研究方向，這是很難說的的。所以我建議他們還是要多去看看問題，而不是一開始就著急去看一大堆論文，在沒有抓住問題的本質的情況下就去嘗試去提出新的東西。」
針對劉群教授本次獲得 ACL 2019 最佳長論文獎這一重磅獎項，AI 科技評論也第一時間向劉群教授表示了祝賀，并邀請他為大家分享了獲獎感言：
這次獲獎我們感到非常榮幸，感謝大會對我們工作的高度認可。這篇論文的主要工作是對神經機器翻譯中長久以來一直存在的暴露偏差問題提出了一種有效的解決辦法。
論文的第一作者是我在中科院計算所的博士生張文，他今年剛剛通過博士答辯，這個工作是他的博士論文工作之一。說實話，張文同學入學時的基礎并不很強，不過通過他在讀博這些年的刻苦努力，研究能力和學術水平都有了大幅度提高，近兩年來發表了多篇高水平的學術論文，這次獲獎也是實至名歸。
論文的第二作者馮洋老師，是現在中科院計算所自然語言處理研究組組長，也就是我原來的計算所課題組如今的負責人，她對這篇論文也付出了大量的心血。而馮洋老師原來也是我的博士生，她博士畢業后在英國、美國做過多年博士后研究，后來回國又分別在百度公司和清華大學各工作過一段時間，在學術界和企業界都有豐富的研究經歷，此外她也在 ACL、EMNLP 等頂級會議上發表過很多篇高水平論文。此次獲獎更是對她的研究水平和團隊領導能力的有力證明。
非常感謝張文同學和馮洋老師，也感謝其他合作者。
與此同時，我也非常高興看到我原來的課題組在馮洋老師帶領下能夠再次取得這樣出色的成績。而諾亞方舟實驗室目前也正在跟馮洋老師啟動一個合作項目，并期待與計算所的合作能夠取得更豐碩的成果。
（完） 雷鋒網雷鋒網雷鋒網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
