<mark id="oztn4"></mark>
0
| 本文作者： 叢末 | 2019-09-22 22:34 |
雷鋒網(wǎng) AI 科技評(píng)論按：9 月 21 日至 22 日，為期兩天的 CCAI 2019 正在秋意濃濃的中國青島膠州隆重舉行。本次會(huì)議選址室外體育館召開，為原本嚴(yán)肅的學(xué)術(shù)會(huì)議增添了幾分活潑、愜意的色彩。
CCAI 2019 會(huì)場(chǎng)外景
會(huì)議第二日，徐宗本院士作為首位演講嘉賓，從他的數(shù)學(xué)專業(yè)出發(fā)，慷慨激昂地為大家?guī)砹酥黝}為《AI 與數(shù)學(xué)：融通共進(jìn)》的報(bào)告。
在開場(chǎng)前，他先從徐匡迪之問——「人工智能的基石在數(shù)學(xué)，我們有多少數(shù)學(xué)家投身進(jìn)去了？」以及任正非答記者問時(shí)強(qiáng)調(diào)「人工智能的本質(zhì)就是數(shù)學(xué)」的觀點(diǎn)引入，表達(dá)了自己對(duì)于人工智能與數(shù)學(xué)之間的關(guān)系的看法：融通共進(jìn)，一方面，人工智能的基礎(chǔ)之一是數(shù)學(xué)，因此人工智能想要行穩(wěn)致遠(yuǎn)，就必須先把數(shù)學(xué)的基本問題解決好；另一方面，人工智能的發(fā)展也對(duì)數(shù)學(xué)領(lǐng)域的研究產(chǎn)生了重要的推動(dòng)作用。
在本次報(bào)告中，徐宗本院士重點(diǎn)分享的內(nèi)容包括四個(gè)部分：第一，為理解人工智能和數(shù)學(xué)之間的關(guān)系提供一個(gè)框架，闡述數(shù)學(xué)方法與人工智能方法在處理問題的方法論上存在著本質(zhì)上的一致性，因而二者能夠「融通」；第二，從數(shù)學(xué)維度指出人工智能在目前發(fā)展中所存在的幾個(gè)關(guān)鍵問題；第三，展示人工智能為數(shù)學(xué)研究所帶來的新的方法論；第四，為人工智能與數(shù)學(xué)的融合方式提出具體方法。
與此同時(shí)，徐宗本院士也指出，本次他演講中提到的「人工智能」，主要是指機(jī)器學(xué)習(xí)，雖然這只是人工智能的一部分，但是就他看來，是最能夠直接成為生產(chǎn)力并且也是非常重要的部分。
一開始，徐宗本院士對(duì)機(jī)器學(xué)習(xí)的基本概念進(jìn)行了解釋，他表示，簡(jiǎn)單而言，智能就是模擬人的一種行為或者說能力，即在給定環(huán)境中，能通過與環(huán)境的交互和自行來提高自身解決問題的能力，而采用一個(gè)機(jī)器或者軟件來模擬這種智能時(shí)，就是機(jī)器學(xué)習(xí)。從數(shù)學(xué)的維度而言，機(jī)器學(xué)習(xí)表示的是一個(gè)函數(shù)空間或參數(shù)空間的優(yōu)化問題。
他認(rèn)為，無論是從機(jī)器學(xué)習(xí)還是數(shù)學(xué)，二者在解決問題上都可以用上圖中的這一框架來描述，其中包括兩個(gè)最為重要的部分：一個(gè)是智能體，一個(gè)是環(huán)境。
智能體：它是指一個(gè)含參數(shù)、可調(diào)節(jié)的任務(wù)求解器，其形態(tài)可以是深度網(wǎng)絡(luò)，也可以是機(jī)器人、無人系統(tǒng)或者一個(gè)算法。
環(huán)境：這里所說的環(huán)境一定有兩個(gè)基本性質(zhì)：第一，環(huán)境是可以描述的，如果用數(shù)據(jù)來描述就是人工智能方法，如果用模型來描述就是數(shù)學(xué)方法或物理方法，如果是用知識(shí)來描述的就可能是知識(shí)工程方法等等；第二，環(huán)境是可以對(duì)其進(jìn)行建模的，能夠借以對(duì)智能體的行為作出判斷，即可作為修正智能體行為的指標(biāo)。
「具備這兩個(gè)基本性質(zhì)的環(huán)境加上智能體，組成的統(tǒng)一體便叫做機(jī)器學(xué)習(xí)系統(tǒng)，這其實(shí)就是我們研究問題的基本方法論。」
接下來，徐宗本院士也介紹了機(jī)器學(xué)者的幾個(gè)典型模型，包括：
第一，深度學(xué)習(xí)。所謂的深度學(xué)習(xí)就是指輸入一個(gè)數(shù)據(jù)，然后得到一個(gè)依賴于數(shù)據(jù)的預(yù)測(cè)或者是判斷，它的環(huán)境是有標(biāo)簽的大數(shù)據(jù)，同時(shí)其應(yīng)用的基本前提是有原因或結(jié)果組成且量很大的有序?qū)Α?/p>
第二，自編碼器。當(dāng)下這一代的人工智能就在于特征表述，這就涉及到自編碼器這項(xiàng)重要的技術(shù)。編碼器的任務(wù)就是提取數(shù)據(jù)的內(nèi)涵特征，可以用來實(shí)現(xiàn)降維等任務(wù)。它的環(huán)境是無標(biāo)簽的數(shù)據(jù)。
第三，對(duì)抗生成（GAN）。大數(shù)據(jù)不夠是大數(shù)據(jù)領(lǐng)域的常見問題，而對(duì)抗生成便是使用網(wǎng)絡(luò)生成一些數(shù)據(jù)的模型。它的環(huán)境是沒有標(biāo)簽同時(shí)量也很小的小數(shù)據(jù)，不過這些數(shù)據(jù)都是比較準(zhǔn)確的，也就是我們所說的原數(shù)據(jù)。
第四，強(qiáng)化學(xué)習(xí)。強(qiáng)化學(xué)習(xí)時(shí)該研究領(lǐng)域常用的模型，它要解決的是需要對(duì)最終的決策負(fù)責(zé)的場(chǎng)景，比如智能駕駛需要在當(dāng)下時(shí)刻知道下一步怎么走，比如說在下棋的時(shí)候也要知道走了這一步后，將對(duì)將來的勝負(fù)產(chǎn)生多大的影響等等。它的環(huán)境不一定是數(shù)據(jù)，比如說自動(dòng)駕駛的環(huán)境就是各種傳感器對(duì)身處環(huán)境的描述。
「那在這些模型中，數(shù)學(xué)和物理充當(dāng)什么作用呢？以上圖強(qiáng)化學(xué)習(xí)為例，智能體就正在解決一個(gè)數(shù)學(xué)問題，此刻它的環(huán)境就是給定的數(shù)學(xué)公式、定解條件或邊界條件等。因此從本質(zhì)上來看，人工智能、知識(shí)工程以及數(shù)學(xué)在解決問題時(shí)所使用的基本方法論其實(shí)是具有統(tǒng)一性的。」
目前，人工智能已經(jīng)經(jīng)過了「從一個(gè)不可用的技術(shù)發(fā)展到一個(gè)可應(yīng)用的技術(shù)」的拐點(diǎn)，其原因有三：一是有了大量有標(biāo)簽的大數(shù)據(jù)；二是出現(xiàn)了像深度學(xué)習(xí)這樣的標(biāo)準(zhǔn)模型和算法；三是擁有了強(qiáng)大的計(jì)算力，例如超算和云計(jì)算。
對(duì)此，徐宗本院士指出，在欣喜人工智能變成可用技術(shù)的同時(shí)，我們必須冷靜地看到，目前我們距離人工智能的真正產(chǎn)業(yè)化，真正能把人工智能技術(shù)用得明白、也用得好，仍然還有很長一段路要走。以機(jī)器學(xué)習(xí)為例，從數(shù)據(jù)層面上講，我們還需要使用大量的人工去標(biāo)注，去選擇樣本；從應(yīng)用層面而言，還需要自己去搭建不同的神經(jīng)結(jié)構(gòu)，去選擇不同的訓(xùn)練算法，因而在現(xiàn)階段，我們還處于一個(gè)「用多少人工換來多少智能」的人工智能階段。
而要想從「可以用」走到「很好用」則還存在很多技術(shù)挑戰(zhàn)：首先在數(shù)據(jù)樣本層面上，數(shù)據(jù)樣本需要實(shí)現(xiàn)自生成、自選擇；其次在模型算法層面上，模型算法需要實(shí)現(xiàn)自構(gòu)建、自設(shè)計(jì)；最后在環(huán)境任務(wù)層面上，環(huán)境任務(wù)要實(shí)現(xiàn)自適應(yīng)、自轉(zhuǎn)換。
「我們將實(shí)現(xiàn)了以上三個(gè)方面的六個(gè)特征的人工智能叫做機(jī)器學(xué)習(xí)自動(dòng)化，這是我?guī)ьI(lǐng)的研究小組這幾年在主攻的方向。關(guān)于大家問到人工智能未來的發(fā)展方向，我們不妨以實(shí)現(xiàn)共產(chǎn)主義來做類比：我認(rèn)為人工智能的共產(chǎn)主義目標(biāo)是自主智能，然而在實(shí)現(xiàn)共產(chǎn)主義之前我們必須先走過社會(huì)主義初級(jí)階段——機(jī)器學(xué)習(xí)自動(dòng)化便是社會(huì)主義初級(jí)階段目標(biāo)。所以說，人工智能的發(fā)展軌跡應(yīng)該是從人工走向自動(dòng)化，再邁向自主智能。」
第一，大數(shù)據(jù)的統(tǒng)計(jì)學(xué)基礎(chǔ)。人工智能應(yīng)用的基本模式則包括感、知、控三個(gè)部分，其中，感，就是將環(huán)境中的各種要素通過各種各樣的傳感器變成數(shù)據(jù)的數(shù)字化過程；知，就是指能讀懂大數(shù)據(jù)，這是機(jī)器學(xué)習(xí)的主要部分；控，則是指機(jī)器將由數(shù)據(jù)得到的知識(shí)和規(guī)則用于實(shí)際控制。貫穿著三個(gè)基本模型的核心技術(shù)便是大數(shù)據(jù)，而統(tǒng)計(jì)學(xué)則是理解、分析大數(shù)據(jù)的基礎(chǔ)。目前，支持大數(shù)據(jù)分析的數(shù)學(xué)基礎(chǔ)尚未完全建立起來。
第二，大數(shù)據(jù)計(jì)算基礎(chǔ)算法。大數(shù)據(jù)一般應(yīng)用于分析處理兩類基本任務(wù)：一類是以計(jì)算機(jī)邏輯為基礎(chǔ)的搜索、比對(duì)、排序、溯源等問題；一類是分析數(shù)據(jù)之間是否具有共性結(jié)構(gòu)等的聚類、分類、回歸等問題。這兩類問題都以數(shù)學(xué)模型為基礎(chǔ)。然而一些傳統(tǒng)的計(jì)算，在大數(shù)據(jù)環(huán)境下都變成了全新的問題，因而針對(duì)大數(shù)據(jù)環(huán)境重建大數(shù)據(jù)計(jì)算的基礎(chǔ)算法和分析處理算法，都成為當(dāng)下亟待解決的問題。
第三，深度學(xué)習(xí)的數(shù)學(xué)原理。「深度學(xué)習(xí)現(xiàn)在存在很多毛病，張鈸院士昨天也說過了，然而深度學(xué)習(xí)是目前最能夠?yàn)榇蠹宜毡榻邮艿娜斯ぶ悄芗夹g(shù)之一，就像高考，雖然被人詬病很多，但是目前還沒有更好的方式來替代它一樣，深度學(xué)習(xí)同樣如此。比如它存在的可解釋性問題，主要還是因?yàn)樗鼰o法使用明確的數(shù)據(jù)公式來進(jìn)行展開，因而如何從數(shù)學(xué)上證明深度學(xué)習(xí)在每一層網(wǎng)絡(luò)上的展開情況，是當(dāng)下迫在眉睫的事情；另外，什么樣的結(jié)構(gòu)決定什么樣的性質(zhì)，因而我們還需要研究清楚深度學(xué)習(xí)中結(jié)構(gòu)和性質(zhì)的關(guān)系問題。
第四，非常規(guī)約束下的輸運(yùn)問題。人工智能的很多問題都可以抽象為：將一個(gè)領(lǐng)域的數(shù)據(jù)轉(zhuǎn)移到另外一個(gè)領(lǐng)域的數(shù)據(jù)，比如說機(jī)器翻譯，就實(shí)現(xiàn)不同語言之間的轉(zhuǎn)換問題。這自然就涉及到「什么樣的數(shù)據(jù)之間能夠進(jìn)行轉(zhuǎn)移」的問題。而眾所周知，能夠?qū)崿F(xiàn)轉(zhuǎn)移的前提是，兩個(gè)領(lǐng)域之間的數(shù)據(jù)存在一「公共不變量」，這是數(shù)學(xué)的標(biāo)準(zhǔn)術(shù)語。比如說機(jī)器能翻譯就存在語義這一不變量，例如醫(yī)療應(yīng)用同樣遵循這一思路，即 CT 圖象轉(zhuǎn)成核磁圖象過程中，同一個(gè)人本身就是就是這個(gè)不變量。如何判斷數(shù)據(jù)能夠被轉(zhuǎn)移，以及如何實(shí)現(xiàn)不同領(lǐng)域的數(shù)據(jù)轉(zhuǎn)移問題，就叫做非傳統(tǒng)約束下的傳輸問題。
第五，學(xué)習(xí)方法論的建模與函數(shù)空間上的學(xué)習(xí)理論。目前機(jī)器學(xué)習(xí)所處的階段是：數(shù)據(jù)是中心以及機(jī)器學(xué)習(xí)和泛化的對(duì)象。這就要求數(shù)據(jù)對(duì)問題具有普適性、可推廣性以及學(xué)習(xí)性，數(shù)學(xué)中對(duì)此的一個(gè)提法是學(xué)習(xí)方法論或者說函數(shù)空間上的學(xué)習(xí)理論。在邁向機(jī)器學(xué)習(xí)自動(dòng)化之前，就必須使其具有對(duì)相關(guān)問題的公共方法論的學(xué)習(xí)，然而目前這還是一個(gè)全新的研究領(lǐng)域，暫時(shí)還沒有出現(xiàn)相關(guān)的研究框架。
「這五個(gè)問題是通向自主智能鎖必須解決的基本問題，而這也反過來說明了為什么我們都說人工智能的基石在數(shù)學(xué)的原因。」
數(shù)學(xué)對(duì)于人工智能的基礎(chǔ)性作用不言而喻，而反過來，人工智能技術(shù)同樣也為數(shù)學(xué)領(lǐng)域的研究帶來了全新的視角，并帶來了一些革命性影響。徐宗本院士主要基于人工智能為優(yōu)化、PDE 問題的數(shù)學(xué)研究所帶來的推動(dòng)作用，進(jìn)行了該部分的介紹。
AI 對(duì)優(yōu)化的應(yīng)用
最優(yōu)化是數(shù)學(xué)的基本問題，然而數(shù)學(xué)傳統(tǒng)在研究這個(gè)問題上有很多的局限性，包括無法實(shí)現(xiàn)全局優(yōu)化、不涉及超參數(shù)問題以及適配性問題等，例如在局部?jī)?yōu)化方面研究得很徹底，但就是沒有人研究解決某個(gè)「世紀(jì)」問題應(yīng)該用什么方法。而人工智能在這幾個(gè)問題上的應(yīng)用，都能帶來非常可喜的結(jié)果。
徐宗本院士表示，人工智能對(duì)優(yōu)化問題的研究帶來了全新的思考，對(duì)此他提到了三個(gè)案例：
第一，解決適配性問題。「Learn to Learn」這個(gè)方法最早出現(xiàn)于 2006 年，隨后就一發(fā)不可收拾地出現(xiàn)了很多技術(shù)，包括「學(xué)會(huì)搜索」、「學(xué)會(huì) teach」、「學(xué)會(huì)推理」等以「學(xué)會(huì)」為主體的推理方法。這類方法都是從宏觀學(xué)習(xí)方法論的角度解決問題，基于這些方法，現(xiàn)在我們已經(jīng)有了一個(gè)對(duì)任意優(yōu)化問題都可用的自適應(yīng)優(yōu)化器。
第二，解決超參數(shù)問題。以壓縮感知問題為例，下圖為壓縮感知的基本框架。公式中，第一項(xiàng)是擬合項(xiàng)，現(xiàn)在采用人工智能技術(shù)以后，可以在公式中將超參數(shù)作為參數(shù)使用，對(duì)照著問題去訓(xùn)練，能夠一次性地把壓縮感知的選擇問題解決，該方法尤其是在圖象處理、醫(yī)療成像等應(yīng)用中，都是實(shí)現(xiàn)了目前性能最好的神經(jīng)網(wǎng)絡(luò)模型。
第三，解全局優(yōu)化問題。全局優(yōu)化問題一直以來都是個(gè)難題，但如果從強(qiáng)化學(xué)習(xí)的視角來解決這個(gè)問題，它的面貌就會(huì)煥然一新。比如在 MNIST 手寫數(shù)字識(shí)別中要解決 7960 維的優(yōu)化問題，就可以使用全梯度下降方法來進(jìn)行優(yōu)化。
AI 對(duì) PDE 問題的應(yīng)用
而人工智能對(duì) PDE 問題的應(yīng)用，同樣被徐宗本院士視作人工智能在數(shù)學(xué)中的成功應(yīng)用。下圖中公式為 PDE 的一般形式：第一行方程式是含導(dǎo)數(shù)的關(guān)系式；第二行方方程式則是指該函數(shù)應(yīng)該滿足的初始條件；第三行方程式方式則表示公式在邊界情況下的對(duì)應(yīng)關(guān)系。三個(gè)方程式合在一起就是微分方程定解問題。
對(duì)此，數(shù)學(xué)家已經(jīng)提出了有限差分法、有限元法、有限體方法等等，都很成功，然而不得不承認(rèn)的是，在解決復(fù)雜邊界以及復(fù)雜的函數(shù)時(shí)，這些方法的效果并不好。而人工智能則為這一問題提供了一個(gè)全新的視角和完全不同的解決方向，即利用對(duì)空間的采樣即積分方法來提到離散化的微分方法。
對(duì)應(yīng)人工智能的框架來說，即可以將智能體理解為找微分方程解，環(huán)境就可以理解為上面方程式給出的初始條件和邊界對(duì)應(yīng)關(guān)系。基于這種方法，最終能夠讓神經(jīng)網(wǎng)絡(luò)逼近微分方程的解。
同時(shí)，徐宗本院士還特別介紹了 AI 在反問題中的應(yīng)用。他指出，反問題是 CT、核磁共振、雷達(dá)等應(yīng)用的基礎(chǔ)之基礎(chǔ)，都是根據(jù)已知的東西推理未知的東西，而如果將這些問題改造成神經(jīng)網(wǎng)絡(luò)的話，就能帶來意想不到的效果。
首先是受到編碼器的啟示，他對(duì)自編碼器提供的「黑箱」編碼、解碼以及數(shù)據(jù)編碼、解碼的方法進(jìn)行改造，提出了模型驅(qū)動(dòng)、機(jī)理溶入的反問題求解框架，并由此提出解反問題的無監(jiān)督學(xué)習(xí)、全監(jiān)督學(xué)習(xí)和半監(jiān)督學(xué)習(xí)的三種模式都采用這一框架去實(shí)現(xiàn)的觀點(diǎn)。
其次在解線性方程組的應(yīng)用上，此前，Y=aX 作為線性方程組的基本公式，我們一定需要知道 a 的具體值以及是否可逆的等等。而現(xiàn)在深度學(xué)習(xí)則能夠做到「不問東西」、「不問青紅皂白」地直接給出解。
另外在地震波反演的應(yīng)用上，在使用人工智能方法后，地震勘探不再只是單純解偏方程數(shù)字解，最終更能夠「看清楚」地底下的情況。
演講最后，徐宗本院士還對(duì) AI 與數(shù)學(xué)未來的「融合共通」發(fā)展進(jìn)行了展望，提出了具體的研究方向。他指出，從認(rèn)識(shí)論和方法論上來看，數(shù)學(xué)與 AI 交互作用的本質(zhì)是提倡「模型驅(qū)動(dòng)」與「數(shù)據(jù)驅(qū)動(dòng)」的結(jié)合，而這種結(jié)合具有巨大的潛力，其中具體的結(jié)合方式包括：?
第一，數(shù)據(jù)不夠模型補(bǔ)，模型不精數(shù)據(jù)上。「這句話，這兩年我說過很多次，現(xiàn)在我越來越覺得這兩句話很對(duì)。一方面，當(dāng)我們抱怨數(shù)據(jù)不夠時(shí)，我們還可以想想我們?cè)趲资甑难芯恐幸呀?jīng)積攢了很多模型，并且模型就是數(shù)據(jù)的升華，因而用上一個(gè)好的模型可以大大減少對(duì)數(shù)據(jù)的依賴性；另一方面，模型好自然很好，然而當(dāng)無法實(shí)現(xiàn)一個(gè)精致的模型時(shí)，我們還能夠用數(shù)據(jù)去補(bǔ)，實(shí)際上現(xiàn)在在很多科學(xué)研究中，研究者們都在用數(shù)據(jù)彌補(bǔ)模型上的不足。」
第二，物理機(jī)理啟發(fā)，知識(shí)融入。「這同樣也是極為重要的科學(xué)方法論，是我們可以用來提高解決問題的質(zhì)量以及人工智能效能的重要法寶。」
大會(huì)首日，雷鋒網(wǎng) AI 科技評(píng)論也在現(xiàn)場(chǎng)為大家?guī)砹藦堚撛菏康难葜v報(bào)道《張鈸院士：人工智能的魅力就是它永遠(yuǎn)在路上 | CCAI 2019 》，大家可前往查看。 雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
