<mark id="oztn4"></mark>
0
| 本文作者： 叢末 | 2019-04-13 15:40 | 專題：IJCAI：國(guó)際人工智能聯(lián)合會(huì)議 |
雷鋒網(wǎng) AI 科技評(píng)論按：IJCAI（國(guó)際人工智能聯(lián)合會(huì)議，International Joint Conferences on Artificial Intelligence）是人工智能領(lǐng)域歷史最為悠久，也是影響力最大的學(xué)術(shù)會(huì)議之一，隨著近年來(lái)人工智能的熱度日益攀升，原本僅在奇數(shù)年召開的 IJCAI 自 2015 年開始變成每年召開。今年，萬(wàn)眾矚目的 IJCAI 也將如約而至，將于 8 月 10 日至 16 日在中國(guó)澳門隆重召開。
特邀報(bào)告（Invited Talks）作為 IJCAI 最受關(guān)注的環(huán)節(jié)之一，隨著會(huì)議的臨近，特邀講者名單也在相繼公布中。機(jī)器人作為人工智能領(lǐng)域的一個(gè)非常重要的研究方向，本次大會(huì)也特別邀請(qǐng)了機(jī)器人專家、麻省理工教授 Leslie Kaelbling 做特邀報(bào)告。屆時(shí)，她將帶來(lái)主題為《Doing for our robots what evolution did for us》的特邀演講。
Leslie Kaelbling 是麻省理工學(xué)院的機(jī)器人專家。 她在強(qiáng)化學(xué)習(xí)、規(guī)劃、機(jī)器人導(dǎo)航等人工智能研究領(lǐng)域獲得了引人注目的研究成果，其中包括將運(yùn)籌學(xué)中的部分可觀察的馬爾可夫決策過(guò)程應(yīng)用到人工智能和機(jī)器人中，曾獲得 IJCAI「計(jì)算機(jī)與思想獎(jiǎng)」（Computers and Thought Award）等重要獎(jiǎng)項(xiàng)，同時(shí)她也是人工智能領(lǐng)域頗負(fù)盛名的《機(jī)器學(xué)習(xí)研究雜志》的創(chuàng)始人兼主編。
近日，麻省理工學(xué)院教授 Lex Fridman 在其播客訪談節(jié)目《Artificial Intelligence Podcast》中與 Leslie Kaelbling 進(jìn)行了對(duì)話。對(duì)話中，Leslie Kaelbling 不僅分享了她從哲學(xué)領(lǐng)域轉(zhuǎn)入計(jì)算機(jī)科學(xué)領(lǐng)域，并與 AI 和機(jī)器人結(jié)緣的背后的故事，還詳細(xì)闡述了其對(duì)于機(jī)器人發(fā)展歷程以及現(xiàn)狀的見(jiàn)解。
雷鋒網(wǎng) AI 科技評(píng)論將采訪視頻整理成文如下，全文進(jìn)行了不改變?cè)獾膭h改。
Leslie Kaelbling：說(shuō)到是什么讓我對(duì) AI 產(chǎn)生了濃厚的興趣，就不得不提我在高中時(shí)期閱讀的《哥德?tīng)枴釥枴秃铡罚?em>G?del, Escher, Bach）。這本書對(duì)我來(lái)說(shuō)極具塑造性，它讓我感受到了原函數(shù)和組合函數(shù)的另一種趣味性，也讓我更加了解怎樣將復(fù)雜的事情與簡(jiǎn)單的部分區(qū)分出來(lái)，并開始思考怎樣的 AI 以及程序才能夠讓機(jī)器產(chǎn)生智能行為。
Lex Fridman：因此您最開始喜歡上的其實(shí)是 AI 與機(jī)器人的推理邏輯。
Leslie Kaelbling：是的，喜歡機(jī)器人則是因?yàn)槲业牡谝环莨ぷ鳌．?dāng)時(shí)我從斯坦福大學(xué)的哲學(xué)專業(yè)畢業(yè)，正打算去讀計(jì)算機(jī)科學(xué)的碩士，然后我被 SRI 錄用了，進(jìn)入到他們的 AI 實(shí)驗(yàn)室工作。他們當(dāng)時(shí)正在研發(fā)一款類似于 Shaky 的后代機(jī)器人，但是 Shaky 原來(lái)的研發(fā)者都不在了，因此我的工作就是嘗試讓這個(gè)機(jī)器人擁有做事情的能力。這也是讓我真正對(duì)機(jī)器人產(chǎn)生興趣的契機(jī)。
Lex Fridman：我們先稍微回顧一下您的大學(xué)生涯。您在斯坦福大學(xué)獲得了計(jì)算機(jī)科學(xué)的碩士和博士學(xué)位，但是您的大學(xué)本科讀的是哲學(xué)專業(yè)，那您認(rèn)為哲學(xué)中有哪些部分是您可以應(yīng)用到計(jì)算機(jī)科學(xué)的研究中的。
Leslie Kaelbling：哲學(xué)與計(jì)算機(jī)科學(xué)是緊密相關(guān)的。我在大學(xué)本科期間沒(méi)有讀計(jì)算機(jī)專業(yè)是因?yàn)樗固垢４髮W(xué)當(dāng)時(shí)還沒(méi)有開設(shè)這個(gè)專業(yè)，但是實(shí)際上，斯坦福大學(xué)開設(shè)了一些特殊的輔修課程，比如現(xiàn)在稱作符號(hào)系統(tǒng)（symbolic system）的學(xué)科，這門課程教授的內(nèi)容是邏輯模型理論（logic model theory）以及自然語(yǔ)言的形式語(yǔ)義（formal semantics of natural language）。這對(duì)于我之后從事 AI 和計(jì)算機(jī)科學(xué)的研究做了一個(gè)完美的鋪墊。
Lex Fridman：這非常有意思。當(dāng)時(shí)如果對(duì) AI 感興趣的話，大家一般會(huì)選擇上哪些計(jì)算機(jī)相關(guān)課程？您當(dāng)時(shí)對(duì)于 AI 的想法深為著迷，除了哲學(xué)，還源自于什么其他的原因？
Leslie Kaelbling：當(dāng)時(shí)并沒(méi)有很多人從事這個(gè)方向的研究，甚至也沒(méi)有什么人探討它。但是我大學(xué)的同班同學(xué)倒是都對(duì)人工智能挺感興趣的：我們班有接近一半的人轉(zhuǎn)向計(jì)算機(jī)科學(xué)專業(yè)深造，近一半的轉(zhuǎn)向法律專業(yè)深造，而只有一兩位同學(xué)繼續(xù)留在哲學(xué)專業(yè)學(xué)習(xí)。所以哲學(xué)專業(yè)和計(jì)算機(jī)科學(xué)專業(yè)二者間其實(shí)是有相當(dāng)普遍的關(guān)聯(lián)性的。
Lex Fridman：你認(rèn)為 AI 研究人員是否需要擁有哲學(xué)家的另一重身份，還是說(shuō)他們應(yīng)該堅(jiān)持從事「硬」的科學(xué)和工程研究，而不需要進(jìn)行一些哲學(xué)思考？也就是說(shuō)，如果研究者從事于機(jī)器人研究，卻無(wú)法很好地從哲學(xué)上的大視角來(lái)看待研究問(wèn)題，又該用什么來(lái)驅(qū)動(dòng)他們研究出出色的 AI 呢？
Leslie Kaelbling：我認(rèn)為哲學(xué)專業(yè)中與 AI 最緊密相關(guān)或者說(shuō)與 AI 有點(diǎn)關(guān)系的，就是信念、知識(shí)以及表示這些東西。這些其實(shí)都是非常形式化的東西，似乎距離我們所做的常規(guī)計(jì)算機(jī)科學(xué)工作只有一步之遙。我認(rèn)為現(xiàn)在非常重要的問(wèn)題依舊是，你可以用機(jī)器來(lái)做什么以及不能做什么。盡管我個(gè)人完全是一個(gè)唯物主義者，但我認(rèn)為我們沒(méi)有理由無(wú)法開發(fā)出一個(gè)行為舉止與人類毫無(wú)區(qū)別的機(jī)器人，而判斷它與人類是否有區(qū)別的關(guān)鍵在于它的內(nèi)心是否是有直覺(jué)或哲學(xué)思維。實(shí)際上，我并不知道自己是否非常在意這個(gè)。
但是我們現(xiàn)在不知道它們獲得哲學(xué)思維，進(jìn)行感知和規(guī)劃，以及在現(xiàn)實(shí)世界中順利運(yùn)行有多難。畢竟現(xiàn)在的機(jī)器人在很多任務(wù)上，都還做不到像人類一樣。
所以問(wèn)題實(shí)際上就是，現(xiàn)在機(jī)器人和人類在哲學(xué)上還存在巨大的差距。我們都知道，如果機(jī)器人要在現(xiàn)實(shí)世界應(yīng)用這些知識(shí)，就需要對(duì)這些知識(shí)進(jìn)行擴(kuò)展，并需要擁有形成常識(shí)以及在大部分工作中進(jìn)行不確定性推理的能力。這些都是開放性的問(wèn)題，我不知道要怎樣去用確定而全面的視角看待這些問(wèn)題。
對(duì)于我來(lái)說(shuō)，這似乎并不是一個(gè)哲學(xué)差距的問(wèn)題，而是一個(gè)技術(shù)上的大難點(diǎn)，除此之外，我并不認(rèn)為機(jī)器人和人類在其他方面存在差距。
Lex Fridman：好的。您是否認(rèn)為 AI 還存在一些遺憾呢？還記得當(dāng)您開始對(duì)機(jī)器人學(xué)或機(jī)器人產(chǎn)生興趣的時(shí)候，當(dāng)時(shí)對(duì) Shaky 機(jī)器人有什么印象？您當(dāng)時(shí)對(duì)于機(jī)器人的想象是否實(shí)現(xiàn)了呢？
Leslie Kaelbling：我最開始研究的機(jī)器人是 Shaky，它是 SRI 研究人員開發(fā)出來(lái)的機(jī)器人。當(dāng)我第一次踏入 SRI 的時(shí)候，當(dāng)時(shí)它正站在某個(gè)辦公室的角落，正在將液壓油滴在一個(gè)鍋中。這個(gè)機(jī)器人是相當(dāng)具有標(biāo)志性的，每個(gè)人都應(yīng)該讀到過(guò) Shaky 的技術(shù)報(bào)道，因?yàn)樗砩蠀R聚了許多非常好的想法，比如他們不僅將很好的搜索、符號(hào)規(guī)劃和學(xué)習(xí)的宏操作符都應(yīng)用到了機(jī)器人身上，還對(duì)機(jī)器人進(jìn)行了較初級(jí)的空間規(guī)劃配置，并且為 Shaky 配置上了手臂。他們?cè)诤芏喾矫娑加辛吮容^清晰的基本思路。
Shaky 是一個(gè)移動(dòng)機(jī)器人，它可以推動(dòng)物體，在它自身搭載的執(zhí)行器和底座的幫助下，可以將物體移到旁邊去。同時(shí)，它還能夠使用它的視覺(jué)去進(jìn)行自我定位、探測(cè)物體，并基于它所看到的東西進(jìn)行規(guī)劃，并推理是否要探視和拍照。我覺(jué)得，當(dāng)時(shí)它對(duì)我們現(xiàn)在所能想到的很多事情都有了基本的認(rèn)知。
Lex Fridman：您認(rèn)為它是怎樣表示周圍的環(huán)境空間的呢？
Leslie Kaelbling：它對(duì)于許多不同程度的抽象表示都有認(rèn)知，我認(rèn)為，它對(duì)于低級(jí)別的抽象表示，會(huì)使用某種占用網(wǎng)格；對(duì)于高級(jí)別的抽像表示，它會(huì)使用針對(duì)某種空間以及關(guān)聯(lián)性的抽象符號(hào)。
Lex Fridman：現(xiàn)在有一個(gè)詞叫「片狀」（flaky）。
Leslie Kaelbling：是的。當(dāng)時(shí)在 SRI 的時(shí)候，我們正在開發(fā)一個(gè)全新的機(jī)器人。正如我剛剛所說(shuō)的，團(tuán)隊(duì)中沒(méi)有一個(gè)人是來(lái)自于之前 Shaky 那個(gè)項(xiàng)目的，因此我們相當(dāng)于是從頭開始。當(dāng)時(shí)是我的導(dǎo)師并最終也成為了我的論文導(dǎo)師的 Stanresinshine，就曾受到「情景計(jì)算」（Situated Computation）或者說(shuō)「情境自動(dòng)裝置」（Situated Automata）這個(gè)想法的啟發(fā)。這個(gè)想法就是：邏輯推理的工具非常重要，但是可能僅有工程師或者設(shè)計(jì)者會(huì)將這個(gè)工具用到系統(tǒng)的分析中，此外，這一工具不一定要應(yīng)用到系統(tǒng)自身的頭部中。
當(dāng)時(shí)我認(rèn)為可以使用邏輯去證明關(guān)于機(jī)器人行為的理論：即使機(jī)器人不使用它頭部的邏輯，它也可以進(jìn)行手臂的動(dòng)作。這就是區(qū)別。而這個(gè)想法就是使用這些原則去開發(fā)可以做事情的機(jī)器人。不過(guò)當(dāng)時(shí)，我自己需要學(xué)習(xí)大量的基礎(chǔ)工作，因?yàn)槲覜](méi)有機(jī)器人學(xué)背景，不知道任何機(jī)器控制、感知相關(guān)的知識(shí)。所以在這一過(guò)程中，我們把很多技術(shù)都重新研發(fā)了一遍。
Lex Fridman：那您認(rèn)為這是優(yōu)勢(shì)還是阻力呢？
Leslie Kaelbling：我的意思是說(shuō)，在這個(gè)過(guò)程中，你可以學(xué)到很多事情，并且最終攻克問(wèn)題以后也能更清楚地明白自己走到了哪一步。
Lex Fridman：您能總結(jié)一下 AI 和機(jī)器學(xué)習(xí)強(qiáng)化學(xué)習(xí)的歷史，以及您怎樣看待它從 20 世紀(jì) 50 年代至今的發(fā)展？
Leslie Kaelbling：它的發(fā)展的一個(gè)重要特點(diǎn)就是徘徊：變得火熱之后又落到低谷，之后又變得受歡迎，隨后又落到低谷...... 實(shí)際上，我認(rèn)為它的進(jìn)程很大程度上是由社會(huì)學(xué)進(jìn)程所驅(qū)動(dòng)的。
早期，它的發(fā)展是控制論的發(fā)展有關(guān)，人們以動(dòng)態(tài)平衡的思路開發(fā)機(jī)器人，當(dāng)機(jī)器人需要?jiǎng)幽艿臅r(shí)候，就為它們充電，之后它們就可以在周圍滾動(dòng)，做事情。后來(lái)，我對(duì)于這一思路思考了很長(zhǎng)時(shí)間，我認(rèn)為它是具有啟發(fā)性的。但是當(dāng)時(shí)人們不贊成這一思路，他們認(rèn)為我們需要讓機(jī)器人不斷接近實(shí)現(xiàn)真的智能，即類人智能。
之后人們嘗試研究專家系統(tǒng)去實(shí)現(xiàn)真正的智能，但是都太過(guò)表面了。我們對(duì)智能的理解是表面的，這就跟我們理解鋼鐵廠怎么運(yùn)轉(zhuǎn)一樣。我們認(rèn)為，只要對(duì)智能進(jìn)行解釋，然后將它用邏輯寫下來(lái)，之后再設(shè)計(jì)一臺(tái)計(jì)算機(jī)來(lái)對(duì)其進(jìn)行推理就實(shí)現(xiàn)了專家系統(tǒng)，然而結(jié)果，我們發(fā)現(xiàn)計(jì)算機(jī)無(wú)法實(shí)現(xiàn)推理。不過(guò)我認(rèn)為比較有意思的是，當(dāng)專家系統(tǒng)的研究開始變得不太順利時(shí)，我們不僅改變了研究方法，我們還改變了問(wèn)題。我們似乎沒(méi)有更好地方法甚至可以說(shuō)沒(méi)有辦法去解決專家系統(tǒng)的問(wèn)題。最終我們放棄去解決專家系統(tǒng)的問(wèn)題，開始轉(zhuǎn)向另一個(gè)完全不同的問(wèn)題。
Lex Fridman：想必當(dāng)時(shí)研究界有很多人會(huì)認(rèn)為不應(yīng)該放棄專家系統(tǒng)的研究，而您則傾向于將該問(wèn)題先擱置到一邊。現(xiàn)在讓我們回到剛剛的話題，專家系統(tǒng)之后的 20 年的發(fā)展。
Leslie Kaelbling：認(rèn)為專家系統(tǒng)很異常，這個(gè)觀點(diǎn)是無(wú)可厚非的，這就像有的人認(rèn)為僅僅做一些表面的符號(hào)推理是錯(cuò)誤的一樣，以及有些人認(rèn)為醫(yī)生在擁有臨床經(jīng)驗(yàn)之前不能成為一名真正的醫(yī)生一樣。因此當(dāng)時(shí)存在這個(gè)問(wèn)題的方向?qū)虿粚?duì)的爭(zhēng)論，都是正常的，只不過(guò)我們最終還是無(wú)法找到解決方法。
Lex Fridman：您剛剛提到，邏輯學(xué)和符號(hào)系統(tǒng)中你最喜歡的部分，就是它們能夠給以短名稱給大規(guī)模的設(shè)置命名。所以這些方面在符號(hào)推理中有什么應(yīng)用嗎，比如說(shuō)專家系統(tǒng)或符號(hào)計(jì)算？你認(rèn)為在 80 和 90 年代，人工智能發(fā)展的最大阻礙是什么？
Leslie Kaelbling：實(shí)際上我并不是專家系統(tǒng)的擁護(hù)者，不過(guò)我對(duì)一些符號(hào)推理倒是很感興趣。說(shuō)到人工智能發(fā)展的阻礙，我認(rèn)為最主要的阻礙是當(dāng)時(shí)人們的想法，大家認(rèn)為人類能夠有效地將他們的知識(shí)轉(zhuǎn)成某種形式的邏輯陳述。
Lex Fridman：這不僅僅要求付出代價(jià)和努力，還要人類真正擁有這種能力。
Leslie Kaelbling：是的。雖然我們都算是有遠(yuǎn)見(jiàn)的專家，但是完全無(wú)法用內(nèi)省的方式來(lái)想明白我們?nèi)绾巫龅竭@一點(diǎn)。關(guān)于這一點(diǎn)，我認(rèn)為其實(shí)當(dāng)時(shí)每個(gè)人都明白：專家系統(tǒng)不是要求人類寫下用來(lái)識(shí)別水瓶的規(guī)則，而是要寫下用來(lái)進(jìn)行決策的規(guī)則。我認(rèn)為當(dāng)時(shí)大家都發(fā)現(xiàn)了，所謂的專家能給出的解釋，就像鷹派能夠解釋他們?cè)鯓幼鍪乱约盀楹巫鍪乱粯印Ｋ麄兘o出的解釋不一定很好。
之后，他們改造了專家系統(tǒng)，使其轉(zhuǎn)而依賴于某種感知事物的東西，但是感知的這種東西又回到了我們剛剛提到的：我們無(wú)法很好地定義它們。所以從根本上來(lái)說(shuō)，我認(rèn)為其根本問(wèn)題就是假設(shè)人們可以明確表達(dá)他們做決策的方式和原因。
Lex Fridman：所以說(shuō)，從專家那里轉(zhuǎn)換而來(lái)的知識(shí)進(jìn)行編碼后，就變成了機(jī)器能夠理解和推理的東西。
Leslie Kaelbling：并不是。這不僅僅需要編碼，還需要讓知識(shí)完全脫離專家。我的意思是，將知識(shí)編寫到計(jì)算機(jī)中本來(lái)就很難。而我更認(rèn)為，人們無(wú)法將這些知識(shí)生成出來(lái)。人們可以講一個(gè)故事告訴我為什么要做這件事，但我并不確定這樣表達(dá)出來(lái)的東西能夠?yàn)闄C(jī)器所理解。
Lex Fridman：在分層規(guī)劃方面仍然存在符號(hào)推理的用武之地，正如您剛才所談到的那樣。所以具體的難點(diǎn)在哪里呢？
Leslie Kaelbling：即便人類不能為機(jī)器提供推理過(guò)程的描述，這也并不意味著在計(jì)算機(jī)內(nèi)部不能進(jìn)行各類風(fēng)格的推理。這只是兩個(gè)正交點(diǎn)（Orthogonal Points）。這樣的話，問(wèn)題實(shí)際上就變成了：應(yīng)該在計(jì)算機(jī)內(nèi)部用何種方式進(jìn)行推理？答案是，我認(rèn)為計(jì)算機(jī)內(nèi)部需要針對(duì)所面臨的不同問(wèn)題，使用各種不同的推理方式。
Lex Fridman：我是否可以理解為，這個(gè)問(wèn)題是，人們可以對(duì)哪類事物進(jìn)行符號(hào)編碼，從而實(shí)現(xiàn)推理？
Leslie Kaelbling：關(guān)于符號(hào)，我甚至都不喜歡這個(gè)術(shù)語(yǔ)，因?yàn)槲也恢浪诩夹g(shù)上和形式上到底是什么意思，與此同時(shí)，我對(duì)抽象深信不疑。抽象是直觀、重要的，因?yàn)閷?duì)于生活中的一切，人不可能從特別細(xì)的粒度出發(fā)做出完整的推理。你不可能僅僅基于某張圖像，就做出要讀博士的決策。
所以如果你要推理出要攻讀博士學(xué)位，甚至是購(gòu)買哪些食材來(lái)做晚餐，你就必須縮小狀態(tài)空間的大小以及推理的視界。那該怎樣縮小狀態(tài)空間的大小或推理的視界？答案是抽象：空間抽象和時(shí)間抽象。
我認(rèn)為沿著目標(biāo)軸線的抽象也很有趣，對(duì)目標(biāo)進(jìn)行抽象和分解可能更像是一個(gè)分解的過(guò)程，某種程度上我認(rèn)為這就是大家所謂的符號(hào)或離散模型。當(dāng)你在聊天的時(shí)候，你可能會(huì)談到房子的面積，而不會(huì)談你在某個(gè)時(shí)間點(diǎn)的姿勢(shì)；你會(huì)說(shuō)你在下午做了某件事，而不會(huì)說(shuō)你在兩點(diǎn)五十四分做了某件事情。你這樣做其實(shí)是因?yàn)檫@樣能簡(jiǎn)化了你的推理問(wèn)題，以及你沒(méi)有足夠的信息去對(duì)你在今天下午兩點(diǎn)五十四分的姿勢(shì)進(jìn)行高保真的推理。
我需要重點(diǎn)重申的一點(diǎn)是，所有的這些都不應(yīng)該淪為教條，認(rèn)為我們不應(yīng)該這樣做，不應(yīng)該那樣做。我可以贊成符號(hào)推理，而你也可以支持神經(jīng)網(wǎng)絡(luò)。計(jì)算機(jī)科學(xué)最終會(huì)告訴我們所有這些問(wèn)題的正確答案是什么，如果我們夠聰明的話，也可以搞清楚。
Lex Fridman：是的，實(shí)際上當(dāng)你試圖用計(jì)算機(jī)解決實(shí)際問(wèn)題時(shí)，正確答案自然而然就出來(lái)了。您剛剛提到抽象這個(gè)概念，提到所有的網(wǎng)絡(luò)都源自于抽象，存在自動(dòng)化的方式去形成策略、專家驅(qū)動(dòng)的方法去構(gòu)建抽象，并且當(dāng)下人類似乎在抽象構(gòu)建上的表現(xiàn)更好，所以你提到兩點(diǎn)五十四分與下午對(duì)比，那我們?nèi)绾螛?gòu)建這樣的分類法呢？現(xiàn)在是否有可能實(shí)現(xiàn)諸如抽象此類的自動(dòng)構(gòu)建？
Leslie Kaelbling：我認(rèn)為當(dāng)機(jī)器學(xué)習(xí)發(fā)展得更好時(shí)，工程師可以開發(fā)出算法來(lái)構(gòu)建出非常出色的抽象。
Lex Fridman：我們不妨先放下抽象的討論，先談?wù)劜糠挚捎^察的馬爾可夫決策過(guò)程（Partially Observable Markov Decision Processes，POMDPs）。首先想請(qǐng)問(wèn)一下您，什么是馬爾可夫決策過(guò)程？我們世界中有多少事物是可以建模以及具有馬爾可夫決策過(guò)程的。比如您從 POMDPs 的角度，怎樣看待早晨做早餐的花費(fèi)？又怎樣看待 POMDPs？它跟我們的真實(shí)世界又是怎樣建立聯(lián)系的？
Leslie Kaelbling：其實(shí)這是一個(gè)立場(chǎng)問(wèn)題，立場(chǎng)就是我看待問(wèn)題所處的位置。我作為一名研究人員或者系統(tǒng)設(shè)計(jì)者，可以選擇以何種方式對(duì)我周圍的世界建立模型，從而了解這個(gè)混亂的世界。如果我其將當(dāng)做這種形式的問(wèn)題處理，我就可以沿著算法這一類的思路，提出方案來(lái)解決問(wèn)題。當(dāng)然對(duì)這個(gè)世界建模并不能代表能解決任何問(wèn)題，也不是馬爾可夫決策過(guò)程。但是我能通過(guò)以各種方式建模的來(lái)尋找解決方案，一旦我找到正確的建模方式，就能得到一些可以用的算法。
Lex Fridman：您可以通過(guò)各種方式為這個(gè)世界建模。一些方式會(huì)更傾向于接受不確定性，也更容易為世界的不確定性進(jìn)行建模，而一些方式可能會(huì)強(qiáng)行將這個(gè)世界變成確定性的。
Leslie Kaelbling：是的。一些模型是不確定性的，但是這個(gè)模型并不能表示當(dāng)前狀態(tài)的不確定性，而是對(duì)未來(lái)的發(fā)展走勢(shì)進(jìn)行建模。
Lex Fridman：那什么是馬爾可夫決策過(guò)程呢？
Leslie Kaelbling：馬爾可夫決策過(guò)程，是一個(gè)假設(shè)我能夠完全了解系統(tǒng)的當(dāng)前狀態(tài)，即掌握系統(tǒng)的所有信息情況下對(duì)未來(lái)做預(yù)測(cè)的模型。所以記住歷史發(fā)生的所有事情，與對(duì)未來(lái)所做預(yù)測(cè)的好壞并無(wú)關(guān)聯(lián)。同時(shí)，該模型也假設(shè)我能夠采取一些行動(dòng)來(lái)改變世界的當(dāng)前狀態(tài)，并且我無(wú)法對(duì)這些變化進(jìn)行確定性建模，而只能建立概率模型。這種概率模型對(duì)于某些系統(tǒng)來(lái)說(shuō)可能非常有用，不過(guò)對(duì)于大多數(shù)問(wèn)題來(lái)說(shuō)都沒(méi)什么用。因?yàn)閷?duì)于大多數(shù)問(wèn)題，你無(wú)法只能觀察到它們的部分狀態(tài)，并且這些問(wèn)題都是各不相同的。
Lex Fridman：所以對(duì)于馬爾可夫決策過(guò)程，我們只能觀察到部分狀態(tài)。所以當(dāng)你不能觀察到大部分狀態(tài)，也不能完整地了解周邊世界的信息時(shí)，馬爾可夫決策過(guò)程又怎樣處理現(xiàn)實(shí)問(wèn)題呢？
Leslie Kaelbling：現(xiàn)在這個(gè)過(guò)程的思路依舊是，假設(shè)存在我們了解周圍世界的一些信息的情況，我們能夠做出好的預(yù)測(cè)。雖然我們不知道當(dāng)前完整的狀態(tài)，不過(guò)我們可以通過(guò)圖像等去觀察、感受，然后根據(jù)觀察到的歷史行為去推斷世界的發(fā)展趨勢(shì)，并基于自己無(wú)法確定的未來(lái)發(fā)展動(dòng)向，來(lái)決定采取什么行動(dòng)。
Lex Fridman：在不確定的情況下做出規(guī)劃，這個(gè)問(wèn)題是非常困難的。在對(duì)世界進(jìn)行建模來(lái)處理現(xiàn)實(shí)世界這種特殊系統(tǒng)的不確定性方面，您有著非常豐富的經(jīng)驗(yàn)。
Leslie Kaelbling：這種最優(yōu)規(guī)劃問(wèn)題往往是不可判定的，它取決于你進(jìn)行了怎樣的設(shè)置。很多人都表示，我不使用 POMDPs，因?yàn)樗鼈冸y以處理。我個(gè)人認(rèn)為這是一件非常滑稽的事情，因?yàn)閱?wèn)題之所叫做問(wèn)題，就是需要你必須去解決的。
而我們 AI 研究者之所以會(huì)出現(xiàn)，就是因?yàn)橐鉀Q的問(wèn)題非常棘手。我們都明白我們正在解決的問(wèn)題在計(jì)算上的難度非常高，我們可能無(wú)法為它找到最優(yōu)解。即便我們認(rèn)為可能無(wú)法提出最佳解決方案，但是還是會(huì)回到最優(yōu)問(wèn)題上反復(fù)探索，我們能做的就是讓建模、算法不斷、不斷地接近最優(yōu)。
我從來(lái)不會(huì)說(shuō)，問(wèn)題的計(jì)算是多么復(fù)雜。相反地，這些復(fù)雜的問(wèn)題能夠讓我更清晰地了解我解決問(wèn)題的方式，然后一步步地執(zhí)行近似操作，最終在一個(gè)合理的時(shí)間范圍內(nèi)找到可計(jì)算的最優(yōu)解。
Lex Fridman：當(dāng)您在探討最優(yōu)解的時(shí)候，當(dāng)時(shí)業(yè)界有多重視追求最優(yōu)解決方案的思想？此外，追求最佳解決方案的思想多年來(lái)也一直在變化。
Leslie Kaelbling：這很有趣，從理論上來(lái)說(shuō)，我們實(shí)際上有一點(diǎn)方法論危機(jī)。我的意思是，我認(rèn)為理論對(duì)于我們現(xiàn)在所做的很多事情都很重要。
現(xiàn)在出現(xiàn)了很多經(jīng)驗(yàn)豐富的黑客攻擊，他們對(duì)此進(jìn)行訓(xùn)練并進(jìn)行編號(hào)。我們很難說(shuō)清這樣好還是不好。如果你關(guān)注計(jì)算機(jī)科學(xué)理論，你會(huì)發(fā)現(xiàn)在談?wù)摿颂接懸欢螘r(shí)間后，每個(gè)人都會(huì)討論最優(yōu)化解決問(wèn)題。人們會(huì)關(guān)注怎樣找到遺憾綁定（Regret Bound）、怎樣執(zhí)行近似、怎樣證明問(wèn)題的解是近似解，花的時(shí)間越多就越接近最終的最優(yōu)解。
我覺(jué)的比較有意思的是，對(duì)于難度非常高的問(wèn)題，我們沒(méi)有建立一個(gè)比較好的「近似解」概念。我個(gè)人非常喜歡研究難度很高的問(wèn)題，希望自己建立某種形式的解決方案的概念，讓我可以判斷這個(gè)算法是有一定作用的，讓我知道除了運(yùn)行它還能用它做點(diǎn)其他什么事情。
Lex Fridman：所以擁有某種概念某種程度上對(duì)您有很深的吸引力，同時(shí)您可以使用這些概念來(lái)更好地看清某些事情，并期待這些事情能夠給您帶來(lái)好的結(jié)果。
Leslie Kaelbling：科學(xué)這一學(xué)科中也有工程學(xué)，但我認(rèn)為二者并不完全相同。我認(rèn)為我們正在做的工程學(xué)取得了跨越式的發(fā)展，它是走在科學(xué)前頭的學(xué)科。但是它今后如何發(fā)展，大致是怎樣以及為什么工作，沒(méi)有人清楚。我們需要將工程問(wèn)題轉(zhuǎn)化成科學(xué)問(wèn)題，我們需要知道工程學(xué)怎樣、為什么工作的原理，比如在曾經(jīng)的一段時(shí)間，人們?nèi)绻蛄壕鸵嬲厝ソǎF(xiàn)在我們不需要去真正去建橋梁，就能預(yù)測(cè)這架橋梁建成后會(huì)是什么樣。這些都是我們可以應(yīng)用到學(xué)習(xí)系統(tǒng)以及機(jī)器人中的。
Lex Fridman：您期望從唯物主義的角度來(lái)看待人工智能、智能系統(tǒng)以及機(jī)器人？ MDPs 所涉及的信念空間（Belief Space）和狀態(tài)空間（State Space）有什么區(qū)別？您通過(guò)世界的狀態(tài)來(lái)進(jìn)行推理，那信念空間呢？
Leslie Kaelbling：信念空間不是說(shuō)考慮當(dāng)前世界的狀態(tài)是什么樣的從而嘗試讓機(jī)器人去控制這些狀態(tài)，我將它理解為一種世界如何發(fā)展的概率分布，這樣的話控制問(wèn)題不再是怎樣控制機(jī)器人在這個(gè)世界穿行的問(wèn)題，而變成了一個(gè)控制信念的問(wèn)題，即我采取行動(dòng)不僅僅考慮這個(gè)行為對(duì)真實(shí)世界產(chǎn)生什么影響，還會(huì)考慮它對(duì)于我自己對(duì)世界的理解會(huì)產(chǎn)生什么影響。這就可能迫使我提出一個(gè)問(wèn)題：哪些是不會(huì)真正改變世界狀態(tài)但會(huì)改變我對(duì)世界的信念的？我會(huì)將這些信息匯集起來(lái)作為決策考量的依據(jù)。
Lex Fridman：這是增強(qiáng)智能體對(duì)世界的推理和探索能力的很強(qiáng)大的方法。您在面臨什么問(wèn)題的時(shí)候，會(huì)考慮用到信念空間，又在什么情況下會(huì)僅僅考慮狀態(tài)空間呢？
Leslie Kaelbling：其實(shí)大部分問(wèn)題都是需要刻意收集信息的。在一些問(wèn)題中，比如說(shuō)象棋中是不存在不確定性的，但是對(duì)于對(duì)手來(lái)說(shuō)，可能就會(huì)存在不確定性，這樣的話就不存在狀態(tài)的不確定性了。即便一些問(wèn)題存在不確定性，但是你可以在解決問(wèn)題的過(guò)程中去收集信息。比如，當(dāng)你乘坐駕駛自動(dòng)汽車的時(shí)候，它并不完全知道它身處何處，但它了解光照時(shí)長(zhǎng)一直在變化的信息，這個(gè)時(shí)候你是不需要收集信息的；但是當(dāng)你自己在道路上駕駛汽車時(shí)，你要看看你旁邊以及后方的路況，需要決定在哪邊道路開等等，你需要衡量這些信息的價(jià)值，并選擇收集哪些信息以及合理區(qū)分。
同時(shí)，在你采取行動(dòng)前，你還需要考慮自身的不確定性。如果我知道我所站的地方與門框恰好相對(duì)，我就能順利穿過(guò)門。但是如果我不能確定門所在的位置，最好就不要馬上邁過(guò)去，而要先進(jìn)行評(píng)估。
Lex Fridman：你對(duì)世界的不確定程度，實(shí)際上就是你在形成規(guī)劃過(guò)程中需要優(yōu)化的一部分。那您能否描述一下，我們?cè)鯓硬捎梅謱右?guī)劃的方式來(lái)對(duì)這個(gè)世界做規(guī)劃？距離機(jī)器人真正實(shí)現(xiàn)對(duì)一些事情做規(guī)劃還有一段很長(zhǎng)的道路。
Leslie Kaelbling：推理中使用的分層推理，包括時(shí)間分層和空間分層。我們先說(shuō)一下時(shí)間分層。之前的執(zhí)行過(guò)程需要進(jìn)行很長(zhǎng)時(shí)間，而使用時(shí)間分層就能夠抽象地將這個(gè)過(guò)程劃分為幾個(gè)部分。在之前我們也談到過(guò)，如果你能夠在狀態(tài)空間中構(gòu)建時(shí)間抽象，你就能進(jìn)行高水平的規(guī)劃，比如說(shuō)我要前往城鎮(zhèn)，然后給車加油，之后我會(huì)到這里做一些什么事情等等。你可以推理出這些行為的依賴性和約束性，而不需要進(jìn)行事無(wú)巨細(xì)的考量。
在分層規(guī)劃中，我們需要做的就是針對(duì)抽象，做出高水平的規(guī)劃。我認(rèn)為這個(gè)過(guò)程是非常靈活的，它不需要考量所有的細(xì)節(jié)因素，同時(shí)我也認(rèn)為這是非常有趣的一個(gè)步驟。我喜歡以機(jī)場(chǎng)這一場(chǎng)景為例，比如你可以規(guī)劃前往紐約，之后到達(dá)目的機(jī)場(chǎng)，然后到達(dá)辦公樓，但是你無(wú)法提前說(shuō)出你在機(jī)場(chǎng)發(fā)生的事情，這或許是因?yàn)槟阕约簯械孟耄嗟倪€是因?yàn)槟銢](méi)有足夠的信息推理出你在哪個(gè)登機(jī)口登機(jī)，坐在你前面的是誰(shuí)等等這些事情。
所以，規(guī)劃得太詳細(xì)是沒(méi)有意義的，但是你必須實(shí)現(xiàn)信念上的飛躍，相信你到了那里就能弄清楚所有事情。有人說(shuō)，我終其一生所學(xué)到的就是預(yù)測(cè)實(shí)現(xiàn)某些類型的子目標(biāo)的難度。我認(rèn)為這是至關(guān)重要的，如果你對(duì)于完成這些中間步驟沒(méi)有一個(gè)模型，你就無(wú)法對(duì)飛往某個(gè)地方做規(guī)劃。
我們現(xiàn)在要討論的一件事就是，就是如何對(duì)這些你沒(méi)有經(jīng)歷過(guò)的情況進(jìn)行概括，從而進(jìn)行預(yù)測(cè)，比如說(shuō)穿過(guò)吉隆坡機(jī)場(chǎng)要多長(zhǎng)時(shí)間。所以，對(duì)于這類抽象模型，我真的非常感興趣，一旦我們創(chuàng)建好這些模型，我們就可以用這些模型來(lái)做分層推理，我認(rèn)為這非常重要。
Lex Fridman：就跟您剛剛提到，一旦你出現(xiàn)在機(jī)場(chǎng)，你就離目標(biāo)只剩幾步之遙了。您能解釋一下這個(gè)目標(biāo)的起點(diǎn)是什么嗎？
Leslie Kaelbling： Herb Simon 在人工智能早期就談到過(guò)從方法到結(jié)果的正向推理以及從結(jié)果出發(fā)的反向推理。人們直覺(jué)上會(huì)認(rèn)為狀態(tài)空間數(shù)量很多，你可以采取的行為也很多。比如說(shuō)我坐著的時(shí)候，想要搜索我前面在哪，我所有能做的事情是什么，其狀態(tài)空間和可采取的行為數(shù)量都是龐大的。
如果你可以在另一個(gè)層面上推理，比如確定了希望實(shí)現(xiàn)的目標(biāo)，要知道如何實(shí)現(xiàn)這一目標(biāo)，這樣問(wèn)題的范圍就更小了。有趣的是，現(xiàn)在 AI 規(guī)劃領(lǐng)域還沒(méi)有解決已知的這類問(wèn)題，并且他們現(xiàn)在傾向于使用的方法還是從方法到結(jié)果的正向推理，目前還沒(méi)有什么研究在從結(jié)果出發(fā)的反向推理中做出更好的結(jié)果。這還是我的某種直覺(jué)，我還無(wú)法立即向你證明這一點(diǎn)。
Lex Fridman：也很榮幸您能跟我們分享您的直覺(jué)。您之前是否思考 AI 領(lǐng)域需要借助點(diǎn)哲學(xué)的智慧？您認(rèn)為將人類的一生或生命的某個(gè)部分制定成一個(gè)規(guī)劃問(wèn)題有多難？當(dāng)您從事于機(jī)器人研究時(shí)，您往往考慮的是物體操作、物體移動(dòng)任務(wù)等，那您打算什么時(shí)候走出實(shí)驗(yàn)室，讓機(jī)器人出門、做午飯以及追求更加高遠(yuǎn)的目標(biāo)呢？您怎樣看待這個(gè)問(wèn)題？
Leslie Kaelbling：我認(rèn)為這個(gè)想法是錯(cuò)誤的，事實(shí)上人類的一生并不都是規(guī)劃問(wèn)題。大家可能都覺(jué)得將生活的各個(gè)部分整合在一起非常重要，但是這些部分在推理、表示以及學(xué)方面的風(fēng)格都是截然不同的。大家都清楚的是，一個(gè)人不可能永遠(yuǎn)都是這樣的或者那樣的，人類的大腦也并不總是一成不變，所有的事情都是如此，它們的構(gòu)成部分、子架構(gòu)等都不盡相同。所以我個(gè)人認(rèn)為，我們沒(méi)理由去憧憬，將會(huì)有一個(gè)算法能夠真正地完成整個(gè)任務(wù)。
Lex Fridman：我們現(xiàn)在能做的，還只是針對(duì)特定的問(wèn)題設(shè)計(jì)出特定的算法。
Leslie Kaelbling：這需要考量問(wèn)題類型，比如說(shuō)，某些推理可能需要在圖像空間中進(jìn)行。我要再次提到的一點(diǎn)事，推理只是一個(gè)強(qiáng)化學(xué)習(xí)問(wèn)題，它的思路可以是基于模型的，也可以是不基于模型的。人們可能還在談?wù)撌欠駪?yīng)該學(xué)習(xí)——我們可以學(xué)習(xí)策略直接產(chǎn)生行為，也可以學(xué)習(xí)一個(gè)客觀的價(jià)值函數(shù)，或者學(xué)習(xí)一個(gè)轉(zhuǎn)移模型以及某些能夠告知我們世界動(dòng)態(tài)信息的東西。比如當(dāng)我旅游的時(shí)候，想象我學(xué)到了一個(gè)轉(zhuǎn)移模型，將它與規(guī)劃器結(jié)合起來(lái)，然后畫出一個(gè)圍繞它的盒子，我就可以學(xué)到一個(gè)策略，而這個(gè)策略是以不同的方式儲(chǔ)存的。與其他策略一樣，它也僅僅是一個(gè)策略。
而我更傾向于將其視為一種在計(jì)算上的時(shí)空權(quán)衡。一方面，對(duì)于更公開的策略表示，它可能需要占據(jù)更多的空間，但是我可以快速地計(jì)算出應(yīng)該采取的行為；另一方面，使用一個(gè)非常緊湊的世界動(dòng)態(tài)模型加上一個(gè)計(jì)劃器，我可能只能比較慢地計(jì)算出接下來(lái)要采取的行為。我認(rèn)為這一點(diǎn)不存在任何爭(zhēng)議，它只是一個(gè)「對(duì)于我們來(lái)說(shuō)，哪種計(jì)算形式最好」的問(wèn)題。
比如用代數(shù)操作做某些推理是合適的，但是如果面對(duì)的是控制騎獨(dú)輪車這樣的任務(wù)，它對(duì)時(shí)間響應(yīng)的要求很高，但是決策空間也要小很多，在這種時(shí)候可能我們就需要不同的表示方式。隨便舉的例子，不一定貼切。
（本文為上篇，下篇閱讀請(qǐng)前往：http://www.zaocj.com/news/201904/XAt6Paa6u28uQyvO.html）
IJCAI 2019 會(huì)議召開之前，特邀報(bào)告講者名單將陸續(xù)公布，雷鋒網(wǎng) AI 科技評(píng)論作為 IJCAI 2019 的媒體特別合作伙伴，也將陸續(xù)為大家?guī)?lái)各位特邀講者的相關(guān)報(bào)道。屆時(shí)，雷鋒網(wǎng) AI 科技評(píng)論還將奔赴現(xiàn)場(chǎng)為大家?guī)?lái)精彩報(bào)道，敬請(qǐng)期待！
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
專題
本專題其他文章
