<mark id="oztn4"></mark>
1
| 本文作者： no name | 2016-10-14 18:08 |
田淵棟，卡耐基梅隆大學(xué)機器人系博士學(xué)位、上海交通大學(xué)碩士學(xué)位和學(xué)士學(xué)位，前谷歌無人車項目組成員，現(xiàn)任 Facebook 人工智能組研究員，主要負責(zé) Facebook 的智能圍棋項目 Dark Forest。
賈揚清，擁有加州大學(xué)伯克利分校計算機科學(xué)博士學(xué)位、清華大學(xué)碩士學(xué)位和學(xué)士學(xué)位，曾于新加坡國立大學(xué)、微軟亞洲研究院、NEC美國實驗室、Google Brain工作，現(xiàn)任 Facebook 研究科學(xué)家，主要負責(zé)前沿AI 平臺的開發(fā)以及前沿的深度學(xué)習(xí)研究。
近日，谷歌的 AI 部門 DeepMind 開發(fā)了一種叫做可微分神經(jīng)計算機（DNC）的神經(jīng)網(wǎng)絡(luò)模型，相關(guān)論文發(fā)表于 10 月 12 日在線出版的《自然》雜志上，題為《 利用神經(jīng)網(wǎng)絡(luò)與外部動態(tài)存儲器進行混合計算》。這種新模型將神經(jīng)網(wǎng)絡(luò)與可讀寫的外部存儲器結(jié)合，既能像神經(jīng)網(wǎng)絡(luò)那樣通過試錯和樣本訓(xùn)練進行深度學(xué)習(xí)，又能像傳統(tǒng)計算機一樣處理數(shù)據(jù)。即使沒有先驗知識，DNC 也可以解決規(guī)劃最佳路線、拼圖任務(wù)等小規(guī)模問題。
德國研究者 Herbert Jaeger 評論稱，這是目前最接近數(shù)字計算機的神經(jīng)計算系統(tǒng)，該成果有望解決神經(jīng)系統(tǒng)符號處理難題。
斯坦福大學(xué)心智、大腦和計算中心主任 Jay McClelland 稱，這項研究將成為人工智能領(lǐng)域“有趣且重要的里程碑”。
那么我們究竟該如何看待谷歌 Deepmind 團隊最新發(fā)布的可微分神經(jīng)計算機 DNC 呢？果然，已經(jīng)有人在知乎上提出這個問題。
編者注：該知乎提問中“谷歌deeplearning團隊”實際上應(yīng)該指的是“谷歌Deepmind團隊”。
截止發(fā)稿前，該問題有兩個回答，F(xiàn)acebook 人工智能組研究員田淵棟的回答獲得了 44 人贊同。
他認為“革命性突破”言過其實，總的來說不及前兩篇 Nature。
這篇文章模型復(fù)雜，手工設(shè)計太多，實驗相對簡單，沒有在大規(guī)模數(shù)據(jù)集上測試性能，能成功地應(yīng)用于小規(guī)模搜索，但通用化還需要很久。
田淵棟在知乎上的回答，賈揚清進行了回復(fù)（鏈接）
賈揚清認為以前主要是手調(diào) feature（特征），而這次的 DNC 實際上是手調(diào)網(wǎng)絡(luò)，他在評論中提到的 Jitendra 應(yīng)該是加州大學(xué)伯克利分校的電氣工程與計算機科學(xué)系教授 Jitendra Malik。
在田淵棟的英文博客上，可以看到更多他對這篇論文的看法，我們首先來看看這篇題為《 Notes on DeepMind's 3rd Nature paper 》的文章。
以下為博文內(nèi)容：
最近 Deepmind 發(fā)表了他們在《自然》雜志上的第三篇論文《 利用神經(jīng)網(wǎng)絡(luò)與外部動態(tài)存儲器進行混合計算》。他們設(shè)計了一個遞歸神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)（深度 LSTM），反復(fù)發(fā)送新的讀/寫命令到外部存儲器，以及基于先前讀取存儲器和當(dāng)前輸入得到的動作輸出。他們稱它為 DNC（可微分神經(jīng)計算機）。這里希望網(wǎng)絡(luò)能夠基于給定的信息進行推理。他們用實驗?zāi)Ｐ蛠硖幚?bAbI 推理任務(wù)，網(wǎng)絡(luò)遍歷/最短路徑預(yù)測，家庭樹的關(guān)系推理和拼圖游戲推理，其性能遠遠優(yōu)于沒有外部存儲器的 LSTM。
這里給出一些評價：
1、總體而言，他們是隱含地學(xué)到了基于搜索推理的啟發(fā)式函數(shù)（heuristic function)。正如他們在文章中提到的：“一個基于最短路徑訓(xùn)練的 DNC 的可視化結(jié)果顯示，它會逐步探索從開始到結(jié)束的每個節(jié)點輻射出的關(guān)系，直到找到整個連接路徑（補充視頻 1）。”我們也可以在倫敦地鐵任務(wù)（圖3）中看到類似的情況。這在小規(guī)模搜索的實驗中可能是有效的，但在處理真正的問題時不一定是一個很好的策略。
2、似乎網(wǎng)絡(luò)中的手工調(diào)整設(shè)計很多。該網(wǎng)絡(luò)是給外部存儲器的下一組操作。外部存儲器上有許多類型的操作，組合了各種不同類型的 Attention 機制（基于內(nèi)容的 Attention 模型，隨之而來的寫入 Attention 模型，和基于讀寫的“用法”機制）。不確定哪個組件更重要。理想情況下，應(yīng)該有一個更自動或更規(guī)律的方法。
3、幾個有趣的細節(jié)：
（1）直接用實際情況的答案訓(xùn)練一個連續(xù)結(jié)構(gòu)預(yù)測模型，這不是很好，因為當(dāng)預(yù)測偏離了實際觀測情況，該模型可能會很容易失敗。在本文中，他們在結(jié)構(gòu)預(yù)測時使用了混合了實際觀測情況分布與當(dāng)前預(yù)測分布 DAgger。這使得預(yù)測的魯棒性很好。
（2）對于拼圖游戲來說，他們使用了 actor-critic-like 模型。在這種情況下，DNC 的輸出策略和價值功能取決于一開始作為輸入的游戲規(guī)則。這符合我們訓(xùn)練 Doom AI 的經(jīng)驗，actor-critic-like 模型的收斂速度比Q-learning 快。
（3）課程訓(xùn)練（例如，先從簡單的任務(wù)開始訓(xùn)練模式）起著重要的作用。這也符合我們訓(xùn)練 Doom AI 的經(jīng)驗（我們很快將發(fā)表相關(guān)論文）。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
