蘋果首份AI論文橫空出世，提出SimGAN訓練方法

當AI浪潮襲來，谷歌、Facebook、微軟等幾個山頭恨不得把自己都浸沒在潮水里，可勁打滾兒的時候，蘋果這座孤島卻始終有一種不愿被沾濕的姿態。

12月初，在灑滿陽光的西班牙NIPS大會上，蘋果AI研究團隊負責人Russ Salakhutdinov曾興奮地宣布，蘋果將允許其AI研究人員對外發布論文。那之后，眾人都在翹首以待，巴巴等著這個這個世界上市值最高的公司（截至12月23日市值6172.34億美元）的第一篇AI論文將以何種面目出現。

今天，這篇論文出來了。蘋果伸出了手指，試探了一下海水。

這篇題為《通過對抗訓練從模擬的和無監督的圖像中學習》（Learning from Simulated and Unsupervised Images through Adversarial Training）的論文于12月22日提交給了arXiv.org，一經發布迅速點燃了媒體頭條。

蘋果這篇圖像識別領域的論文，提出了一個所謂“模擬+無監督學習”（simulated + unsupervised learning），使用了如今最炙手可熱的深度學習“對抗訓練”。

而有著“GANs之父”之稱的Ian Goodfellow在推特里直接評論道：“蘋果第一份機器學習論文是關于GANs的。”

于是，GANs又借勢火了一把。

生成對抗網絡（GANs）的經典過程

所謂的GANs模型，就是讓兩個網絡相互競爭，玩一個“貓鼠游戲”。

• 一個叫做生成器網絡G（ Generator Network），它不斷捕捉訓練庫里真實圖片的概率分布，將輸入的隨機向量轉變成新的樣本。一句話，G負責生成假圖片。

• 另一個叫做判別器網絡D（Discriminator Network），它可以同時觀察真實和假造的數據，判斷這個圖片到底是不是真的。

G嘗試用自己的贗品來“蒙騙”D，而D也不斷提高自己鑒別贗品的水平。這樣G的造假能力和D的鑒別能力都會越來越高超。

在機器學習領域，需要海量的數據來訓練模型，而海量數據本身的獲取都成問題。AI界常有這么個說法：

“誰手握了數據，誰就占據了人工智能的制高點。”

南京大學周志華教授也曾經在演講中提到機器學習應用的限制因素：

機器學習雖然能力很強，但它并不是一個萬能的東西。至少有兩件事，我們經常都要提醒自己，機器學習可能是做不了的。

第一種情況，如果我們的拿到的數據特征信息不夠充分，那么機器學習可能就幫不上忙；第二種情況，如果數據樣本的信息非常不充分，那么這種情況也基本上解決不了問題。

所以，GANs最具革命性的地方在于，它的生成器G自己產出數據，而人只需要最初輸入一些隨機向量。無怪乎，Yann LeCun曾評價說：

“對抗訓練是切片面包以來最酷的事情（Adversarial training is the coolest thing since sliced bread）。”

蘋果的SimGAN訓練方法

但是蘋果這份論文里提到的模型，與GANs還是有些微不同的。他們想要解決的問題就是：提升合成圖像的質量。他們對GANs稍加修改，提出了“SimGAN”訓練方法，其中的“Sim”指的就是單詞“模擬器”。論文摘要里提到：

“我們的模擬+無監督學習方法，使用的對抗網絡跟GANs很類似。但是，輸入值是合成圖像，而不是隨機向量。”

蘋果的SimGAN其實包括三部分：模擬器（Simulator）和精制器（Refiner），然后再加上一個判別器（Discriminator）。模擬器合成圖像，再用精制器優化，最后喂給判別器訓練。

有學術圈內人士對這篇論文的“含金量”表示懷疑，然而蘋果這份論文“試水”的意義其實遠大于論文本身的意義。Forbes評論道：這篇AI論文，是蘋果標志性的一步。

對于AI業界來說，這表明蘋果要邁開步子、扛著大旗來攪動海水了。

這篇論文的第一作者是Ashish Shrivastava，其個人主頁上顯示為馬里蘭大學計算機視覺博士。

其它共同作者還有5人，分別是Tomas Pfister, Oncel Tuzel, Wenda Wang（華裔）, Russ Webb 和Josh Susskind。但是蘋果的“秘密文化”并沒有一下子就敞開大口，這6名研究人員，除了Tomas Pfister之外，雷鋒網在Twitter上很難找到其它5人的蹤跡，而Tomas Pfister這位劍橋、牛津雙名校的高材生，至今發過的推文也只有5條而已。

PS：關注雷鋒網（微信公眾號：雷鋒網）

相關文章：

百度硅谷 AI 實驗室主任 Adam Coates：企業級 AI 的未來展望及人才競爭

AI+時代，產品經理如何做才能獲得機會突破？

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。