<mark id="oztn4"></mark>
3
| 本文作者： 李尊 | 2016-07-22 18:46 |
美國(guó)時(shí)間2016年7月21日，英偉達(dá)發(fā)布了售價(jià)高達(dá)1200美元（人民幣超過(guò)8000元）的最新顯卡Nvidia TITAN X，并把第一個(gè)顯卡送給了他——Andrew Ng（吳恩達(dá)）。
美國(guó)時(shí)間2016年7月21日6:00 PM，在斯坦福教師俱樂(lè)部中，英偉達(dá)與百度美國(guó)研究院舉行了一個(gè)小規(guī)模的ARIFICIAL INTELLIGENCE MEETUP（人工智能聚會(huì)），會(huì)上請(qǐng)到了Andrew Ng（吳恩達(dá)）——現(xiàn)任百度美國(guó)研究員首席科學(xué)家，也是現(xiàn)代人工智能研究奠基人之一，以及百度硅谷實(shí)驗(yàn)的的Bryan Catanzaro和Eric Battenberg。
交流會(huì)上發(fā)布了最新顯卡Nvidia TITAN X，其具體參數(shù)如下：
11 TFLOPS FP32
44 TOPS INT8 (新的深度學(xué)習(xí)架構(gòu))
12B晶體管
3584 個(gè)CUDA 1.53GHz核心 (之前的TITAN X中只有3072 個(gè)1.08GH核心 )
比之前的TITAN X快了60%
最大超頻狀態(tài)下高性能表現(xiàn)
12 GB的GDDR5X內(nèi)存 (480 GB/s)
在這次發(fā)布會(huì)中，英偉達(dá)提到：
每個(gè)人都有自己的英雄，Andrew Ng（吳恩達(dá)）——深度學(xué)習(xí)的先行者，現(xiàn)任百度美國(guó)研究員首席科學(xué)家就是我們心中的英雄之一。現(xiàn)任英偉達(dá)CEO黃仁勛（Jen-Hsun Huang）選擇在斯坦福大學(xué)與深度學(xué)習(xí)專家舉行一個(gè)小規(guī)模的交流會(huì)，在會(huì)上發(fā)布當(dāng)下性能最強(qiáng)悍的GPU，并且把第一個(gè)Nvidia TITAN X顯卡送給Andrew Ng（吳恩達(dá)）！
原來(lái)早在2012年，Andrew Ng（吳恩達(dá)）就將GPU應(yīng)用到人工智能領(lǐng)域。之后用它建立有史以來(lái)第一個(gè)深度神經(jīng)網(wǎng)絡(luò)，然后通過(guò)觀看1000萬(wàn)個(gè)YouTube視頻來(lái)訓(xùn)練這個(gè)人工智能神經(jīng)網(wǎng)絡(luò)。在觀看了超過(guò)20000個(gè)不同的物體后，使用深度學(xué)習(xí)算法的人工智能開(kāi)始能夠認(rèn)出“貓”的圖片。Andrew Ng（吳恩達(dá)）當(dāng)時(shí)接受采訪時(shí)提到“與其讓一大幫研究人員努力去探索如何發(fā)現(xiàn)圖像邊緣，不如直接將一大堆數(shù)據(jù)一股腦兒丟給人工智能算法，讓軟件自身從數(shù)據(jù)中進(jìn)行學(xué)習(xí)。”在那之后，GPU在深度學(xué)習(xí)中的應(yīng)用不斷加大，到目前為止深度學(xué)習(xí)系統(tǒng)的運(yùn)行速度已提高了近50倍。
Andrew Ng（吳恩達(dá)）與其他研究學(xué)者通過(guò)使用GPU來(lái)進(jìn)行深度學(xué)習(xí)給整個(gè)業(yè)界帶了翻天覆地的變化，所以英偉達(dá)認(rèn)為第一個(gè)TITAN X顯卡給Andrew Ng（吳恩達(dá)）相當(dāng)有意義。
在交流會(huì)中Andrew Ng（吳恩達(dá)）認(rèn)為就像100年前電力的發(fā)明改變了整個(gè)工業(yè)界并且持續(xù)帶來(lái)技術(shù)革新一樣，接下來(lái)的十年里人工智能（ARIFICIAL INTELLIGENCE）將會(huì)持續(xù)改變并革新所有行業(yè)。但是在人工智能（ARIFICIAL INTELLIGENCE）行業(yè)中，使用最尖端的研究設(shè)備是非常必要的。Andrew Ng（吳恩達(dá)）認(rèn)為如果你能擁有一臺(tái)2倍速度的學(xué)習(xí)機(jī)器，那你的研究出成果的速度也會(huì)提高2倍。這是否意味著當(dāng)下的深度學(xué)習(xí)已經(jīng)到了拼硬件、拼財(cái)力的程度了？
與此同時(shí)，與會(huì)人員超過(guò)500位學(xué)者、研究員以及學(xué)生全部聚集在斯坦福教師俱樂(lè)部中。當(dāng)黃仁勛宣布發(fā)布最新一代的GPU時(shí)，他們?nèi)慷甲兊檬峙d奮、激動(dòng)并馬上拿起手機(jī)拍照分享。這是為什么呢？
因?yàn)槟壳霸谏疃葘W(xué)習(xí)領(lǐng)域中，GPU發(fā)揮了相當(dāng)重要的作用。以前需要大量的CPU以及超級(jí)計(jì)算機(jī)進(jìn)行的運(yùn)算工作，現(xiàn)在只需要少數(shù)GPU組合就可以完成。這大大加速了深度學(xué)習(xí)領(lǐng)域的發(fā)展，為神經(jīng)網(wǎng)絡(luò)進(jìn)一步發(fā)展提供了計(jì)算基礎(chǔ)。熟悉深度學(xué)習(xí)的人都知道，深度學(xué)習(xí)是需要訓(xùn)練的，所謂的訓(xùn)練就是在成千上萬(wàn)個(gè)變量中尋找最佳值的計(jì)算。這需要通過(guò)不斷的嘗試實(shí)現(xiàn)收斂，而最終獲得的數(shù)值并非是人工確定的數(shù)字，而是一種常態(tài)的公式。通過(guò)這種像素級(jí)的學(xué)習(xí)，不斷總結(jié)規(guī)律，計(jì)算機(jī)就可以實(shí)現(xiàn)像像人一樣思考。如今，幾乎所有的深度學(xué)習(xí)(機(jī)器學(xué)習(xí))研究者都在使用GPU進(jìn)行相關(guān)的研究。
深度學(xué)習(xí)是利用復(fù)雜的多級(jí)「深度」神經(jīng)網(wǎng)絡(luò)來(lái)打造一些系統(tǒng)，這些系統(tǒng)能夠從海量的未標(biāo)記訓(xùn)練數(shù)據(jù)中進(jìn)行特征檢測(cè)。 雖然機(jī)器學(xué)習(xí)已經(jīng)有數(shù)十年的歷史，但是兩個(gè)較為新近的趨勢(shì):
海量訓(xùn)練數(shù)據(jù)
GPU 計(jì)算所提供的強(qiáng)大而高效的并行計(jì)算能力
這些大大促進(jìn)了機(jī)器學(xué)習(xí)的廣泛應(yīng)用。人們利用 GPU 來(lái)訓(xùn)練這些深度神經(jīng)網(wǎng)絡(luò)，所使用的訓(xùn)練集大得多，所耗費(fèi)的時(shí)間大幅縮短，占用的數(shù)據(jù)中心基礎(chǔ)設(shè)施也少得多。GPU 還被用于運(yùn)行這些機(jī)器學(xué)習(xí)訓(xùn)練模型，以便在云端進(jìn)行分類和預(yù)測(cè)，從而在耗費(fèi)功率更低、占用基礎(chǔ)設(shè)施更少的情況下能夠支持遠(yuǎn)比從前更大的數(shù)據(jù)量和吞吐量。
將 GPU 加速器用于機(jī)器學(xué)習(xí)的早期用戶包括諸多規(guī)模的網(wǎng)絡(luò)和社交媒體公司，另外還有數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)領(lǐng)域中一流的研究機(jī)構(gòu)。 與單純使用 CPU 的做法相比，GPU 具有數(shù)以千計(jì)的計(jì)算核心、可實(shí)現(xiàn) 10-100 倍應(yīng)用吞吐量，因此 GPU 已經(jīng)成為數(shù)據(jù)科學(xué)家處理大數(shù)據(jù)的處理器。例如下圖中使用GPU加速深度學(xué)習(xí)與CPU進(jìn)行對(duì)比：
Ian Lane 教授 —卡耐基梅隆大學(xué)
借助 GPU，預(yù)先錄制的語(yǔ)音或多媒體內(nèi)容的轉(zhuǎn)錄速度能夠大幅提升。與 CPU 軟件相比，執(zhí)行識(shí)別任務(wù)的速度超級(jí)高可提升 33 倍。
在這些領(lǐng)域中，GPU確實(shí)是非常適合的，這也體現(xiàn)在所有的這些工業(yè)界的大佬如BAT、Google、Facebook等等都在使用GPU在做訓(xùn)練。做深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練需要大量模型，然后才能實(shí)現(xiàn)數(shù)學(xué)上的收斂。深度學(xué)習(xí)要真正接近成人的智力，它所需要的神經(jīng)網(wǎng)絡(luò)規(guī)模非常龐大，它所需要的數(shù)據(jù)量，比做語(yǔ)言識(shí)別、圖像處理要多得多，希望Andrew Ng（吳恩達(dá)）在收到這份禮物后能用它來(lái)進(jìn)一步加速深度學(xué)習(xí)領(lǐng)域的發(fā)展。
與此同時(shí)，也有部分人認(rèn)為雖然利用GPU來(lái)進(jìn)行深度學(xué)習(xí)為人工智能領(lǐng)域做出了相當(dāng)巨大的貢獻(xiàn)，但是這也造成了現(xiàn)在幾乎所有的相關(guān)學(xué)者都在追捧深度學(xué)習(xí)。誠(chéng)然利用更先進(jìn)的GPU、更快的運(yùn)算速度就能實(shí)現(xiàn)比前人更好的實(shí)驗(yàn)結(jié)果，也更容易發(fā)表文章，但是這對(duì)于整個(gè)行業(yè)的進(jìn)步是最好的么？這類觀念也不由得讓人思考，深度學(xué)習(xí)的未來(lái)該往哪個(gè)方向走。
PS : 本文由雷鋒網(wǎng)獨(dú)家編譯，未經(jīng)許可拒絕轉(zhuǎn)載！
via Nvidia Blog Twitter
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
