<mark id="oztn4"></mark>
3
我們的包云崗老師在人生中的早期似乎顯得有點默默無聞，雖然這種“默默無聞”也已經(jīng)足以讓我等學(xué)渣服服帖帖的獻上自己的膝蓋。
包老師在2003年獲得了南京大學(xué)理學(xué)學(xué)士學(xué)位，并進入中科院計算所進行碩士和博士的學(xué)習(xí)。從公開記錄上看，直到碩士為止，包老師的學(xué)習(xí)生涯都顯得有些波瀾不驚。不過從博士開始，十余年的積累開始集中爆發(fā)。
讀博期間，包老師帶領(lǐng)小組設(shè)計了具有獨特優(yōu)勢的訪存監(jiān)控系統(tǒng)，為斯坦福大學(xué)、EPFL、清華大學(xué)、華為、韓國Hynix等十幾個機構(gòu)提供超過2TB的訪存蹤跡數(shù)據(jù)；提出了基于路劃分的DMA Cache技術(shù)，2014年英特爾才在其高端處理器Xeon芯片中使用了相同的技術(shù)路線，要知道包老師可是08年就已經(jīng)博士畢業(yè)了啊；在普林斯頓大學(xué)開展博士后研究，發(fā)布多核基準(zhǔn)測試集PARSEC 3.0版本，被三大體系結(jié)構(gòu)國際頂級會議上70%以上的論文使用；提出軟件定義服務(wù)器新架構(gòu)PARD (ASPLOS'15)……
等會，我知道大家現(xiàn)在可能都是一臉懵逼：訪存是什么鬼？路劃分是什么鬼？DMA又是什么鬼？實際上，這都是包老師的研究項目：計算機體系結(jié)構(gòu)的研究內(nèi)容，這項學(xué)科的目的就是想盡一切辦法用改進硬件結(jié)構(gòu)和軟件結(jié)構(gòu)的手段提高計算機的運行效率。
對計算機有些了解的同學(xué)可能就納悶了。
計算機結(jié)構(gòu)不是很簡單嗎？主板上面插個CPU，插個內(nèi)存，再插個硬盤就能開機了，實在想玩游戲再買個好點的獨立顯卡，裝個操作系統(tǒng)，跑的不知道多歡實呀，而且現(xiàn)在CPU運算這么快，哪怕看起來超級復(fù)雜的算式刷刷兩下就算出來了，還怕運行效率不高？
然而事實上與大家想象的相反，正是因為CPU的速度越來越快，已經(jīng)遠(yuǎn)遠(yuǎn)超過了計算機其他設(shè)備能適應(yīng)的速度，才導(dǎo)致如果不能在微觀層面給出非常合理的計算架構(gòu)，會讓計算機的運算能力面臨極大的浪費。
且讓我這位靈魂畫手給大家舉個很簡單的例子，下圖是一個精簡過的計算機結(jié)構(gòu)圖，我們都知道計算機的運行不是靠一個部件單獨完成的，比如說要運行一千段代碼，在現(xiàn)代計算機的結(jié)構(gòu)里，我們會先把代碼編寫好存到硬盤里，然后需要運行的時候，先由內(nèi)存將這段代碼調(diào)用至它的存儲空間內(nèi)，
然后再通過總線系統(tǒng)一條一條傳送給CPU運行，CPU完成運行后再將結(jié)果輸出給需要這些結(jié)果的設(shè)備，包括內(nèi)存、硬盤、顯示器等等。但是這里就有一個問題了！
電腦內(nèi)的器件內(nèi)運行時都有一個固定的周期，叫時鐘周期，這些器件進行的所有操作都是以N個時鐘周期為單位的，這樣可以讓對操作的規(guī)劃和不同器件間的協(xié)調(diào)變得更容易。不過，大家對CPU的主頻一般都很熟悉了：目前大多數(shù)CPU的主頻在2-3GHz這個區(qū)間內(nèi)，然而其他器件的主頻大家關(guān)注過嗎，比如內(nèi)存？
實際上，內(nèi)存已經(jīng)是為了彌補硬盤的存取速度太慢（相對CPU的處理能力而言）而設(shè)置的一個用來與CPU配合的“高速”存儲器了，然而現(xiàn)在最流行的DDR3內(nèi)存的主頻普遍只有1600MHz，甚至是1333MHz，只有CPU的一半左右。
這意味著什么呢？我們甚至可以忽略掉內(nèi)存從硬盤中取出需要運算的命令的時間，就假設(shè)內(nèi)存把這些命令送給CPU需要花費一個內(nèi)存周期，而CPU運算這些命令需要花費一個CPU周期。這樣一來就是說，在內(nèi)存把一條指令送給CPU之后CPU只要花半個內(nèi)存周期多一點點就可以算出結(jié)果并且將其送出，而內(nèi)存卻要等至少整整一個內(nèi)存周期才能把下一條指令送給CPU。
WTF？那剩下的快半個內(nèi)存周期的時間CPU干什么？儍看著你吭哧吭哧的跑嗎？
要知道CPU一旦通電，每微妙的耗電都是實打?qū)嵉挠贸鋈チ耍沁@種頻率的不對等卻讓CPU必須耗費大量的時間白白等待內(nèi)存把數(shù)據(jù)送過來，我們還沒有考慮內(nèi)存在其存儲器內(nèi)部尋找指令的時間和數(shù)據(jù)在總線上傳輸所花的時間等等，CPU的利用率已經(jīng)被近乎腰斬，低到了只有60%左右，而且你還要考慮到這是在計算機內(nèi)部相對高速的器件內(nèi)存上顯現(xiàn)的結(jié)果。更不用說在無數(shù)服務(wù)器組成的計算機群里，這種數(shù)據(jù)的尋找和傳輸需要浪費多少寶貴的時間和能量了。
而現(xiàn)在就是我們包老師登場的時間了，包老師所研究的科目的目標(biāo)，包括上面提到的那些奇怪的詞語，都是為了消除掉這種浪費，讓電腦內(nèi)的各種器件盡可能的協(xié)調(diào)，讓每一個部件的應(yīng)用效率都達到最大化。
說到這里大家可能隱隱約約可以明白為什么有些電腦或者手機紙面數(shù)據(jù)看起來很漂亮，但用起來的體驗卻如噩夢一般，而有些數(shù)據(jù)看起來很差的手機和電腦，用起來卻絲般順滑了。（我才沒有黑Android和Windows → _→ ）
不用說，在包括深度學(xué)習(xí)在內(nèi)的各種應(yīng)用對計算量的需求如此之高的今天，這樣的研究無疑可以幫助企業(yè)和個人用戶將自己手中設(shè)備的每一絲潛力都發(fā)揮出來，讓他們得到最好的體驗。
而需要大量計算能力的另一項領(lǐng)域是云計算，云計算是未來的趨勢之一，這點應(yīng)該沒有任何人有疑問。
而我們的包老師也順應(yīng)這股浪潮，投身進了云計算的研究之中，因為他發(fā)現(xiàn)，目前的云計算存在一個很明顯的瓶頸。
目前云計算的服務(wù)器，基本都還是基于傳統(tǒng)的馮·諾依曼結(jié)構(gòu)搭建起來的計算機（也就是我們每天都能看見的那些）組成的機群。
在這種結(jié)構(gòu)下，雖然由于多年的經(jīng)驗，已經(jīng)積累了許多優(yōu)化運算效率的方法，但在云計算中這些方法卻遇到了一個新的挑戰(zhàn)：
云服務(wù)器面對的用戶服務(wù)請求量是非常巨大的，但運算量的總量是有限的，無論如何優(yōu)化都不可能超過這個物理最大值。
因此如果我們想在云服務(wù)中讓計算設(shè)備的運算效率提高，也就意味著服務(wù)器CPU的負(fù)擔(dān)加重，對每條請求的響應(yīng)時間會延長。而響應(yīng)時間是云服務(wù)中至關(guān)重要的指標(biāo)，可能會嚴(yán)重影響用戶體驗和最終收入。因此各大數(shù)據(jù)公司不得不被迫強行讓自己的服務(wù)器CPU處于一個比較低的應(yīng)用率，可謂是有力使不出。
這種浪費達到了什么程度呢：谷歌作為一家在大數(shù)據(jù)處理方面有著頂尖實力的公司，其在線云服務(wù)的平均CPU利用率大概只有30%，而麥肯錫估計整個業(yè)界服務(wù)器平均利用率大約是6%，Gartner的估計稍樂觀一些，也只有12%
Google的云服務(wù)CPU平均利用率，圖片來自包云崗老師的博客
低的令人發(fā)指啊有沒有！
包老師的團隊在14年就已經(jīng)開始了這項研究，而經(jīng)過不懈努力，他們最終實現(xiàn)了一個非常大的突破：借鑒互聯(lián)網(wǎng)曾經(jīng)面對同樣難題的解決方案，在計算機內(nèi)部也建立了一種類似于網(wǎng)絡(luò)包標(biāo)簽化機制的新技術(shù)，可以極大的提高云計算服務(wù)器計算效率的同時，保證足夠快的響應(yīng)速度。
各位有沒有心動？想不想知道包老師到底是怎么做到的？10月21日，包云崗老師將在2016中國計算機大會上報告自己在這項技術(shù)上的最新研究成果，我們會贈送價值2300元的非CCF會員票，憑此票可以參加20-22日包括包老師在內(nèi)的15位嘉賓精彩的特邀報告、30個論壇及50場活動（除晚宴外）。報名請掃描下面的二維碼在公眾號后臺發(fā)送“CNCC”報名，我們會每天從報名者中選出一名送出門票~~
我們來看看這些大牛都有誰：
當(dāng)然，萬一大家沒有時間親自前往也沒關(guān)系~屆時雷鋒網(wǎng)會對大會內(nèi)容進行詳細(xì)的報道。大家一定不要錯過！
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
