• <track id="oztn4"></track>
    <sup id="oztn4"><form id="oztn4"></form></sup>
    
    
    <mark id="oztn4"></mark>
  • <dfn id="oztn4"><samp id="oztn4"></samp></dfn>
      《地爆天星小姐》电影 ,麦子交换2免费观看2023年上映时间表 ,莫妮卡《爱我几何》,大牛影库战狼6欧式少女全部视频,三年大片国语版在线看,日本空姐电视剧,电影魔镜号中文字幕,和部长一起去出差旅是第几集
      全球「AI學(xué)術(shù)頂會」精華匯聚地
      您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
      此為臨時鏈接,僅用于文章預(yù)覽,將在時失效
      人工智能學(xué)術(shù) 正文
      發(fā)私信給陳彩嫻
      發(fā)送

      0

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場

      本文作者: 陳彩嫻 2020-09-01 17:06
      導(dǎo)語:在討論中,賈揚(yáng)清認(rèn)為:沒有算法工程師這個角色,只有兩個角色,一個是算法的研究人員,一個是應(yīng)用的工程師,而“調(diào)參俠”沒有市場。

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場

      算法工程師不僅需要具備牛逼的算法能力,還要精通業(yè)務(wù)、善于溝通?(小本子趕緊記下來!)

      8月23日晚,知乎直播“AI時代聽大咖聊”邀請到AI領(lǐng)域的兩個大神,分別是阿里云智能高級研究員賈揚(yáng)清,以及知乎CTO李大海。

      在直播中,賈揚(yáng)清與李大海就國內(nèi)外AI研究區(qū)別、在校生/職場新人如何培養(yǎng)自己的AI才能、AI應(yīng)用落地,以及AI在未來的發(fā)展趨勢展開討論。

      在討論中,賈揚(yáng)清認(rèn)為:沒有算法工程師這個角色,只有兩個角色,一個是算法的研究人員,一個是應(yīng)用的工程師,而“調(diào)參俠”沒有市場。

      另外,作為Caffe、PyTorch和Tensorflow曾經(jīng)的核心開發(fā)者,他還提到,深度學(xué)習(xí)框架并不會出現(xiàn)大一統(tǒng)的局面,因?yàn)楝F(xiàn)實(shí)中需求很多,并沒有一家機(jī)器學(xué)習(xí)框架能夠囊括所有的需求。

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場視頻鏈接:https://www.zhihu.com/zvideo/1280989974280634368

      AI科技評論對本次分享作了不改變原意的整理與編輯:


      1

      “專業(yè)”除草,沒想到賣了3億美元

      Q1:能否請兩位聊一下國內(nèi)外做AI領(lǐng)域的研究有什么區(qū)別?

      賈揚(yáng)清:首先,國內(nèi)外的工程師都很用功,而且都追求最新的技術(shù)。個人認(rèn)為國內(nèi)的工程師更關(guān)注如何把方法與業(yè)務(wù)結(jié)合起來,而國外在AI方面有一些很好玩的事情。

      舉兩個例子:一個是,如今很多農(nóng)產(chǎn)品(比如黃瓜)在運(yùn)去超市前需要篩選出大小、質(zhì)量等許多方面合格的產(chǎn)品。以前都是用手分揀的,很麻煩,但自從有了深度學(xué)習(xí)的框架TensorFlow之后,有精通工程的年輕農(nóng)民就結(jié)合算法,使用機(jī)器學(xué)習(xí)自動對黃瓜進(jìn)行分類,實(shí)現(xiàn)了:大一點(diǎn)的黃瓜送超市,小一點(diǎn)的拿去做零售。

      第二個是,我有一個研究生同學(xué)把Raspberry Pi放在后院,后院里有一個喂鳥的地方,松鼠經(jīng)常過來,他就拿那個Raspberry Pi識別松鼠,松鼠一來就把它趕走。這些技術(shù)看著好像沒有什么用處,但后來產(chǎn)生了非常多應(yīng)用。硅谷有一個公司叫Blue River Technology,他們做的事情是運(yùn)用技術(shù)在田間地頭找雜草、除雜草,有點(diǎn)類似篩黃瓜、找松鼠。這個公司后來被美國最大的農(nóng)機(jī)制造商約翰迪爾公司以3億美元收購了。他們很多時候是出于純粹的技術(shù)好奇心,但后來創(chuàng)造了一個產(chǎn)業(yè)。我覺得這是國外蠻有意思的一點(diǎn)。

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場直播截圖 

      李大海:揚(yáng)清講的這個公司我有印象,他們通過識別雜草、然后定點(diǎn)噴灑除草劑,雜草率可以降低到原來的10%。硅谷的公司一直有這個文化。當(dāng)時我在谷歌的時候,Eric(谷歌執(zhí)行董事長)曾經(jīng)講過一個很好玩的故事:當(dāng)時在谷歌有一個柜子專門放T恤。在谷歌,無論發(fā)生什么,他們都會把事件印在T恤上,不定期往柜子里塞,然后大家去搶。當(dāng)時柜子附近有一個攝像頭,Eric就基于攝像頭寫了一些代碼去監(jiān)控這個柜子。一旦識別出這個柜子附近有人,攝像頭就會發(fā)出“警報”來通知Eric,然后Eric一看到有人往柜子里面塞T恤就去搶。在美國,這些工程師會自發(fā)地去做這種(技術(shù)應(yīng)用的)微創(chuàng)新。

      國內(nèi)工程師在創(chuàng)新方面與國外可能有一些差別。目前國內(nèi)的AI應(yīng)用場景已經(jīng)很廣。比如說,在知乎的工程團(tuán)隊(duì)里,大概1/6的人都是算法工程師。在工業(yè)界,算法確實(shí)已經(jīng)滲透到應(yīng)用場景的方方面面。第二點(diǎn)是,AI應(yīng)用從互聯(lián)網(wǎng)開始逐漸推向越來越多的傳統(tǒng)企業(yè)和傳統(tǒng)行業(yè)。但在個人層面,與國外相比,國內(nèi)的工程師可能較少會自發(fā)去發(fā)現(xiàn)一些微小的創(chuàng)新機(jī)會,并實(shí)現(xiàn)它。


      2

      如何優(yōu)雅入“AI”這個坑

      Q2:作為一個在校生,我要如何將學(xué)習(xí)與業(yè)務(wù)結(jié)合,如何培養(yǎng)自己的AI能力、才能進(jìn)入比較好的互聯(lián)網(wǎng)公司呢?

      李大海:我們一般稱掌握了AI知識的同學(xué)為“算法工程師”。算法工程師在本質(zhì)上首先是一個工程師,所以一個工程師所具備的能力,算法工程師也應(yīng)該具備,例如說:1)代碼能力,能夠通過代碼實(shí)現(xiàn)自己的想法;2)數(shù)據(jù)能力,即能夠?qū)?shù)據(jù)進(jìn)行分析,并發(fā)現(xiàn)數(shù)據(jù)所包含的重點(diǎn),同時對數(shù)據(jù)進(jìn)行處理;3)與人溝通的能力,因?yàn)樗惴üこ處煻际窃趫F(tuán)隊(duì)里面工作,不是單打獨(dú)斗,所以需要能夠與同組的其他工程師、產(chǎn)品經(jīng)理、測試和其他同事進(jìn)行溝通。

      第二點(diǎn)是算法工程師需要培養(yǎng)業(yè)務(wù)能力,即對業(yè)務(wù)的理解。工程師首先要掌握業(yè)務(wù)應(yīng)用的知識。業(yè)務(wù)場景非常多,但每個場景所面臨的問題是不一樣的,所以算法工程師一定要理解業(yè)務(wù)到底是需要解決什么問題,具備定位問題、發(fā)現(xiàn)問題、拆解問題和解決問題的能力。

      綜上,對于在校生來說,擁有對算法的理解能力是非常重要的特質(zhì)。雖然算法工程師都喜歡自黑,稱自己是“調(diào)參俠”,但除了調(diào)參之外,還需要知道算法背后的原理。我們現(xiàn)在處于深度學(xué)習(xí)時代,但是在“前深度學(xué)習(xí)時代”有很多淺層模型,這些模型因?yàn)闆]有深度學(xué)習(xí)碾壓式的表達(dá)能力,所以在淺層模型上做了很多思考。

      個人認(rèn)為:“當(dāng)年”那些模型所用到的技巧對于培養(yǎng)機(jī)器學(xué)習(xí)的能力和解決現(xiàn)實(shí)問題是非常重要。

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場       直播截圖

      賈揚(yáng)清:同意大海的觀點(diǎn):分析問題,定義問題,然后解決問題的整個邏輯非常重要。在校生得到的訓(xùn)練更多是:如何解決問題的能力。但其實(shí)如果問題定義清楚了,解決問題的方法就會出現(xiàn)很多。

      另外,從工程的角度補(bǔ)充兩點(diǎn):第一,如何獲取最新的技術(shù)和算法?現(xiàn)在整個開源領(lǐng)域進(jìn)展迅速。其實(shí),不光是開源,也有很多開發(fā)支持平臺。所以,大家可以保持好奇心,然后多帶著玩的心態(tài)進(jìn)行嘗試。例如三年前,名為叫Neural Style Transfer的AI應(yīng)用,將拍的照片上傳之后,就可以轉(zhuǎn)換成一張類似梵高風(fēng)格的藝術(shù)照。

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場

      第二是,“摸透”應(yīng)用的實(shí)現(xiàn)流程。落地應(yīng)用是“曇花一現(xiàn)”,但應(yīng)用背后所涉及的工程步驟,例如把算法快速地迭代出來、如何做算法優(yōu)化、如何把算法放到手機(jī)上,如何上線,等等。這種實(shí)際操作的流程和只看論文和demo是不一樣的。今天,我們有GitHub這類的開源社區(qū),很多實(shí)際操作都比以前更加容易。

      李大海:我想補(bǔ)充一點(diǎn)。有段時間我訂閱過arXiv上面的 topic,但我發(fā)現(xiàn)這是個坑。arXiv最近在機(jī)器學(xué)習(xí)領(lǐng)域非常火熱,每天都大量的論文發(fā)布出來,其中包含很多不同領(lǐng)域的或大或小的突破,這其實(shí)會讓人眼花繚亂。所以在這種情況下,我給學(xué)生們的建議是:自己先抓住一個重點(diǎn)(領(lǐng)域),至于其他領(lǐng)域,簡單了解那些技術(shù)和突破是什么就好。

      Q3:假設(shè)一個同學(xué)已經(jīng)入職了,已經(jīng)成為算法工程師,他可能會經(jīng)歷初級、中級、高級三個階段。所以,關(guān)于初級算法工程師怎么晉升到中級算法工程師,以及中級算法工程師怎么晉升到高級算法工程師,兩位有何看法?

      賈揚(yáng)清:我覺得挺重要的一點(diǎn)是學(xué)習(xí)是所謂的engineering practice(工程實(shí)踐)。很多時候,我們在寫研究代碼時,跟研究本質(zhì)是一樣的,因?yàn)檠芯渴强焖俚恍枰龉こ虒?shí)現(xiàn)。假如,今天要上線一個功能,不僅要保證它的整個foundation(基礎(chǔ))是solid(堅固)的。這時候,我們怎么做代碼的管理、協(xié)同、review(審查)、測試、CD和上線?怎么做 performance(性能)的benchmark(基準(zhǔn))跟profiling ?這一系列的工程流程也挺重要。

      第二點(diǎn)是保持好奇心。其實(shí)任何一個公司的平臺都是挺大的。拿阿里大數(shù)據(jù)和AI平臺來舉例子,像ODPS(Open Data Processing Service)大數(shù)據(jù)平臺是10年前開始建造的,今天平臺非常復(fù)雜,包括上層的C語言庫、中間的 Query Optimization(查詢優(yōu)化)和底層的執(zhí)行調(diào)度,肯定不能完全把握。在這個時候,算法工程師就要與他人保持交流,多提問、多討論。就像T型,對系統(tǒng)的某一點(diǎn)了解特別深,對系統(tǒng)的其他部分就觸類旁通。逐漸成為一個高級算法工程師之后呢,成為一個架構(gòu)師所擁有的能力,其實(shí)也能使得我們在更看得更寬、看得更大的同時,有一個更加全局的系統(tǒng)架構(gòu)的視野。

      Q4:揚(yáng)清有沒有一些具體的建議?比如說你在學(xué)生時代是怎么學(xué)習(xí)的?用什么途徑獲取到新的 AI資訊,遇到問題怎么解決?

      賈揚(yáng)清:在我學(xué)生時代,當(dāng)時大家了解深度學(xué)習(xí)的算法是通過看論文,看完論文后大概就知道怎么做架構(gòu)設(shè)計。在看論文的過程中會有非常多的輸入,比如我們學(xué)到,人們最開始寫深度學(xué)習(xí)框架的時候(Torch是2000年左右出來的,Theano是2008年出來的),它們的架構(gòu)設(shè)計怎么做神經(jīng)網(wǎng)絡(luò)、怎么做layer(層數(shù))等等,這對我們后來設(shè)計其他的框架,像Caffe、MXNet、PyTorch等等,是非常有幫助的。再比如說,我們怎么樣做模型civilization的格式化等等,這時候谷歌的ProtoBuf又是一個很好的測試框架,如G test。這些現(xiàn)有的工程實(shí)踐以及設(shè)計有現(xiàn)成的代碼、文檔和應(yīng)用,看這些其實(shí)能夠在實(shí)際中提升自己的能力。

      李大海:我非常贊同揚(yáng)清的觀點(diǎn),就是在學(xué)校的時候我們會更關(guān)注代碼的算法上是否足夠精妙,但是對架構(gòu)和工程的關(guān)注度是不夠的。我自己在早年的時候也犯過這樣的錯誤,像我們數(shù)學(xué)系畢業(yè)的,在工程上接受到的培訓(xùn)是偏少的,但進(jìn)入公司以后,工程實(shí)踐卻變得很重要。揚(yáng)清之前在一次線下分享中曾提到的一句話我也很贊同,就是:AI是一個系統(tǒng)工程,90%的時間里所做的事情都跟算法無關(guān)。在現(xiàn)實(shí)中也確實(shí)是這樣。

      那么,作為剛?cè)肼毜耐瑢W(xué),其實(shí)首先我認(rèn)為入職已經(jīng)晚了,在入職前就應(yīng)該挑選一個在工程上相對規(guī)范的公司去入職。如果是一個小公司,自己又沒有工程上的 sense(意識),那么你進(jìn)入的是一個工程規(guī)范很亂的一家公司,這對于個人的職業(yè)發(fā)展和工程能力的培養(yǎng)是很有問題的。

      Q5:想請問兩位 AI從業(yè)者,你們覺得跟其他AI從業(yè)者比,你們最大的優(yōu)勢是什么?

      賈揚(yáng)清:在AI領(lǐng)域里,在業(yè)界做得非常成功的人或團(tuán)隊(duì)都有一個特點(diǎn),就是業(yè)務(wù)化。他們不光懂算法,而且懂得怎么用算法。因?yàn)樵诮裉欤惴ㄒ呀?jīng)迅速普及,找一個研究生,兩分鐘就能搞出ResNet。

      另外,AI算法的創(chuàng)新在逐漸變慢。比如說,Bert在NLP領(lǐng)域,ResNet在CV領(lǐng)域都已經(jīng)比較成熟。雖然算法創(chuàng)新還可以稍微提升一下,但算法已經(jīng)不是一個核心的differentiate(區(qū)別點(diǎn))。在這種情況下,怎么樣找到實(shí)際應(yīng)用場景,如何把算法和應(yīng)用結(jié)合起來,我覺得這是最能體現(xiàn)出價值的地方。所以,如今AI的突破可能不是在算法上,而是“算法+系統(tǒng)+應(yīng)用”,而且應(yīng)用可能會變得越來越重要。

      李大海:我們還處于AI的應(yīng)用層。AI現(xiàn)在已經(jīng)是一個非常大的框,里面可以放非常多東西,領(lǐng)域也非常廣。我覺得我們更像是AI行業(yè)的從業(yè)者,是把AI當(dāng)成一個功能強(qiáng)大的工具去使用。

      我們的團(tuán)隊(duì)內(nèi)部曾經(jīng)很喜歡一個國外經(jīng)濟(jì)學(xué)家寫的一本書,叫《與運(yùn)氣競爭》。

             一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場       

      里面講到,當(dāng)我們手上有一把鉆子的時候,很容易想到的是我拿著鉆子可以干嘛?但其實(shí)很多時候,用戶可能只需要鉆一個孔來掛衣服。所以,如果你想的總是“如何提高鉆頭的合金程度”、“讓它變得更好看”,這可能根本就不是用戶想要的。

      總的來說,工具非常重要,我們對于 AI的理解和AI前沿技術(shù)的跟蹤也很重要,但更重要的事情是:用戶的需求到底在哪里,我們能解決什么問題。


      3

      感知大神VS決策白癡

      Q6:現(xiàn)在人工智能處于什么發(fā)展階段?它未來會給我們帶來哪些改變?它的長期規(guī)劃可能是什么樣的?

      李大海:如果要判斷AI目前處于什么階段,我們得先知道AI的全景是什么樣子,但這個很難預(yù)測。這時又會涉及到:人工智能最后到底能走到什么階段?它能不能達(dá)到強(qiáng)人工智能的狀態(tài)?我的觀點(diǎn)是偏悲觀的,我覺得強(qiáng)人工智能可能永遠(yuǎn)都達(dá)不到。

      但說到應(yīng)用,我們可以看到,人工智能在許多領(lǐng)域里已經(jīng)打敗人了,比如說圖片分類。所以在應(yīng)用層面上我是很樂觀的。人工智能的歷史始于20世紀(jì)初,后來經(jīng)歷了一些起起伏伏。

      到今天,AI可能有一些泡沫,但這個泡沫其實(shí)是AI公司在商業(yè)模式上遇到的問題。但從技術(shù)層面上講,AI這個工具越來越強(qiáng)大,數(shù)據(jù)量越來越大,這些都是毋庸置疑的事情,所以在應(yīng)用層面上我是很看好的。

      賈揚(yáng)清:從歷史的角度來看,計算機(jī)誕生的目的是為了更加智能化地處理人與世界交互的問題。在人工智能最早的時候,大家都在處理決策的問題。等決策系統(tǒng)做了一堆工作后,我們發(fā)現(xiàn),其實(shí)我們首先都還不知道這個世界是如何從一個像素、語音“導(dǎo)入”到計算機(jī)邏輯的系統(tǒng)里。所以在前面這幾年,深度學(xué)習(xí)其實(shí)是在從決策層面轉(zhuǎn)到感知層面,從而來解決感知的問題。

      從感知的角度來說,今天已經(jīng)相對較成熟。例如2014年,圖像識別的正確率在一個限定的范圍內(nèi)已經(jīng)超過人類。

      回過頭來看決策,人工智能的決策發(fā)展還不行。比如說,在自動駕駛里,我能感知這里有一輛車、那里有一個人,但是知道后如何做決策?邏輯是什么?甚至在一些更復(fù)雜的場景,例如限速25,但前面的車都超速往前開了,這時候我又怎么辦呢?這些事情都是要在決策層面上解決的。人工智能很有可能會先解決感知/認(rèn)知問題,然后在感知的基礎(chǔ)上做決策。

      綜上,分領(lǐng)域來看,人工智能在認(rèn)知領(lǐng)域已經(jīng)到達(dá)非常成熟的階段,但在決策領(lǐng)域可能還處于初期的探索。


      4

      AI離不開云

      Q7:有一句話叫“AI是云的內(nèi)核,云是AI的必然形態(tài)。”如何看AI和云的關(guān)系,以及AI在云里面扮演的角色。

      賈揚(yáng)清:為什么今天我們說云和AI是一個強(qiáng)結(jié)合的狀態(tài)呢?我覺得原因可能有兩點(diǎn):一是算力,二是數(shù)據(jù)。從算力的角度來說,以前我們在學(xué)校做實(shí)驗(yàn)或自己創(chuàng)業(yè)的時候都搭過機(jī)器。搭機(jī)器很痛苦,而且運(yùn)維機(jī)器在一定程度上不產(chǎn)生價值,然后AI又對GPU有非常強(qiáng)烈的需求。GPU又是一個很惡心的事,有時候運(yùn)行不錯,有時候又會過熱,有時候又需要我們做資源的調(diào)度等等。任何一個實(shí)驗(yàn)室都會遇到資源調(diào)度問題:一個是科研人員在那找GPU的時候發(fā)現(xiàn)找不著,然后系統(tǒng)工程師跑去一看,說:“哇天啊!利用率好低!”一邊是starvation(饑餓),一邊是satiation(飽和)。

      如今,云可以很好地解決算力問題。30年前,所有的單位都有一個發(fā)電機(jī),但今天沒有人用發(fā)電機(jī)了,因?yàn)榈讓拥幕A(chǔ)設(shè)施已經(jīng)非常成熟,可以低成本、大規(guī)模地給社會提供電力。在今天,云的計算力就像水電煤一般的基礎(chǔ)設(shè)施,我們不需要擔(dān)心哪天機(jī)器哪里出了問題。比如說,今天我突然要拉起一個大量的應(yīng)用,這個時候云可以“soo”一聲彈上來,不要了就放掉。這是算力方面。

      第二個是數(shù)據(jù)。前段時間,許多人關(guān)注深度學(xué)習(xí)領(lǐng)域,如圖像、語音等等。但許多AI應(yīng)用其實(shí)是跟結(jié)構(gòu)化數(shù)據(jù)綁在一塊的。咱們舉個例子。比如說像知乎有大量的用戶內(nèi)容,這涉及到兩方面:一方面是自然語言的處理,另一方面是用戶和內(nèi)容的匹配。這時候,其實(shí)是在一個大數(shù)據(jù)底座(像Hadoop和MaxComput)上面做結(jié)構(gòu)化數(shù)據(jù)的人工智能。

      這和一個大規(guī)模分布式系統(tǒng)是分不開的,因?yàn)槲也豢赡芙裉煺f把這些數(shù)據(jù)放到一個GPU機(jī)器上面,拿三個SSD把它給接起來。所以這時候就需要一套比較完整的系統(tǒng),從數(shù)據(jù)的存儲、處理、分析到計算,到上層去進(jìn)行任務(wù)的編排、模型的開發(fā)、模型的上線,以及數(shù)據(jù)的回流。無論用戶是自己搭一個系統(tǒng)(我們叫“私有云”),還是在公有云上面進(jìn)行,云都是AI不可或缺的一個環(huán)境。

      今天的AI,越來越多會關(guān)注到系統(tǒng)、云。這也標(biāo)志著AI未來發(fā)展的必然形態(tài)。目前,算法能夠“單機(jī)”開發(fā),但是如何運(yùn)用算法,則需要算力和數(shù)據(jù)的支持,因此也會需要云和云相關(guān)的技術(shù)。

      我現(xiàn)在在做的工作是把AI和大數(shù)據(jù)進(jìn)行結(jié)合。例如,前段時間我們發(fā)現(xiàn):深度學(xué)習(xí)的工程師會發(fā)現(xiàn)目前的大數(shù)據(jù)平臺不能滿足需求。因?yàn)檫^去需要數(shù)據(jù)庫管理結(jié)構(gòu)化數(shù)據(jù),而如今需要大數(shù)據(jù)逐漸向這種深度學(xué)習(xí)的應(yīng)用領(lǐng)域進(jìn)行改變。

      另一方面,對于結(jié)構(gòu)化的應(yīng)用工程師來說,當(dāng)存在推薦系統(tǒng)的需求時,所需要的并不是把所有的代碼寫出來,而是通過更加靈活的“拖拉拽”等方式。因此,過去是從大數(shù)據(jù)的角度進(jìn)行AI落地,而未來一到兩年內(nèi)需要從系統(tǒng)的層面,推動非結(jié)構(gòu)化深度學(xué)習(xí)場景和結(jié)構(gòu)化“傳統(tǒng)經(jīng)濟(jì)學(xué)產(chǎn)品”進(jìn)步。


      5

      算法工程師的未來“兇多吉少”

      Q8:AI工程師和AI算法工程師之間有何不同?各自的發(fā)展趨勢是怎樣的?兩者會不會融合?

      李大海:在谷歌內(nèi)部,AI的工作是普通的工程師在進(jìn)行,只要把問題描述清楚,然后放到“系統(tǒng)”上,系統(tǒng)就能夠給出一個大概的解決方案。在未來,隨著技術(shù)的發(fā)展,AI和AI工程的門檻會越來越低。這就意味著AI工程師的從業(yè)門檻也會越來越低。

      但是有許多缺口需要AI工程師補(bǔ)充,所以,AI工程師也需要積累算法。因此,從這個角度來看,AI工程師既需要懂架構(gòu),又需要懂算法。對于學(xué)生或者剛進(jìn)入工作的職場新人而言,需要好好塑造自己的方法論,快速補(bǔ)充自己,根據(jù)自己的業(yè)務(wù)需求讓自己的能力變強(qiáng)。

      其實(shí),無論是在谷歌還是在知乎,我們招聘工程師都有一個標(biāo)準(zhǔn),即希望工程師足夠聰明,能夠快速學(xué)習(xí),可以根據(jù)自己的業(yè)務(wù)補(bǔ)充“技能樹”。

      綜上,無論是算法還是工程,其基礎(chǔ)能力和學(xué)習(xí)能力非常重要。

      賈揚(yáng)清:我來討論可能相對比較有爭議性的話題:個人認(rèn)為沒有算法工程師這個角色,只有兩個角色,一個是算法的研究人員,一個是應(yīng)用的工程師,而“調(diào)參俠”沒有市場。因?yàn)椋械恼{(diào)參工作只需要寫for 循環(huán)語句即可。

      算法的科研人員更多是攻堅“更好的算法”,例如在計算機(jī)視覺領(lǐng)域,可能要把模型做得更大、更準(zhǔn),在某些問題上需要把模型做得更小。當(dāng)然,在具體量化的過程中,需要在兩者之間進(jìn)行平衡。也就是說,科研人員更多是思考如何在一些“普遍”的場景下對算法進(jìn)行創(chuàng)新。

      在具體的應(yīng)用過程中,調(diào)參只是一個手段。例如,在無人駕駛領(lǐng)域,其場景和機(jī)場的云點(diǎn)識別的場景非常類似,但是其數(shù)據(jù)的分布不一樣,所要做的事情不一樣。應(yīng)用工程師更多的是了解其背后的業(yè)務(wù)場景差距和限制,例如傳統(tǒng)的約束滿足問題(CSP)。所以,應(yīng)用工程師更多的是對端到端進(jìn)行整合,找到最優(yōu)的方向進(jìn)行調(diào)參,也就是說,調(diào)參只是一個手段。綜上,調(diào)參俠沒有市場,現(xiàn)實(shí)中只存在算法科研人員和應(yīng)用工程師。


      6

      小板凳蹲阿里、知乎的AI展望

      Q9:AI的發(fā)展情況如何?在知乎和阿里有哪些技術(shù)沉淀?未來的應(yīng)用情況、重點(diǎn)投入的AI方向是什么?

      李大海:目前的AI工作和場景結(jié)合緊密。抽象來看,(知乎)有三大方向:一是內(nèi)容生產(chǎn),如何利用AI讓內(nèi)容生產(chǎn)進(jìn)行更有效率,例如創(chuàng)作者匹配、激活創(chuàng)作者;二是內(nèi)容理解,建立內(nèi)容概述,對內(nèi)容質(zhì)量有初步把握,例如內(nèi)容底線內(nèi)容在哪里?內(nèi)容是不是帶有辱罵性質(zhì)?是不是有極端(仇恨)情緒;三是內(nèi)容分發(fā),這個方向建立在第二個方向基礎(chǔ)之上,但不再僅僅局限在內(nèi)容的理解上,還需要對用戶進(jìn)行理解。具體而言有兩種情況,一是用戶主動搜索,將AI算法賦能到搜索引擎里;二是,被動推薦,將高質(zhì)量內(nèi)容推薦給合適用戶。

      那知乎在文本方面(NLP)有哪些工作呢?主要有兩個方面,一是分詞,例如最近的一次迭代結(jié)果是:F1的值從91%上漲到93.5%。二是詞性的判斷,這類工作包括命名實(shí)體識別、消歧等等。

      賈揚(yáng)清:阿里有很多團(tuán)隊(duì)在研究AI,例如阿里的PAI團(tuán)隊(duì)致力于AI的開發(fā)和治理的平臺,基本上阿里的所有工程師都會在上面做開發(fā),達(dá)摩院的同學(xué)就會在上面構(gòu)建很多應(yīng)用和落地的算法,包含圖片、語音等等。

      具體而言,阿里在開發(fā)和工程平臺上基本上有三方面的應(yīng)用,首先是AI和大數(shù)據(jù)的結(jié)合,目的是在傳統(tǒng)機(jī)器學(xué)習(xí)領(lǐng)域里,如何讓應(yīng)用工程師、或者數(shù)據(jù)科學(xué)家更加容易使用數(shù)據(jù)和算法。換句話說,更加豐富、更加成熟、更加高效的算法的結(jié)合,目的是為公司提供需要的場景化的解決方案。最典型的例子有兩個,一個是搜索推薦,另外一個是金融風(fēng)控。這兩個領(lǐng)域?qū)I存在強(qiáng)需求。如果存在場景化的解決方案,那么就能讓其更容易將領(lǐng)域數(shù)據(jù)和AI相結(jié)合。

      第二是更加云原生、順暢的AI的深度學(xué)習(xí)的體驗(yàn)。以往的大數(shù)據(jù)、深度學(xué)習(xí)平臺其結(jié)構(gòu)往往比較重,使用云原生“容器化”的能力可以構(gòu)建出一個和“自己”的開發(fā)環(huán)境相符合的“產(chǎn)品”。例如在無人駕駛場景中,可以實(shí)現(xiàn)非常靈活的深度學(xué)習(xí)開發(fā),構(gòu)建靈活的深度學(xué)習(xí)應(yīng)用。

      第三是更加成熟的工程化的AI算法的部署,旨在解決模型的穩(wěn)定程度和彈性以及檢測模型的性能。再者,如果有新的模型上線,如何進(jìn)行A/B 測試?如何回流模型的用戶反饋?等等都是需要考慮的問題。

      在阿里我們還進(jìn)行了一些“隱形”的工程能力。例如,針對系統(tǒng)利用率低,我們做了資源調(diào)度、資源的編排管理等工作。具體而言,我們在OSDI這一會議發(fā)布了異構(gòu)相關(guān)文章,還發(fā)布了在推理的框架里如何自動生成代碼等論文。這些工作在產(chǎn)品中顯現(xiàn)不清楚,但是確確實(shí)實(shí)能夠幫助平臺降成本,增效率。

      Q10:有何展望?阿里云會不會有自己的深度學(xué)習(xí)框架?接下來有哪些新的產(chǎn)品形態(tài)?

      賈揚(yáng)清:接下來在產(chǎn)品形態(tài)上會把產(chǎn)品做得更加成熟,更加模塊化。目的是讓大家根據(jù)自己的需求進(jìn)行靈活選擇,模塊化的靈活組合。

      另外,也會著重強(qiáng)調(diào)穩(wěn)定性和用戶體驗(yàn)。關(guān)于深度學(xué)習(xí)框架,個人邏輯是:從需求出發(fā)。TensorFlow和Pytorch其出現(xiàn)的原因也是這個邏輯,例如TensorFlow能夠迎合“在一個大規(guī)模的彈性系統(tǒng)上面,靈活構(gòu)建高性能AI的需求”。

      但是TensorFlow也有學(xué)習(xí)難度比較大的弱點(diǎn)。所以針對學(xué)習(xí)難度問題,出現(xiàn)了Pytorch。目前,這兩者也在相互借鑒,例如TensorFlow在增強(qiáng)用戶體驗(yàn),Pytorch在增強(qiáng)系統(tǒng)能力。所以,從需求的角度來看,這兩者在一定程度上很好的解決了用戶體驗(yàn)問題。

      設(shè)計深度學(xué)習(xí)框架切記不要 meet to product,即和TensorFlow和PyTorch在結(jié)構(gòu)上不一樣,但是所能夠滿足的需求,能夠做的事情是一樣的。(賈揚(yáng)清意思是:這種框架不值得)

      其實(shí),個人認(rèn)為,當(dāng)前最重要的價值是如何更好的對接軟硬件的協(xié)同設(shè)計,不光是大規(guī)模的系統(tǒng),如何將眾多的芯片(例如平頭哥芯片、AMD芯片、蘋果芯片)和框架進(jìn)行對接,也是一個非常現(xiàn)實(shí)的工程問題。

      所以,軟硬件系統(tǒng)的設(shè)計才是核心問題,能否出現(xiàn)新的深度學(xué)習(xí)框架,這個框架將會解決什么問題,也都會圍繞這個核心問題。


      7

      精挑細(xì)選的問答

      問答1:作為CTO,管理著上百人的技術(shù)團(tuán)隊(duì),你們一天的工作內(nèi)容是什么?

      李大海:技術(shù)體系的工作分為兩種,第一種是建體制,即從機(jī)制層面思考創(chuàng)造讓團(tuán)隊(duì)認(rèn)真工作的環(huán)境。讓大家覺得工作更愉悅,工作目標(biāo)更明確。如果這個問題解決不好,直接會影響工程團(tuán)隊(duì)的組織能力,會影響到團(tuán)隊(duì)的文化氛圍。

      第二種是對重點(diǎn)的工作領(lǐng)域進(jìn)行分類,在幾百人的團(tuán)隊(duì)里,我們的工作覆蓋面非常廣,所以我會關(guān)注到哪些領(lǐng)域的重要程度最高,然后判斷現(xiàn)狀和重要程度之間的差距如何。雷鋒網(wǎng)

      最后,我作為全局領(lǐng)導(dǎo)者,擁有的信息比較全面。也會關(guān)注擁有部分信息的員工所作出的決策,如果他出現(xiàn)錯誤,我會進(jìn)行糾正。雷鋒網(wǎng)

      賈揚(yáng)清:有四個方面,第一做事情,即如何搭建平臺,如何進(jìn)行業(yè)務(wù),這里涉及到和阿里云的其他團(tuán)隊(duì)進(jìn)行對接,討論需求,商量決策。雷鋒網(wǎng)

      第二是如何通過團(tuán)隊(duì)之間的良好溝通,確保團(tuán)隊(duì)的戰(zhàn)斗力。這需要考慮人的喜怒哀樂,需要考慮組織溫度。

      第三,如何構(gòu)建機(jī)制,我們的做法是通過“戰(zhàn)役”進(jìn)行確定重點(diǎn)方向,例如針對用戶體驗(yàn),用戰(zhàn)役的機(jī)制進(jìn)行討論、執(zhí)行,確保能夠做出用戶需要的產(chǎn)品。

      第四,自我學(xué)習(xí)。在做管理的時候,感覺自身有很多不足的地方。并且,我的知識儲備和團(tuán)隊(duì)相比并不會雄厚。所以,需要自我學(xué)習(xí),提升能力,從而更好的管理團(tuán)隊(duì)。

      總結(jié)一下,我在阿里云做管理,涉及到的工作是:人、機(jī)制、自我學(xué)習(xí)。

      問答2:會不用有一個大一統(tǒng)深度學(xué)習(xí)框架?

      賈揚(yáng)清:我覺得不會, 例如可口可樂和百事可樂;安卓和ios ,mac和windows。曾經(jīng)看到過這么一個經(jīng)濟(jì)學(xué)觀點(diǎn),我們的現(xiàn)實(shí)需求很多,并沒有一家能夠囊括所有的需求。例如在最好的語言評選中,數(shù)據(jù)科學(xué)家更傾向于Python,系統(tǒng)工程師會選擇C++。因此,不會有一個一統(tǒng)江湖的框架,也不會存在一成不變的框架。(編者注:賈揚(yáng)清說的可能是政治經(jīng)濟(jì)學(xué)里面的“壟斷并不會消除競爭”~)

      李大海:同意賈揚(yáng)清的觀點(diǎn),但是我想從另一個角度討論這個問題。例如微信只有一個,但是其他產(chǎn)品可能會出現(xiàn)并存。是否形成一家獨(dú)大的判斷標(biāo)準(zhǔn),我認(rèn)為是是否有網(wǎng)絡(luò)效益。機(jī)器學(xué)習(xí)平臺并沒有那么強(qiáng)的網(wǎng)絡(luò)效益,需求的點(diǎn)有很多,不同的需求可能存在不同的平臺。所以,Tensorflow和Pytorch這兩大主流平臺可能會長期存在,而在某些垂直領(lǐng)域還可能出現(xiàn)某些“小而美”的平臺。

      問題3:有哪些好的學(xué)習(xí)方法,最近在看的書可以分享?

      賈揚(yáng)清:學(xué)習(xí)方法在于好的知識輸入渠道,推薦四個:1、知乎;2、Hacker News;3、TechCrunch;4、Reddit machine learning group。關(guān)于書籍,最近在看一些管理方面的書籍,例如《公司的進(jìn)化》。

      雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知

      一份來自賈揚(yáng)清的AI青年修煉指南:不存在算法工程師、調(diào)參俠沒有市場

      分享:
      相關(guān)文章
      當(dāng)月熱門文章
      最新文章
      請?zhí)顚懮暾埲速Y料
      姓名
      電話
      郵箱
      微信號
      作品鏈接
      個人簡介
      為了您的賬戶安全,請驗(yàn)證郵箱
      您的郵箱還未驗(yàn)證,完成可獲20積分喲!
      請驗(yàn)證您的郵箱
      立即驗(yàn)證
      完善賬號信息
      您的賬號已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
      立即設(shè)置 以后再說
      主站蜘蛛池模板: 李宇春 新专辑| 妓院十二房| 朝国年经的继2免费观看时间| 致命弯道4高清全集| 坠落的女律师在线观看完整版 | 销售的销售秘密2HD中字| 花花世界花家姐| 周弘| 猎金·游戏未删减| 《交换》电影| 略阳杀人案| 手术直播间在线看免费| 《私人航空》法国电影免费观看完整版 | 之后3在线观看完整版| 奥特曼大电影超银河传说第二部 | 姐妹牙医| 神探阿蒙第一季| 电影《美容院的特殊待遇》男主开设| 重游母亲桃花源| 翁虹 满清十大刑酷| 电视剧《回响》免费观看| 囤货种田:空间农女短剧全集| 电影《意大利夫人》在线观看| 武则天艳情三级DVD版第一部| 啄木鸟满天星电影壮志凌云在线观看 | 法国满天星《古墓丽影| 美丽的他第六集在线观看| 地狱尖兵2电影完整版| 《混血儿的摇篮曲》1973| 《黄金瞳》在线观看| 前夫的东西很大现在还想| 本乡爱| 电影好久没做| 需要爸爸播种籽英文| 尼基塔第二季全集| 天骄 电视剧| 日本战狼六免费| 阹贞传奇| 女友的妈妈双字ID怎么设置| 重案六组第四部全集| 鸭王2迅雷下载| 正义联盟导演剪辑版在线观看 | 英雄祭1—40集| 把腿把开学长都给你高| 电影天海翼匿名侦探免费观看| 虎符传奇在线观看| 电影灵与肉| 聚会的目的3高清完整版在线播放 向风而行电视剧免费播放观看 | HD版《激战丛林》电影| 大宋奇案之狸猫换太子| 高圆圆回应网友说她老了| 电影《北越暴行》免费播放| 输赢电视剧全集在线观看完整版 | 法国空乘2016不难空乘在线观看| 爱很美味电视剧免费观看| 电视剧人世间免费观看完整版| 星汉灿烂电视剧全集| 天台百度影音高清| 男女一起愁愁愁电视剧免费j苦闷苦闷看 j | 添女人荫蒂视频A片| 奇奇颗颗历险记动漫| 性解蜜 | 沧元图第二季59集完整版| 战争暴行女囚HD版| 杀人锦标赛| 《年轻的女教师》5| 星光大道朱之文全集| 电影免费观看新有菜| 你是我的荣耀免费观看完整版西瓜| 男生女生一起愁愁愁电视剧观在现观看| 晚娘2012在线观看| 瞧这一家子电影演员表| 强心脏yg| 丹麦女孩未删减版| 3D动漫18MMD在线观看| 霍元甲83版全集免费| 一对一播放| 荒野求生贝尔 格里尔斯| 南郑县| 你能听到我的心吗剧情介绍| 漂亮的小瘦子3完整版| 一个陌生女人的来信下载| 野花高清在线观看视频播放| 冻结地球电视剧| 风水讲座| 昆仑神宫电视剧16集在线观看 | 电影《牙医姐妹》播放| 刘大明白改命师全集| 远得要命的爱情电视剧| 女孩阿尔玛| 北京志宏餐饮公司| 隐形的帽子| 下水道美人鱼在线| 千金肉奴隶在线观看| 王屋下的传说| 壮志凌云在线播放满天星| 回复术士的重启人生2季在线观看| 韩版恶作剧之吻02| 重庆市| 建议取消强制自动续费| 吴健农民伯伯下乡2全集免费观看| 《杉杉来了》在线观看完整版| 《义姐是不良姐第一季全集免费》 | 我会好好的电影| 韩国情书复古舞| 铁马战车粤语| 韩剧泡沫爱情| 学生妈妈的麦子| 火箭军高层间谍是谁| 波多野吉衣销魂120分钟电影| 夫人马甲藏不住了 | 另一个贝内特家的姐妹未删减| 欧美金银1-5美国英语| 捉鬼有限公司| 替夫还债电影高清完整版| 高清象山发光事件| 卿本佳人在线观看免费国语电影| 侏罗纪世界:重生全集观看| 摇滚青春2| 仓井空电影网| 明明不喜欢电视剧全集免费观看| 柜中美人 电视剧| 五十度灰电影在线观看| 烟卡稀有度排名| 日本海鲜滞销堆积成山| 江阴市| 高清恩佐未删减| 《泰山和珍妮丛林》在线观看完整版 | 流星花园 泰版观看全集| 《特殊的治疗》李采潭在线 | 淫乱之女| 魔道祖师动漫免费观看| 《激战丛林》-罗莎·卡拉乔洛在线 | 回复术士2真人版118集剧情介绍| 牛仔很忙 mv| 铁流1949| 电影《爱我几何》| 药王神篇| 电影《需要爸爸播种》演员表介绍 | 女版战狼6泰国版高清| 如何剥石榴| 喝茶影视《部长出差的日子》| 锦绣前程:重生不做炮灰短剧全集 | 你们对象怎样抠你们的| 电影《替夫还债3》| 广州火车站售票时间| 电视剧非亲姐妹全集| 陆战特攻| 女主被4个师兄们NP| 成人《激战丛林》完整版在线观看| 少女第19集在线观看免费| 三年国语正片在中国| 江湖兄弟电视剧| 我的性肉欲继拇| 《佛陀》印度电视剧| 黑白配高清国语全集在线看| 年经姨妈3电影| 卢氏县| 美洲杯决赛回放| 电视剧潜龙行动| 欢喜冤家电影| 女版战狼6在线观看免费 | 《插曲的痛》中文版全集| 十月三十三日电视剧免费播放| 花子小姐vs驱魔师在线观看免费| 唐人街探案2免费观看高清版电影 女忍的训练最后的战争无广告 | 《部长出差的日子》免费电影| 黑道风云二十年电视剧| 初恋优酷| 最初的相遇最后的别离免费观看| 热带雨林的暴笑生活| 每逢国庆思佳婿短剧免费观看 | 《情深深雨蒙蒙》电视剧| 拜托小姐第二季免费观看| 电影《法国空少》免费观看 | 新铁石心肠2019| 比特铃手机diy大师| 硬汉枪神免费观看完整版高清| 脑电波扫描仪| 那些年我们一起追过| 毒战首映礼| 罪恶斗争电影在线播放| 深圳都市频道| 情圣 周星驰| 女朋友妈妈双字id免费| 天才枪手| 黑白配高清大全免费观看| 娄艺潇邓家佳公布恋情| XL司令第二季真人版全集免 | 恋爱恐惧症| 疯狂二人荷尔蒙爆发原声视频| 蜡笔小新2010剧场版| 维修员工的培训电影| 等一个晴天说再见| 晚安,为我而眠的妹妹| 《干柴烈火》| 日本维修工艳遇24小时视频| 地铁迷情| 晚安为我而安眠的妹妹完整版在线观看| 平凡的世界免费电视剧| 男女愁愁愁在线观看视频| 大叔爱上小姑娘韩剧| 秋霞在线观看,售楼小姐的密秘| 人口第一大省首现负增长| 1水手服饲养未减版剧情介绍| 爱没那么简单 黄小琥| 需要爸爸的种子美剧| 海绵宝宝第十一季| 原千岁电影全集在线观看| 德克里克堡| YOUJAZZY MINDE主演是谁| 色即是空3 韩国完整| 满天星女版唐三藏| 大明风华在线观看免费下载播放| 太子爷出差| 利箭行动电视剧全集百度影音| 后宫之妾| 我在他乡挺好的第九集| 工厂蛇患| 惊艳一枪国语| 功夫瑜伽电影在线观看完整版中文| xnxnxn美女19| 布隆家族| 甄嬛传74集在线观看| 山东高密砍人案件| 女按摩师3| 秘密的爱| 正在播放: JUL-975 没有我丈夫的五天,我被命令禁欲到第一个晚上,我的性岳父对 | 挑战好声音| 漂亮的保姆3在线播放西瓜| 看视频免费网址| 法证先锋4粤语版免费观看完整版| 火焰鸡蛋花 电视剧| 好妈妈高清在线播放中文| 唐朝诡事录电视剧在线看| 爱在空气中14集特别篇| 爱人迅雷下载| 斗罗大陆162| 房屋销售的秘密韩剧| 望夫成龙周星驰普通话版在线观看| 战狼6免费播9999| 疯狂的足球高清| 僵尸道长1| 空即是空电影完整版| 罗宾 威廉姆斯| 那什么拯救你我的爱人| 新人女职员的诱惑韩国电影在线观看中文字幕 | 绝对防卫利维坦| 美丽教师未删减完整免费观看| 姐妹牙医全集在线| 婚纱 韩国电影| 危险关系未删减| 《唐人街探案3》免费观看| 韩剧《无法抗拒的你》全集| 善良的嫂子韩剧| 战狼6欧式少女全部视频漫画版在线观看 | 父子老爷车电影| 一拳超人3在线看免费观看高清| 越剧血手印| 一切都值得 张杰| 墨西哥电视剧《la rosa de guadalupe》(瓜达卢佩的玫瑰/奇迹玫瑰 在线 | 坏妻子便利店被欺负后的剧情解析| 青春期电影完整版| 少年歌行电视剧在线观看免费播放| 华为matex发布会| 麦乐迪《家庭矛盾》免费观| 我的相亲对象是消防员第二季| 《飞机上性服务》电影| 上海液压机维修| 开膛手杰克 电影| 沈阳真爱现场| 裂缝百度影音| 美国娃娃脸4(经典版)| 东京奥运会回放| 激战后厨第1-6集在线播放| 我心里的那家伙| 悬赏粤语版| 除暴电影在线高清观看| 《帝国的毁灭》免费观看完整版| 鬼灭之刃郭游篇| 狼来了电视剧| 电视剧百万新娘之爱无悔| 天涯神贴免费完整版| 布达佩斯之恋完整版| 美国高压监狱完整版| 人生若只如初见 奈何情深缘浅 | 菲律宾电影修理工的艳遇| 男女一起愁愁愁免费观看全集高清| 太平轮在线观看| 雷洛手下猪油仔原型| 禁止的爱善良的小姨在线播放免费| 仙逆108集在线播放| 法国粉红萝卜| 红苹果短剧免费观看| 法航空乘11| 大象电视剧| 夫妻那些事电视剧大结局| 头号玩家豆瓣| 滚滚红尘电影在线观看免费完整版| 健身瑜伽2免费版在线观看| 古惑仔之fing头妹| 北非谍影| 小蓝视频勇敢做自己| 赌圣之上海滩粤语| 台版1987渔夫荒野史记下载| 2001太空漫游电影| 大明风华电视剧免费观看| 善良的女销售| 八佰免费| 花儿与少年第二季下载| 偷偷藏不住免费观看25集| 少年张三丰张卫健电视剧免费观看| 影音先锋日韩| 青盲电视剧全集下载| 欲体焚情女主角| 漂白一共多少集| 幸福最晴天| 善良的母亲中字开头9个字 | 插曲的痛免费播放完整| 老公不知情电影| 迪哥闯世界全集| 竹夫人完整版| 电视剧樊梨花| 木下檀檩子电影在线观看| 蛮荒禁地| 黑暗侵袭1电影| 跨界歌王第三季| 招惹电视剧在线观看免费版高清| 酒店刺激战场免费观看| 高清鲁邦三世:钱形与两个鲁邦 | 晚安为我而我的妹妹| 农场主和他的三个女儿们| 医生的特殊治疗4| 隐形的翅膀电影免费观看完整版| 时光动漫| 校尉上将满天星| 三生缘起是清欢| 美丽的小蜜桃5| 极限挑战之皇家宝藏bt| 我的如意狼君国语| 八尺夫人免费观看完整版星辰| 美洲杯决赛回放| 七天骗了一个村| 电视剧勇敢的心| 美国电影荣誉守则满天星| 超科学的电磁炮| 溏心风暴3粤语在线观看完整版| 驯服调教上司女社长| 咒术回战第三季在线观看完整版| 阴阳师在线观看完整版免费| 金瓶玉2之性奴| 斗罗大陆114| 卖房子的韩国电影| 加油艾米| 宝藏歌手| 陆贞传奇未删减版| 日本jiZz| 狙击之王电影免费观看| 无间道1| 爱死亡与机器人| 伊拉伯病毒2电影完整版| 爱如微风悄悄掠过短剧免费观看| 我的世界电影在线观看免费| 我的大胸继拇4| 金牌销售的秘密3完整版| 灵魂战车2高清下载| 铁探免费在线观看| 老婆6免费完整版电视剧| 我可能不会爱你 全集| 信任 陈奕迅| 柒个我剧情介绍| 同学妈妈| 最美的安排电视剧| 联谊对象是RS系警官| 庆余年第四部50集免费观看| 古墓丽影法国版女版在线观看| 张曼玉黎明主演的电影| 嫁给西北糙汉子的小说爱情| 少年派2 电视剧| 国产免费观看高清电视剧在线观看 | 在游泳池边做爱 韩国| 高清猩疯血雨| 评书杨家将刘兰芳| 岢岚县| 美国youtube在线| 薛佳凝淡出娱乐圈的原因| 斗罗大陆观看| 满天星电影全集免费观看| 麦乐迪女超人在线播放完整版| 电视剧永不回头| 大头儿子小头爸爸1| 美国电影需要爸爸播种子高清| 黑白配免费观看大全在线播放| 星克莱尔迷宫在线播放| 绅士的品格 手机| 战狼3免费高清版电影 | 《爱我几何》免费完整版在线观看| 妈妈的朋友4在线免费观看| 家有儿女第四部| 哪吒之魔童降世| 毒医肥尸| 开膛手杰克电影| 懵懂的女孩| 钢铁侠真的可以存在吗| 家庭矛盾4麦乐迪在线观看| 你是我的荣耀西瓜影音| 中华丈夫| 今天有七星连珠吗| 巴西电影《营销技巧》| 地球脉动第一季免费观看| 盲战在线观看免费| 明星大侦探第三季| 爱我几何原版免费观看| 不知火舞vs外星人之h| 猎金·游戏未删减| 追凶者也电影未删减版在线| 酒店1-5集在线观看免费版下载 | 《大明王朝1566》电视剧| 与爱同居泰剧免费泰剧在线观看| 美容室:待遇服务6| 胜女代价2| 维修工人的绝遇2中文字HD_午夜电影全集_完整版免费在线观看-天天影院 | 百万新娘第一部| 渤海之眼摩天轮| 我家有喜爱奇艺| 24世纪性格爱情指南大结局 | 《法国空乘5》在线| 朝夕录电视剧| 天柱剑毫| 韩剧想你国语版| 369你懂的电影| 《特殊游泳课》波多野结衣| 东北话版蜡笔小新| 高清午夜的倾心旋律未删减| 战狼8欧式少女全部| 刻晴大战史莱姆免费观看外服| 两天一夜韩国版2014| 欲望酒店 百度影音| 维西| 丽娜安德森 在线电影| 黄品冠的老婆| 敢梦有爱| 闪耀的他电视剧免费观看| 花甲房东真人版免费看| 汤摇庄的幽奈同学| 铁甲威龙| 向往的生活第五季第三期免费观看| 总统夫人电影在线观看| 新施公案优酷有全集| 幸福的面包| 夺宝奇兵5免费观看完整版| 特级外卖员| 阿婴电影| 碧海雄心| 韩剧《大家庭》免费观看| 总统夫人罗丽星克莱尔| 言承旭 ella| 暗宅之迷| 亲切的金子趴在桌子上的一段粤语| 加勒比海盗女版1观看| 白峰美羽大战黑人在线观看| 龙过鸡年| 爱的罗曼史无删减在线观看| 小苍解说| 卢旺达的玫瑰满天星| 乡村爱情五| 杰克逊经典歌曲mp3| 可可西里6| 锵锵锵完整版在线观看高清完整版| 战将电视剧全集| 纯真的年代全集| 《人妻上司》完整版| 成人版《加勒比海盗》在线| 夏娃的诱惑娇妻电影| 两天一夜20110529| 51吃瓜.world戴璐蘑菇| 黑帮老大第三季结局| 韩剧我的双胞胎女友| 百变小樱国语版| 索多玛的120天| 电视剧三国演义全集| 埃丽诺娃满天星| 战后之战30集免费版| 爱在春天电视剧| 珍娜詹森| 《少女满天星》完整版在线| 四分钟泰剧在线观看免费高清| 冷暖人生溺爱| 浮世风情绘 电影免费观看| 女军医满天星免费观看| 需要爸爸播种孑伦理电影| 豪斯医生| 公主动画片全集| 漫步云端 电影| 圣特罗佩姑娘们满天星电影| 绝密暗号电视剧在线观看免费版高清 | 兴宁市| 隐形帽| 手机电影免费观看国语| 无处藏身全集电视剧免费观看| 村里的姑娘国语高清在线观看| 金牌售楼销售的秘密5HD中字| 湘西诡案| 美味风蛇图纸| 女婿有劲枪枪到底岳峰扮演者| 《安娜的秘密》满天星在线观看| 《水润人生》刘智贤| 唐山大兄演员表| 水上游击队全集| 我的莫格利男孩在线观看| 小蜜桃25| 女老师日记电影| 《密爱》2002完整版| 电视剧康熙王朝全集| yellow视频高清免费| 加菲猫家族国语版免费观看| 火遮眼谢苗电影完整版| 《格林童话》免费观看| 新丰县| 法国女超人电影版在线| 饭冈かなこ在线播放| 加油菊花国语| 住在我家的男人电视剧| 爱我几何《莫妮卡》在线观看| 传说中的故乡| 电视剧一生为奴| 生活有点甜 电视剧| 高阳县| 壮志凌云2(啄木鸟)在线观看| 可可托海牧羊人原曲| 剪刀手爱德华| 《哪吒1:魔童降临》免费观看| 女员工在付出5中字| 宫锁沉香电影高清| 紫川动漫第二季| 勇者传说粤语| 3d玉蒲团完整版| 大牛战狼6免费观看高清版电影| 女人的战争 卑劣的交易| 野玫瑰之恋| 好人约翰尼| 性解密之大妈| 1984美式保罗2| 秀丽江山之长歌行电视剧| 高清《突然的喜欢》电视剧| 大博弈电视剧在线观看| 潘多拉之镜1983满天星版资源| 秘密10| 哥布林的窑洞第一季| 错位青春| 台山市| 满天星《古墓丽影》在线观看| 高清《在你眉梢种红豆》电视剧| 美景之屋2在线观看高清未删减| 新天师钟馗| 公之孚之中字5| 蛇妖1988空姐| 摩绪电视剧| 疯狂动物城衍生剧在线观看| 我的阿勒泰结局| 《牙医姐妹》1986版| 小宝和老财| 替天行道之杀兄电影| 韩国伦理电影下载| 正阳门下电视剧36集全免费| 做aj的电视在线观看免费大陆| 剧神影院大全免费播放| 三d肉浦团| 《请成为我的家人》电视剧| HD版《激战丛林》类似的电影| 公的孚之手中字| 中国结婚率创新低| 王汝刚生什么病| 黄土高天| 保罗2高清版免费看| 我是特种兵之火凤凰结局| 彬彬来了| 京城李公子是谁| 美丽妻子替丈夫还债| 女律师的堕落zaixianq| 美剧杀戮一代| 电视剧红颜的岁月| 威尼斯恋人剧情介绍| 苍空井电影| 国风按摩院在线免费观看| 善良的岳母日本| 侯门嫡女:宅斗冠军是我短剧全集| 高清《猎罪图鉴》第一季免费看| 倔强驱魔师1-4动漫免费观看| 秘密爱韩国电影完整版免费观看| 蜂脸女人| 天乩全集免费观看完整版下载| 桥牌怎么玩| 暴躁老妈40集全在线观看 | 香烟爱上火柴广场舞| 外出电影2| 法国8号空姐| 电影修理工的艳遇韩国在线观看| 冬暖花会开电视剧全集免费观看| 我要成名在线观看| 爱情怎么翻译?| 最终列车醉汉第一季| 古墓丽影山寨版免费观看| 公主日记电影| 镖行天下前传之决战天涯| 《甜蜜家园》电视剧| 女版战狼10普通话版免费播放下载| 伊波拉病毒2:伊波拉大逃亡| 初五启市录粤语版| 天下无双张靓颖| 屋顶上的猫| 禁忌4年转一代禁忌演员表| 最高的爱人诏日剧免费观看| 平成假面骑士| 我邻居的妻子| 父亲身份短剧全集免费观看| HD版泰山《激战丛林》完整版免费国语 | 极乐老人| 金银梅5一10普通话2.| 战狼6免费完整在线观看| 我和我的家乡在线播放最新| 最终幻想15王者之剑| 墨缘太极纯音乐加长版| 《激战丛林》完整版观看 | 法国空乘5全集观看| 明星有戏寻找唢呐王| 美国多人做人爱的视频| 《风流女管家》电影在线看免费版| 笑傲江湖更新| 妈妈的职业5高清完整版| 血战钢锯岭在线观看| 网球王子电视剧| 奇幻精灵事件簿下载| 龙岭迷窟2022在线观看| overflower原版| 孤儿 电影| 权力王朝:默多克家族电视剧| 追鱼电视剧| 圣斗士星矢冥王十二宫| 入室暴行| 周密RAPPER| 刀锋战士| 王祖贤视频| 进击的巨人5| 木下檀檩子MV免费观看| 内衣推销员2中字在线观看| 张哲瀚许凯同框| 未婚妻电视剧全集| 电视剧艰难爱情| 千金小姐| 酒店激战3免费版| 高清《初入职场·金融季》 | 马来西亚美女少妇三级视频。| 8866小游戏| 电影《釜山行》| 兰州老肥熟全程露脸| 宫中残酷史| 台湾版粉红大白菜1987年演员表| 热情的邻居2019| 民间怪谈录电视剧在线观看| 老师的秘密 韩国| 覆面系男友| 三年大片大全在线观看完整版| 里沙村兽皇第二部在线观看完整版| 激情死亡线| 日喀则怎么读| 世界上第一个僵尸| 啄木鸟:女版《壮志凌云》演员 | 驻港部队第23次轮换| 做aj的电视剧大全免费观看下载| 皇子归来之欢喜县令 | 恶魔奶爸2季| 容城县| k8s经典怀旧版| 强奸快播| 爱玩具的大成| 看得见的女孩动漫全集观看| 星辰变第二季免费完整版| 牙医姐妹1986日语版在线观看| 《妻子做社长签署偿还债务| 对江先生念念不忘短剧在线免费看| 重生八零:俏媳妇致富经短剧全集| 长相思第二季免费完整版| 酒店1-40集在线观看| 卖房女销售艾丽丽全集免费 | 狙击蝴蝶电视剧全集| 金毛动漫库| 山丹丹开花红艳艳伴奏| 《兽行日寇》电影完整版免费观看| 早见晚爱| 甄嬛传18集| 你是我爱人电视剧全集| 西游记之女儿国电影| 欧式少女第16集全集更新时间| 一起愁愁30全集免费播放| 西安大学生兼职网| 电影心灵奇旅| 地铁迷情| 坏中尉 下载| 法国炸天小姐1984版| 新版《水浒传》| 乡村爱情进行曲免费观看| 泰囧完整版| 幻影忍者全集| 荷尔蒙6第一集| 妈妈的职业2完整版| 梦断乐缘堂| 放课后の优等生动漫在线观看| 兽魂觉醒动漫免费观看高清| 奢香夫人原唱完整版| 奇怪的美容院2| 凌云壮志(欧美)满天星小娅是谁演的 | 求婚电视剧| 罕见四胞胎排排睡| 消失的子弹高清下载| 战狼9欧美版免费观看完整版国语电影| 吗吗吗朋友| 金刚狼电影| 真心英雄电视剧完整版在线观看| 沈阳天空聊天室| 漂亮的保姆4观看| 卢旺达的玫瑰完整版| 韩国控制女上司| 胭脂雪大结局| 短道速滑王蒙| 高清亲爱的,别!未删减| 胭脂电视剧| 《伊波拉病毒》2国语版| 厨房激战之战争4中文在线播放| 电影《活着》免费观看| 七龙珠在线| 善良的妻子手机在线观看| 欲乱上班族 电影| 美乃雀在线看| 灰姑娘电影| 金瓶梅bmp3视频| 封神英雄榜第二部1| 约束之地| 彩票| 一起愁愁愁电视剧全集播放| 回复术士的重来人生 樱花动漫漫画| 千古玦尘电视剧免费观看47集| 《鸣龙少年》电视剧| 河马打针后找饲养员求安慰| 浮之手中字6| 渔女实战| 让我为你唱首歌mv| 千山暮雪2| 速度与激情9电影免费观看| 探险旅行| 一起相愁愁全集免费观看| 金银梅10普通话版免费观看下载| 探案电影| 高清《喜剧之王》免费观看| 整蛊王国语版在线观看| 行尸走肉大结局| 成全观看免费完整观看动漫| 《姐妹牙医》完整版在线观看免费播放 | 今生有你电视剧| 只身在荒岛| 陆小凤之决战前后| 三年成全免费看高清影视大全| 《隔壁女邻居》完整版| 金牌师姐| 双肥临门| 大鹏《保你平安》在线观看| 电视剧画眉全集免费观看高清| 未知| 银魂121| 肮脏电影| 女神闻异录| 擎天撼地| 甜心在线观看免费高清| 韦小宝玩女大王| 地下室骑马| 羚羊号历险记| 潘粤明版《昆仑神宫》在线播放| 乡村爱情14 电视剧| 我是你的眼 电视剧| 法国巜监狱伦理3| 瓜达卢佩的玫瑰无删减| 环太平洋2| 猪猪侠之超星萌宠3| 医生手指滑进我的下身视频| 侯门嫡女谋略:定乾坤短剧全集| 美容室:待遇服务7| 上门卖保险的女销售| 台剧《亲密之海》在线播放| 动物的尾巴都有什么作用用处| 寂静岭2电影| 齐天大圣孙悟空陈浩民版| 好想告诉你动漫| 隔山之眼3免费完整版| 不当军事行为线观看| 联手虐渣:双胞胎姐妹短剧全集| 猪哥亮访问秀| 咱们结婚吧全集免费观看| 迟来的愤怒| 公之手1| 落魄贵族琉璃川在线免费观看| 我唾弃你的坟墓 电影| 比天堂还美丽 电视剧| 月升沧海免费观看| 盲山免费完整电影| 蒲城县| 丈夫的上司来家拜访日剧免费观看全集| 妖艳女忍者传| 断刀纪录片全集| 爱情诡计第6集| 非常勿扰| 成中之城电视剧免费观看| 丰满的女学生电影| 电影:农场保卫战H版| 大悲寺苦行僧| 间谍过家家第二季在线观看| 电影情劫| 美国派百度影音| 动感之星168妖精全集免费观看| 做aj的电视剧大全免费观看 | 公主嫁到剧情介绍| 小熊花园综艺在线观看| 栀子花开在线观看| 站着再来一次26集全在线观看| 《偿还2》完整版| 白日梦与她电视剧免费观看| 手工制作丝网花| 妹妹学着点:打脸绿茶短剧全集| 大雄与天空的理想乡| 97影院2| 贝多芬启蒙3电影在线观看免费版| 笑林小子3| 全红婵首夺世锦赛单人金牌| 满天星电影在线观看完整免费高清| 双子星公主 第2部| 秦雪梅哭灵| 木下凛凛子免费观看平台| 《落魄贵族琉璃川》免费动漫观看全集 | 美好的时光电视剧| 高清《昆仑神宫》电视剧| XL司令第一季真人版在线看| 东成西就2011插曲| 建党伟业观后感范文| 寒武纪免费观看在线观看完整版 | 不够相爱的我们短剧| 电影江山美人| 黑糖玛奇朵第二部全集| 日本性生活电影| 男按摩师影片| 西装暴徒| 电视剧银婚| 爱情公寓5在线观看免费完整版|