• <track id="oztn4"></track>
    <sup id="oztn4"><form id="oztn4"></form></sup>
    
    
    <mark id="oztn4"></mark>
  • <dfn id="oztn4"><samp id="oztn4"></samp></dfn>
      《地爆天星小姐》电影 ,麦子交换2免费观看2023年上映时间表 ,莫妮卡《爱我几何》,大牛影库战狼6欧式少女全部视频,三年大片国语版在线看,日本空姐电视剧,电影魔镜号中文字幕,和部长一起去出差旅是第几集
      全球「AI學術頂會」精華匯聚地
      您正在使用IE低版瀏覽器,為了您的雷峰網賬號安全和更好的產品體驗,強烈建議使用更快更安全的瀏覽器
      此為臨時鏈接,僅用于文章預覽,將在時失效
      人工智能學術 正文
      發私信給陳彩嫻
      發送

      0

      賓大蘇煒杰:從「匱乏」走向「豐富」

      本文作者: 陳彩嫻 2022-03-29 17:05
      導語:你當像鳥飛往你的山。

      初識蘇煒杰,他與許多青年學者一樣,外表溫文爾雅、略帶靦腆,但一談起學術和 AI 的未來發展,就充滿激情。

      看他的簡歷,成長經歷一帆風順:本科就讀于富有盛譽的北京大學數學科學學院,接著在美國斯坦福大學攻讀博士,師從美國國家科學院院士、麥克阿瑟天才獎得主 Emmanuel Candès 和美國國家科學院和工程院雙院院士 Cynthia Dwork。緊接著跳過博士后階段,執教于培養了埃隆·馬斯克和沃倫·巴菲特的沃頓商學院,并聯合指導常青藤名校賓夕法尼亞大學在機器學習領域的發展。

      他的團隊在機器學習優化算法、可信 AI 和高維數據分析等領域做出了許多原創甚至突破性的工作,部分成果已經應用于業界。但蘇煒杰謙虛地說,和同一階段的其他 AI 學者相比,他的論文數量算是少的。而事實是,他「相對較少」的工作已經讓他贏得了 NSF Career Award、斯隆研究獎和 SIAM 數據科學青年獎等眾多榮譽。能獲得其中一個獎項已經堪稱領域小牛,而蘇煒杰獲獎時的工作年限比平均還早兩三年。顯然,蘇煒杰是以「質量取勝」。

      他指導過的學生已經或即將執教于北京大學、羅切斯特大學和曼徹斯特大學等名校的計算機系,以及供職于 Google 和 Facebook 等硅谷大廠的研究部門。盡管離博士畢業只有 5 年多時間,但蘇煒杰已經向「桃李滿天下」的夢想邁進了一大步。

      在這些成績的背后,蘇煒杰的研究經歷是否一帆風順?又有哪些故事值得有志于 AI 的學生借鑒?


      1、田園的成長經歷

      盡管沒有相關統計數據,但在農村長大的知名 AI 青年學者比例想必是極少的。而蘇煒杰就是其中一員。

      他談起農村成長經歷的話語中充滿著快樂。蘇煒杰從小就幫父母干農活,在夏天和秋天播種和收割水稻期間學校會放「農忙假」,這時候摸田螺和抓黃鱔是他的最愛。平時放學回家路上,蘇煒杰要路過家里的兩畝地,打開水渠給水稻灌溉。小學期間他家沒有房子住,全家就暫住在村里廢棄了的供銷社老房子里。令他感到欣喜的是,這個老房子中間有塊空地,他每天回家都能花很多時間種些花花草草。

      在農村長大,幾乎沒有課業壓力,蘇煒杰有更多與自然親近的機會。但這無法掩蓋物質上匱乏的事實。相比于城區學校,蘇煒杰就讀的農村小學和初中教學資源要少很多,基礎設施比較差。比如,他的初中操場沒有400米跑道,體育課練跳遠時全校連個皮尺都沒有,更沒有機會接觸計算機,甚至初一開始學英語時都是用漢字注音。因此周圍的同學對讀書改變命運普遍信心不足、學習興趣也不大,經濟條件較好的同學經常中途轉學到城區學校。

      現在,蘇煒杰曾就讀的這兩所學校因為農村適齡人口減少等原因,都已經關閉。

      還有機會上的匱乏。他沒有讀過幼兒園,本應該開始讀小學時,因為教學資源不足,農村孩子必須晚一年上學,因此后來在高中和大學他一般都比同學年齡大一些。蘇煒杰笑著提到還出現過有人以為他是復讀生的誤會。

      在匱乏中的成長經歷,讓蘇煒杰從小認識到生活的艱辛,特別珍視機會,感恩他人的幫助。

      蘇煒杰所在的農村隸屬于寧波地區的余姚市,這是中國經濟最發達的縣級市之一,有著濃厚的經商創業氛圍。特別是在農村,大家覺得得早點做生意賺錢更好,讀書是一種性價比很低的人生選擇。這也是江浙籍中科院院士自建國初比例持續下降的原因之一。

      這些經歷,大概率會讓蘇煒杰走一條不一樣的道路。


      2、在追求知識中走向「豐富」

      改變蘇煒杰人生走向的第一個節點是在小學五年級。那一年,他的母親從村里培養出大專生的鄰居那借了兩本教科書,一本關于微積分,另一本關于線性代數。在強烈的好奇心趨勢下,經過一年時間,他在沒有人幫助的情況下讀懂了這兩本書。之后,初一時父親帶著他去寧波和杭州買了不少高等數學和熱力學、量子力學、狹義相對論等物理書。浸潤在遠超他年齡的知識海洋中,蘇煒杰當時真正看懂的不多,但對知識的渴求已經在他心中深深扎根。

      誠然,書籍是治愈匱乏最好的療法。蘇煒杰開始經常騎很久的自行車去市圖書館,借閱數學物理天文地理等各種書籍。通過閱讀《古今數學思想》和《為了人類心智的榮耀》等數學家傳記,蘇煒杰為高斯、歐拉、黎曼、龐加萊的事跡而激動,為拉馬努金和愛多士等近代數學家的故事而傾倒。有一次,他想買價格200多元的《中國大百科全書》精粹版,等了半年才向父母提出來。那次他把厚厚的一本書放在自行車后座,從新華書店回家,是他印象中最快樂的一次騎行。

      知識的豐富,很快帶來回報。從未接受過競賽訓練的蘇煒杰,初二那年參加初三組數學競賽獲獎,收到城區一所初中的邀請轉學。之后高中就讀于家鄉最好的余姚中學。從此雖然老家一直在農村,但蘇煒杰的求學生涯永遠告別了田園時光。

      更大的回報很快接踵而至。高一第一學期,蘇煒杰參加高三數學競賽,「劍一出鞘」,就獲得了省第六名,代表浙江省參加中國數學奧林匹克,這讓這個質樸的農村男生興奮得都不敢相信是真的。之后,蘇煒杰去了杭州、福州等地參加培訓,這也是他第一次真正意義上走出家鄉余姚。跟來自全國各地的優秀同學交流過程中,他感受到了差距,特別是在見識和談吐方面的不及,讓當時的他對自己失去信心。

      但最后蘇煒杰在決賽中發揮出色,獲得銀牌,名列浙江省第二名,保送清華大學數理基科班。這是他家鄉百萬人口縣級市第一次有高一學生保送清北,他還因此獲得了「寧波市十佳學子」的稱號,在家鄉引起了轟動。蘇煒杰至今在家鄉仍有很高的知名度。

      高三那年,蘇煒杰再次代表浙江省參加中國數學奧林匹克,獲得全國第二名,保送北京大學數學科學學院,并進入國家集訓隊。大多數集訓隊隊員所在高中之前就有學長學姐進過國家隊,而蘇煒杰是其高中進入數學國家集訓隊的第一人,至今也是唯一一個。

      因此,母校老師對他寄予厚望,希望他能成功進入 IMO 國家隊,為余姚中學帶來第一塊學科競賽國際金牌。但在集訓隊的最后兩次選拔賽中,蘇煒杰發揮不理想,一步之遙與國家隊失之交臂。十多年過去了,他還對此略感遺憾,但不是因為個人榮譽的得失,而是因為辜負了高中母校的期望。

      參加數學競賽讓這個農村男生獲得了不敢想象的豐富機會,盡管也有不少失利,但這更讓他珍視機會的來之不易。蘇煒杰感到自己很幸運,因為這一路他并沒有做任何規劃,只是單純地追隨他內心對數學之美的熱烈追求。


      3、從數學夢到與AI結緣

      在北大數院就讀的四年時光里,匱乏隨之遠去,取而代之的是豐富的數學知識海洋。蘇煒杰盡情地投入這場盛宴,不敢有一絲懈怠。他基本不玩游戲,每天就是跟在燕園第一周就在一起的女朋友、現在的妻子在圖書館自習中度過。

      生活方面,北大給蘇煒杰提供了助學金,加上他每年獲得的最高獎學金,就可以完全承擔學費和生活費。這份恩情他一直記在心里。

      身處北大數院,就是與全國最優秀的同齡人共處一個集體。這種感覺是美妙的,有什么問題,跟同學一交流,馬上就會豁然開朗,甚至意識到之前沒有注意到的問題,而且還會有一點壓力,這又會讓你更加努力。

      北大對蘇煒杰的改變是多方面的,對他的思維方式打下深深的烙印。數學的思維是向深處探索的,直面真正有難度的問題,力求揭開事物的本質。蘇煒杰日后的科研風格也正是如此,長期專注于若干重要且基本的問題,很少做推廣別人的工作。

      實現兒時數學夢近在咫尺,但隨著大四出國申請季的到來,蘇煒杰對未來產生了猶豫和陷入了抉擇的困難。數學無與倫比的純粹、簡潔和普適性深深地吸引著他,而申請純數學博士是成為一名數學家的必要條件,也是實現他數學夢的必經之路。同時,蘇煒杰在北大數院的方向也正是基礎數學,核心專業課平均分97分,名列年級第一,再加上他在丘成桐大學生數學競賽的出色成績,可以讓他申請到最好的基礎數學博士項目。

      但此時的蘇煒杰,隨著年齡和閱歷的增加,有了不一樣的思考。

      北大是綜合性大學,他有機會選修機器學習、計算數學和統計等課程和參加相關講座,還在林毅夫教授創辦的國家發展研究院獲得了經濟學雙學位。這些另一個維度的經歷讓蘇煒杰了解到數學在其他領域的作用,可以幫助解決重要的實際問題。

      另一個因素是蘇煒杰在大三那年(2010年)暑假得到了在微軟亞洲研究院實習的機會, 此時機器學習方興未艾,在微軟亞研,蘇煒杰了解到機器學習的前沿方向和應用,產生了濃厚的興趣。當時大家還不怎么使用 AI 這個詞,但回想起來,他對 AI 的初印象確是來自于這段實習經歷。這段經歷還讓蘇煒杰結交了很多計算機專業的同齡人,體會到了不同學科之間思考方式的差異。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      圖注:2010年夏天,蘇煒杰(最左)在微軟亞洲研究院實習

      但讓蘇煒杰決心走一條不一樣的路的最終決定因素是他的成長經歷。農村的成長經歷,讓蘇煒杰希望未來事業能跟業界更緊密些, 有機會能改善父母的生活。經過一番思想斗爭,最后放棄了純數學作為個人事業。

      蘇煒杰后來選擇了斯坦福大學統計系繼續他的學術夢,就不再是狹義上的數學家。但他未來的學術風格、思考問題的方式以及學術情懷,從來沒有離開過數學。


      4、成熟于硅谷的 AI 學術風格

      懷揣著對未來的憧憬,2011 年蘇煒杰飛躍大洋來到硅谷,在斯坦福最高博士生獎學金(Stanford Graduate Fellowship)的支持下開啟攻讀博士之旅。蘇煒杰所在的統計系有二十位不到的教授,但卻有近十位是美國國家科學院院士,因此 「院士只是平均水平」。系里的老師普遍在電子工程系、醫學院、計算機系、數學系有正式職位,是名副其實的數據科學。

      此時的斯坦福和附近的谷歌等公司還處在 AI 即將快速發展的前夜。這種多元和動態完美結合的環境讓蘇煒杰能深入接觸機器學習和數據科學的前沿。

      在斯坦福眾多頂級學者中,他選擇了 Emmanuel Candès 教授作為他的博士導師。Emmanuel 是真正的天才,他曾獲得麥克阿瑟天才獎等大獎,研究的內容橫跨計算數學、機器學習、統計、信息論、信號處理和優化等眾多領域,在很年輕的時候就當選為美國國家科學院院士。2020年,他還與陶哲軒一起獲得了當年的「IEEE Jack S. Kilby Signal Processing Medal」(信號處理領域最高榮譽)。

      2014年,蘇煒杰在微軟研究院硅谷分部實習,導師是美國國家科學院和工程院雙院院士 Cynthia Dwork。她是一位初見就覺得是「我的朋友」的老太太,早年在密碼學和分布式計算做出了奠基性的工作,開啟了工作量證明這個研究方向,為后來的區塊鏈奠定了部分理論基礎。近幾年 Cynthia 領導了可信 AI(特別是隱私數據保護和算法公平性)這個朝氣蓬勃的領域,蘇煒杰也在她的指導下進入了這個領域。從此,她一直給予蘇煒杰學術上的指導和支持,是他實際意義上的導師。同時,Cynthia 還是早期的一代女性計算機科學家,早年作為女性學習計算機需要克服諸多困難,蘇煒杰聯系到自身從農村走來也多有坎坷,因此很有共鳴。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      圖注:Cynthia Dwork

      這兩位教授領域不同,但有相似的學術觀點,共同塑造了蘇煒杰今天的學術風格。這并不是說蘇煒杰從 Emmanuel 和 Cynthia 處學到很多具體知識點,坦率地講,作為北大數院的頂尖畢業生,他的知識儲備在本科基本已經完成。但學術遠遠不止于知識的積累,更重要的是學術風格的建立,理解什么是好的學術。

      首先,以解決問題為導向,而不因學科限制自己。Emmanuel當年與陶哲軒一起發明壓縮感知(Compressed Sensing)的時候,就是為了加速磁共振成像這個實際問題。這個工作兼具數學之美與實際之美,是非常罕見的。而在研究的過程中,他用到了信號處理、信息論、優化和統計等多個學科的思想和方法。Cynthia 早年的領域是理論計算機,但近些年在開啟隱私數據保護和算法公平性這些領域的時候深入引進了統計技術和社會學思想。

      另一個很重要的一點是持久地做自己認為重要的課題。Emmanuel 告訴蘇煒杰,他基本不看 arXiv 上最新的論文,而是做自己認為重要的問題,且不輕易因為外界的聲音改變。如果過于緊跟潮流,總是在模仿,很容易迷失在浩如煙海的論文海洋之中,研究的內容很難有自己的特色,且無法產生深遠的影響力。Cynthia 十多年前剛開啟隱私數據保護這個領域時,領域內對此有不同聲音,但經過十多年的持續耕耘,現在已經在業界廣泛應用。

      此外,要重質量而不是數量。蘇煒杰回憶,Emmanuel 好幾次跟他說自己不應該寫某些論文,希望從簡歷里刪掉。當時蘇煒杰還挺驚訝,因為這些論文的引用量也有數百。獨立工作后他才明白,現在學術圈的問題是論文太多,但真正高質量的論文比例卻不高。Emmanuel 告誡他,一篇論文好不好,要看5年甚至10年以后是否還有參考價值。

      這些言傳身教讓蘇煒杰受益匪淺,體現在他做科研也不局限于某個具體學科,經常橫跨機器學習、優化和統計等多個領域,以及習慣于持續地研究問題,注重「種樹」而非「摘果」。「種樹」的成功率固然不高,但這類工作一旦成功,往往能給本領域提供新的問題和機會。

      因為帶學生有壓力,他也有一些純粹只是為了發表而發表的論文,但他每年要求自己至少寫一篇「5年以后還有人讀」的論文。現在蘇煒杰有40余篇論文,但他坦然說只有3、4篇是他真正喜歡的,具有長期價值。也正是這少量的幾篇高質量論文,讓蘇煒杰贏得了眾多榮譽,其成果已經在包括賓大、MIT、UC Berkeley、斯坦福、普林斯頓、耶魯、北大、UCSD、UIUC等眾多大學的數據科學和機器學習課程中講授。有朋友跟他說:「未來可以寫進教科書。」

      除了學術,兩位導師在生活上對蘇煒杰也很關心。Emmanuel 有著法國學者常見的高冷氣質,但內心卻很關心學生,每學期都會邀請學生去他家參加派對,有一次得知蘇煒杰遇到經濟困難后曾提出經濟上的幫助。Cynthia 則經常問蘇煒杰工作開不開心,2017年她入職哈佛大學后,曾提到如果蘇煒杰想來「波士頓的那兩個學校」,隨時跟她說。


      5、豐收篇

      2016年,蘇煒杰博士畢業,論文獲得了首屆「斯坦福 Theodore Anderson 獎」。在 Emmanuel 和 Cynthia 兩位導師的推薦下,入職常青藤名校賓夕法尼亞大學,開始了在東海岸的獨立工作。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      圖注:蘇煒杰和他妻子與Emmanuel Candes的合影

      懷揣著對 AI 的熱情,以及深厚的數學情懷,蘇煒杰開始迎來學術上的豐收。

      蘇煒杰的一個主要課題是揭開深度學習背后的機制,理解為什么深度神經網絡有時候效果好、有時候不好。或許是因為數學背景出身,他除了重視提升效果,也強調「知其然,也要知其所以然」。

      他對 AI 科技評論談道:

      有人說深度學習是「煉金術」。這對于人臉識別、下圍棋甚至蛋白質折疊等也許沒有特別大的影響,但對于高風險的 AI 應用卻是至關重要的。最近 DeepMind 將深度強化學習應用到核聚變,結果令人興奮,但在沒有完全理解深度學習的機制之前,即使成功率達到99.99%,我們能承受最后變成一顆小型氫彈的0.01%的可能性嗎?

      這是一個重要且非常活躍的科研領域,但還沒有一個理論獲得學界廣泛認可。經過多年思考,蘇煒杰和他團隊提出了一個深度神經網絡的「局域彈性」(local elasticity)理論,給神經網絡泛化、優化等性質提供了一個簡單的唯象理論。

      這個理論可以用一個很簡單的例子來介紹:神經網絡看到一張波斯貓的圖片后更新了其參數,然后我們觀察神經網絡更新后在另一張圖片上預測的改變。實驗發現,改變的大小取決于新圖片跟波斯貓的相似度:變化在暹羅貓上最大,在老虎上其次,在汽車上最小。形象地說,深度神經網絡像橡皮泥一樣有局部的彈性。

      直覺上,蘇煒杰相信這個唯象理論是通向最終理論的必經之路,但現在還不完善,還需要大量后續工作來深入研究。

      相關論文:

      • The Local Elasticity of Neural Networks

      • Neurashed: A Phenomenological Model for Imitating Deep Learning Training

      蘇煒杰認為數學理論還可以指導實際的 AI 問題。「There is Nothing More Practical Than A Good Theory」,一個好的理論價值的最直接體現在于能不能指導實際,節約人力物力。流體力學和空氣動力學就是一個很好的例子,現在可以用仿真來替代真實的風洞試驗。但 AI 領域很多方向還需要耗費巨大的人力物力來收集數據和訓練模型,比如最近很熱門的預訓練大模型;另一個例子是自動駕駛,現在離實際的落地應用還有很長一段距離,需要逐個解決無數個"黑天鵝問題"。

      學界在這個方向上的工作都還很初步,但蘇煒杰團隊最近的一個工作算是邁了一小步。這個工作發表在《美國國家科學院院刊》(PNAS),對深度神經網絡進行了極大的簡化,著重分析了特征與后繼層參數在網絡訓練中的相互作用。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      論文地址:https://www.pnas.org/doi/epdf/10.1073/pnas.2103091118

      運用這個框架,蘇煒杰發現了深度神經網絡在訓練數據不平衡時表現可能會非常差,特別是對數據量不夠的類別,其預測能力會非常隨機。這個發現完全是理論預測的,但通過實驗完美地確認有這個現象,然后針對性地提出了解決方案。這個工作說明,在一定程度上,數學是可以指導深度學習的實際應用的,但像這樣的工作目前在深度學習的研究中還是非常少見的。雷峰網

      此外,數學對 AI 知識的梳理和傳承也是有很大作用的。恩格斯曾說過:「任何一門科學的真正完善在于數學工具的廣泛應用」。這句話或許稍有片面,但也可以看出數學對一個學科發展的重要性。為什么埃及金字塔、瑪雅歷法、以及中國古代的很多技術會失傳?本質上是因為這些知識當時沒有被「數學化」,其傳承需要師徒手把手面對面教授繼承。相反,我們現在還可以很好地理解兩千年前的《幾何原本》,因為一個知識體系在被數學化后就是精準的,其傳承就可以超越時空。

      但 AI 領域的許多知識目前處于一個「煉金術」的狀態,知識是由大量的試錯、經驗總結起來的,缺乏體系,不完整,也存在相互矛盾的現象,這會造成年輕的學生很難掌握如此繁瑣的 AI 知識和經驗,很有可能再過幾十年這些花費巨大資源獲取的知識會被遺忘。

      蘇煒杰有一個工作對一類 AI 領域的現象作了梳理和簡化。添加動量(momentum)是優化機器學習模型時常用的一個技巧,Hinton的一個重要工作指出添加動量可以顯著地加快優化深度神經網絡,目前也有很多解釋的工作,但大家還是覺得這個現象很神秘。通過和美國國家工程院院士 Stephen Boyd 、以及導師 Emmanuel 合作,蘇煒杰的一個工作指出可以用動力系統的連續觀點很直觀地解釋復雜的加速現象。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      論文地址:https://jmlr.org/papers/volume17/15-084/15-084.pdf

      這個工作因為明顯的幾何直觀性,在機器學習、優化和控制論等多個領域都有很大影響力,眾多學者用這個方法設計新的加速算法,并做了大量推廣工作。這其中就包括機器學習泰斗 Michael Jordan 和著名機器學習學者 Peter Bartlett。Michael Jordan 教授在 2018 年里約國際數學家大會的 1 小時報告中,以大篇幅介紹了這個工作。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      圖注:Michael Jordan在2018年國際數學家大會1小時報告上詳細介紹蘇煒杰的工作

      蘇煒杰參加 NeurIPS 等機器學習會議時,經常碰到不認識的人看到他胸前的名牌后問「Are you the Su of the Su, Boyd, Candès?」雷峰網

      蘇煒杰本科期間曾選修過經濟學雙學位,經濟學的思想體現在他近期一個旨在提高論文同行評議質量的工作。在這個工作中,蘇煒杰把對于預測精度的追求和效用函數的最大化分離,因此在更廣的意義上可以將博弈論的觀點有機地引進到很多機器學習的問題。這個框架與Michael Jordan近幾年倡導的「ML + Economics」不謀而合。蘇煒杰對推廣這個框架充滿信心,歡迎感興趣的學者和學生聯系他。

      相關論文:

      • You Are the Best Reviewer of Your Own Papers: An Owner-Assisted Scoring Mechanism



      6、隱私數據保護


      蘇煒杰進入隱私數據保護領域的引路人是 Cynthia Dwork。這個領域是數據科學和機器學習的結合點,具有很多優美的性質。

      數據隱私的重要性在于,在這個大數據時代,如何妥善獲取和使用與真人相關的數據,漸漸成為亟需解決的問題。沒有人愿意生個病、上個網、買件衣服都會被人隨意知曉,更別提手機里沒有修過的自拍了。在數據日益成為AI核心組成部分的今天,保護數據隱私的重要性是基建性的。

      可能有種錯覺是相比于中國用戶,歐美用戶更注重隱私,但這其實是不對的。蘇煒杰曾和 Cynthia 討論過這個問題,Cynthia 的觀點是隱私的重要性是獨立于文化的。幾年前國內某 IT 大佬曾公開宣稱中國用戶不太注重數據隱私,第二天就導致其公司股票大降。隨著我國公民意識個人權益的不斷增強,數據隱私保護的重要性會越來越高。

      差分隱私由 Cynthia 和合作者于 2006 年提出。除了差分隱私,現在隱私數據保護有安全多方計算、同態加密、聯邦學習等技術。聯邦學習是從「物理」上形式地保護了隱私,讓數據實現在本地計算,從而讓「散戶心理上舒服」,但一般并不能在完全絕對意義上保護隱私,還需要和差分隱私結合。而差分隱私無論是理論還是實際應用,都是現在最成熟的的技術。硅谷眾多的旗艦大廠都已經使用差分隱私多年,Apple 的 iCloud 也用到了這項技術,2020 年美國人口統計也大規模地使用了差分隱私。

      簡單地說,差分隱私要求數據集的單個用戶的改變基本不影響算法輸出,從而嚴格保護每一個用戶的隱私。為了實現保護,需要給算法添加噪音,噪音加的越大,隱私就越安全,但是隨之性能也會越差。在有限的隱私預算下,很多時候隱私算法的性能表現會不如人意。

      關于這個問題,蘇煒杰曾跟學術圈研究隱私的人交流,他們一般認為隱私保護是第一位的;但工業界的從業人員認為算法的性能與隱私保護一樣重要,兩者需要取舍。蘇煒杰學經濟學時常聽到「everything has a price」(每一個物品都有一個價格),隱私也是。因此如果為了保護隱私而導致算法效率大幅下降,那么是不可取的。

      在保證隱私的前提下,為了提高算法精度,蘇煒杰和合作者提出的高斯差分隱私。

      相關工作:

      • Gaussian Differential Privacy

      • Deep Learning with Gaussian Differential Privacy

      這個工作的核心是從假設檢驗的角度來精準地刻畫隱私程度,從理論上嚴格證明了這個新框架具有多個最優性質。蘇煒杰的團隊還把高斯差分隱私應用到深度神經網絡的訓練,在同等隱私保護程度的條件下取得了比 Google Brain 更高的預測精度。

      這個新的隱私數據分析框架已經納入TensorFlow,最近也受到了 Facebook(Meta)的關注。他的團隊已經跟 Meta 合作,希望能將高斯差分隱私部署到他們的廣告推薦系統中。這個工作既有理論上的優美保證,又能應用到實際提高機器學習算法的效率,對此蘇煒杰感到非常興奮的。


      7、生活感悟

      蘇煒杰在 AI 學術上的探索歷程,是一個寒門子弟從早期匱乏逐漸走向「豐富」的成功例子。但這背后也需要他克服更多的困難。

      比如,博士第三年,蘇煒杰和妻子突然迎來了他們的第一個孩子,而他妻子不久前辭去了在國內本很有發展前景的工作。隨之而來的經濟壓力和科研時間的極大縮短,讓蘇煒杰只能迎頭而上。

      賓大蘇煒杰:從「匱乏」走向「豐富」

      圖注:蘇煒杰與他的大兒子

      這段時間是蘇煒杰人生中最努力的時候,既要兼顧學術與家庭,又要解決物質與精神壓力,就只能白天照顧小孩、晚上熬夜搞學術。當時腦海里就只剩下兩個字:努力。幸運的是,他堅持下來了,做出了讓 Emmanuel 和 Cynthia 非常欣賞的工作。

      回想起那段時間,蘇煒杰還有一種「一步走錯則滿盤皆輸」的后怕感。那時他的學術剛剛起步,如果在壓力下,做不出成果,就不可能找到好的教職工作,那之前一路堅守的學術夢想就沒有意義了。

      為了承擔生育與撫養小孩的費用,以及支付她妻子讀碩士的學費,蘇煒杰還通過做額外的助教來減輕經濟負擔。但即便如此,博士畢業時他的銀行存款已經是零,信用卡還透支了一萬五千美元。臨近畢業時導師建議他去做一年博士后,這對建立人脈和拓展研究方向都有幫助,但因為迫切需要一份正式工作的收入,蘇煒杰沒有考慮。雷峰網(公眾號:雷峰網)

      基于這段經歷,蘇煒杰有一些對寒門子弟人生規劃的建議。如果有志于學術,但來自農村或家庭經濟一般,可能選擇跟業界聯系緊密、就業相對容易的領域是個明智的選擇。除了個別領域,絕大多數領域的博士超過半數是無法在學術圈找到工作的,最終還是會在業界就業。而家庭經濟一般,往往很難承受學術工作找不到、業界工作也不匹配的風險。

      對于計劃在業界就業的同學,蘇煒杰的建議是擇業時更要多地考慮這個方向是不是在上升期,因為處于上升期的領域更看重個人能力和拼搏精神,對社會關系的要求較低。從這個角度看,如果家庭經濟一般的同學有機會從事AI方面的工作,是一個很好的選擇。本科報專業的時候可以多考慮計算機、數學、統計與數據科學、電氣工程等方向。黃國平博士是一個很好的成功例子,蘇煒杰讀過他的故事,深有共鳴。



      8、展望

      蘇煒杰懷著兒時就有的數學情懷,做出了兼具理論優美和實際價值的工作。這在日益壯大的青年 AI 學者群體中是很少見的。對于有志研究 AI 的同學,蘇煒杰建議可以多選一些數學基礎課程。此外,在「AI+Science」這個趨勢的背景下,也可以學一些生物、物理、化學等課程,增加知識維度。

      蘇煒杰在可信 AI、優化、統計與數據科學、深度學習等多個領域都有原創性貢獻,這每一個標簽加上他身上也都恰如其分。但蘇煒杰并不喜歡被標簽限制住,在 AI 被數據驅動的浪潮中,不同的領域其實是在解決同一類問題,只不過在前后端的側重點有所不同。這些本應該在一起的領域由于歷史的原因被不同的期刊、會議、基金項目和院系所分割。

      他特別欣賞斯坦福和 MIT 這兩所大學的模式。斯坦福通過正式的雙聘制度讓不同的學科交叉,而 MIT通過建立林肯實驗室、媒體實驗室等部門的方式打破學科壁壘,以解決具體實際問題為導向,這將是趨勢,蘇煒杰提到。

      最后他對 AI 科技評論說道:

      在這個激動人心的變革時代,每一位 AI 學者都在做同樣一件事情。這件事就是 2018 年 Michael Jordan 和張亞勤在烏鎮見面時說的同一句話:「我只是做數據分析的」。


      雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知

      賓大蘇煒杰:從「匱乏」走向「豐富」

      分享:
      相關文章
      當月熱門文章
      最新文章
      請填寫申請人資料
      姓名
      電話
      郵箱
      微信號
      作品鏈接
      個人簡介
      為了您的賬戶安全,請驗證郵箱
      您的郵箱還未驗證,完成可獲20積分喲!
      請驗證您的郵箱
      立即驗證
      完善賬號信息
      您的賬號已經綁定,現在您可以設置密碼以方便用郵箱登錄
      立即設置 以后再說
      主站蜘蛛池模板: 枯骨之余猜生肖| 体能之巅3: 亚洲大挑战| 猪蜜蜜在线观看完整版在线| 桃色三国| 香坂美优| 售楼小姐的秘密 在线观看| 广西一保安砍死2名业主| 错位的遗憾歌曲原唱赵洋| 闺蜜的朋友3线观高清| 边水往事电视剧在线观看全集免费| 506070欧美| 韩国电影诱惑| 1982年禁忌3| 红楼春梦在线观看| 宝贝等我短剧大结局免费观看全集| 《爱我几何》高清免费看| 高清《怪谈》免费观看| 暮光之城4破晓下 bt| 斗破苍穹第四季17集在线观看| 西出玉门几点更新| 新金银悔5一1手机版免费看| 另类喊麦词| 黑雀特工免费观看完整版| 忠贞电影演员表| 长相思杨紫免费观看电视剧全集| 冢本在线播放| 家庭在线| 独步天下免费全集播放| 满天星麦乐迪《女超人》免费播放| 九品芝麻官电影| 天美影院| 还珠格格在哪个平台可以看| 画江湖 之灵主| 使徒行者3在线看免费| 我的游泳女教练电影| 李卫当官第一部免费版在线观看| 年轻的空姐4| yy农场| 善良秘书的目的在线观看| 《玛丽!玛丽!》满天星中文| 非诚勿扰百度影音| 漂亮妈妈开家长会| 日历女孩2一K8伦理电影| 韩国电影遥控器控制人叫什么 | 三级推拿片| 善良的妻子免费观看| 人口普查2021公布结果| 本相爱在线观看| 新倾国倾城| 神兽金刚2天神地兽| 支配教坛动漫免费版| 酒醉的探戈动力火车| 韩剧 拜托小姐| r片| 步步惊心qvod| 藤田梨爱| 《女销售的销售秘密2》| 神医毒妃白鹤染| 凌云壮志(法国)满天星 | 米奇妙妙屋第二季10| 82板杨敏思版本1-5电视剧在线观看 | 日本按摩3-4Pommane | 《空中小姐》凯登克罗斯演员是谁扮| 杉杉来了33| 观看韩国伦理电影丈夫下属| 王跃文国画| 镰仓物语免费观看完整版| 娘家的故事| 我结中国版| 涩屋| 《年轻的女仆》在线观看| 卖房子的女销售艺术片在线观看| 追鱼传奇全集| 在线播放天海翼| 老酒馆电视剧在线观看免费全集| 张光北老婆| 索菲亚演唱会小便| 我从不忠截取的一段画面| 黑白配高清视频播放| 今生有你电视剧| 《美人为馅》电视剧| 高压监狱在线看全集免费播放| 底牌电视剧| 招远市| 金瓶双艳HD完整版| 毒医肥尸无删减在线播放第一季| 宫锁珠帘全集在线观看| 电视剧金瓶梅在哪里看| 童话镇第一季| 奔跑吧兄弟第三季第三期| 电视剧光荣大地| 骄阳伴我电视剧免费观看极速| 动漫xl司令第一季全集在线观看完整版 | 挠女孩的脚心| 爱的躯壳 韩国电影| 销售秘密2免费高清观看| 闪婚老公竟是顶头上司电视剧免费| 有菜电影在线播放| 猛鬼差馆2| 韩国激情大合集在线观看经典片| 魂斗罗4代| 小妞是什么意思| 超碰进入离开| 你真漂亮韩剧全集| 破刃电视剧全集免费观看| 白月梵星电视剧在线观看星辰影院 | 飘落的雪花| 鮎川なお| 永乐大帝电视剧全集免费观看 | 安斋拉拉作品在线观看| 泰剧临时天堂| 都市护花:退役兵王短剧全集| 高清杜塞未删减| 永修县| 电视剧大唐女巡按全集| 后营露营第一季免费观看完整版| 异世界四重奏| 美乐加油全集| 微笑百事达免费观看全集完整版| 北岛玲丝袜办公室高跟鞋| 女儿的朋友字ID| 韶华若锦全集在线观看| 湘西诡案| 西野翔作品番号封面| 智者无敌全集在线观看| 热辣披萨女孩电影高清版在线观看 | 招魂电影在线观看完整版免费| 美人图在线观看高清完整版电影| 法国电影《塔日酒店》正片在线观看| 天下足球音乐| 密桃诚熟时3之密桃仙子| 摄政王妃:掌心娇宠短剧全集| 草原恋简谱| 免费观看美国伦理电影私人女性监狱 | 维修师傅的艳遇BD高清在线观看| 《初中小女孩》完整版| 全职法师第5季全集免费观看樱花| 热天午后| 澳门风云2西瓜影音| 和讨厌的部长出差日剧| 大风歌全集| 高清《灭火宝贝5》电影| 中央财办:经济已挺过最困难时刻 间之契在线观看完整免费版动漫 霜花店 完整版优酷 | 泰剧出逃的公主国语版| 狂飙38集在线观看| 板桥市| 韩版我的女保姆HD| 啄木鸟《女拳击手2满天星版》| 无能的丈夫电视剧在线看| 天天乐电影网| 马思纯的微笑| 龙门镖局 影音| 需要爸爸播种手机播放美国电影的软件 | 斗罗大陆205在线观看| 张家辉电影全集| 黑白诀电视剧40集全部播放| 美国派4在线观看| 《指尖上的热情》类似动漫| 壮志凌云凯登克劳斯版| 风流才子纪晓岚插曲| 小小诊室| 爱云点播| 我的丑娘演员表| 高清《秘密教学》无删减在线看 | 地铁跑酷bug| 高清准备击球| 公之浮手中字在线观看完电影 | 科里蔡斯电影免费播放中文| 人猿泰山1995完整版高清| 女儿国3在线观看免费版高清,挡不住的思念电影免费观看 | 高清《秘密》电影全集| 啄木鸟《荣誉法则》凯登斯托雅| 男子排队等升旗倒地睡着| 肢体的引绣意大利免费完整版| 男女电视剧演员表免费观看| 青青河边草电视免费| 人间中毒完整版求| 月亮女王| 禁忌1980满天星帕克| 暗花国语| 高压监狱第二部在线观看完整免费高清原声满天星 | 准备好纸巾的舞蹈| 电影天堂口| 姐姐6免费完整高清电视剧在线看 妻子3免费完整版HD中字 | 聊斋先生全集| 《束缚游戏》全集| 玫瑰故事的电视连续剧免费看| 尸蛊艳谭| 野性放荡的女人| 天才不能承受之重| 办公室蓝色隐身帽子| 韩国医协将宣布集体停诊计划| 1985G点原版完整版| 无所畏惧电视剧免费| 男按摩师三级在线看| 铠甲勇士52| 《二十一世纪爱情指南》免费观看全 | 罪恶黑名单第一季| 村妓播放| 电影玩火在线观看完整版| 第八个嫌疑人| 高清忒弥斯的不确定法庭未删减 | 哇嘎日本电影全集在线看| 3d肉浦团| 萌宝找妈咪:仙帝奶爸短剧全集| 梅州民生820| 电视剧永不磨灭免费播放| 美姊妹牙医完整版在线观看| 人世间在线观看免费完整版高清| 电影《村姑》完整版| 杏林春暖在线免费观看| 理发店里的特殊待遇在线| 秋元まゆ花| 黑人大战俄罗斯妞| 吻到心伤透| 飞机上的空姐在线观看| 爱情睡醒了 电视剧| 结婚是疯狂的| 僵尸新娘满天星| 《利刃出鞘3》| 新有菜电影在线观看| 监狱女兵免费版| 法国空姐满天星法版全集| 捉鬼有限公司| 女人公敌有几集| 王牌杀姬免费观看完整版| 《庆余年2》第94集| 圣斗士星矢冥王神话ova| 杜汶泽3d豪情| 斗破苍穹续集| 你好旧时光电视剧| 婆婆女婿练瑜伽的说说| 天边一朵云迅雷下载| 陆丰市| 奈何boss要娶我2| 高雅监狱| 高清《满意度》电影完整版| 《需要爸爸播种子》电影免费在线观看,高清完整版美国倫理片_努努影院 | 白峰电影高清无广告免费看| 欲百度影音| 韩国修理工艳遇| 玫瑰的故事40集免费观看| 何炅王嘉尔曾预言白敬亭宋轶| 绝地求生刺激战场国际服| 流浪地球二免费观看高清完整版| 玉熙的电影| 父母的爱情| 邵武市| 蜜月酒店杀人事件 电影| 三年大片免费观看国语第一集| 手伸到你的衣服里说要你| 木下檀檩子电影在线观看2023年上映时 | 太平公主秘史在线观看免费| 只是结婚全集免费观看| 高清寄往电视台的神秘影像未删减 | 军事不当啄木鸟满天星法版| 禁止的爱善良的小蛦子 在钱| 需要爸爸播撒种子电影播放| 当我的指尖触碰到你温度时| 女版《西部通缉令》电影在线观看 | 初体验5在线观看| 八星报喜下载| 抵账的朋友麦子金智雅| 杨丽花歌仔戏薛丁山| 会长妻子和部长一起去度假| 流浪汉电影| 生活中马玛丽| 灵幻新娘| 农民伯伯下乡国语版2电影在线看| 婚词离曲电视剧| 须要爸爸播种电影在线播放| 旭日阳刚解散| 韩国蕾切尔热舞| 重游母亲桃花源| 《需要爸爸播种美国》在线观看| 奥美迦奥特曼中文版| 陪你逐风飞翔电视剧免费观看| 盐城市| 《熊出没之熊心归来》电影| 电波教师| 琅琊榜风起长林| 明星换脸免费观看方法| 赌圣之上海滩粤语| 王者清风电视剧| 白上之黑在线观看完整版| 婚姻向左浪漫向右全集| 你的老婆大结局| 分娩按摩在线观看| 情欲报复| 电视《金悔瓶》免费观看2008样 | 《激战丛林2》满天星| 高清《传说》电视剧| xL司令第一季无马赛免费观看高清 | 我的小哥哥完整版| 毒爱泰剧| 用你的手来打扰我吧第二季在线观看| 杨光的夏天| 那些花儿王菲| 佳同译图| 光明与黑暗| 罗马帝国艳情史高清| 花儿与少年6免费观看 | 利刃出击在线观看| 萌鸡小队动画片全集| 千禧金瓶梅 快播| 小莫钓鱼最新视频| 璀璨人生发布会| 头文字d电影粤语| 神秘博士第八季| 《极乐宝鉴》2徐少强| 海绵宝宝全集免费| 裕民县| 女子10米跳台决赛直播在线观看| 《诱人的女房东3》| 姐妹牙医赤板栗完整版在线播放免费| 巜禁忌5》A片| 人在江湖| 凯登克罗斯《急诊护士》| 土地公土地婆免费观看全集| 色达县| 有夫之妇韩剧电视剧免费观看| 保险女王和她的成功秘诀观看| 迷离时空免费观看| 错位青春| 关中秘事电视剧免费观看| 四十分钟插曲视频在线观看| 樊梨花传奇| 红玫瑰电视剧演员表| 千王之王2000| 笑傲江湖2025| 美神禁猎区| 感动在身边| 漂亮的保姆完整视频在线观看| 数码宝贝第二部日语| 电影:《埋葬巴斯托》| 特邀送货员在线观看| 电影猛龙过江| 我的女儿是花| 天天向上20120127| 一起再看流星雨| 伸冤人1免费观看高清版| 仁心解码粤语| 丛林女超人在线完整播放免费观看| 韩剧想结婚的女人| 【中文字幕】IPX668新任女教师中出笼城轮姦 白峰美羽 - 色网 | 金政基去世| 电影一路向西| 伦理电影手机在线高压监狱| 赈灾晚会| 《新人类毒医肥尸》免费观看| 点燃我温暖你更新时间| 越战电影《性的暴行》| 歌后歌坛:称王称霸完整版观看| 啄木鸟伍迪在线观看| 《还珠格格》电视剧第二部| 放弃吧亚当君| 摩登家庭剧照| 我是大明星奇迹少年| 进击的巨人11优酷| 家族掌门:继承大权短剧全集 | 耶稣受难记| 跪下吃他胯下的体育生H| 洛丽塔在线观看高清免费| 八仙饭店电影| 欢迎来到实力主义至上教室 | 《另一个贝内特家的姐妹》| 站着再来一次30集全免费| 《伏妖白鱼镇3》高清完整版| 美国式保罗2原版| 巴基斯坦老电影| 陪讨厌上司去出差旅| 百万新娘全集| 海底总动员2:多莉去哪儿 电影| 高清《洪武大案》大结局| 高清《在你被判死刑之前》电视剧 | 高清匹兹堡医护前线 第二季未删减| 法国满天星《律师事务所》| 斗罗大陆207集在线观看| 街头篮球中锋| 骨语2完整版在线观看| 苹果电视剧| 李碧华鬼魅系列:迷离夜| 孤单又灿烂的神-鬼怪 百度云 | 兔子先生第一季第6期 | 任达华温碧霞电影| 敌人英语| 田教授家的二十八个保姆| 广西来宾传销| 熊猫战士全集| 乡村爱情10 下载| 法式鹅肝为什么那么大| 七个世界一个星球免费观看| 黑袍纠察队第一季无删减完整版| 年轻妻子剧情介绍| 《野外情欲》在线观看| 今日宜加油全集免费观看| 山神电影完整版免费| 撒尿间谍| 欧洲少女16集最后一集剧情介绍大全| 朝国年轻的继5免费观看| 壮志凌云满天星在线| 埃及猫原版动画| 吴健版《农民伯伯2》2-百度| 恶作剧之吻1台湾版| 激战酒店1—5免费| 张婧仪电影《独一无二》免费观看| 江湖恩仇录86版全集在线观看免费| 仙逆在线| 拯救地球未删减| 商务旅行戴帽子的老板同行电影完整版 | 哪吒二在线观看| 天天乐电影网| 电视剧爱就爱到底| 《驯服2》丽卡和谁在一起了| 我曾侍候过英国国王| 酒店1—60集全集免费高清| 人与狗马猪p4| 美国1-5普通话版| 疯狂的欲望| 女拳国语| 玉观音孙俪| 遍地狼烟电影下载| 电影V酒店| 告诉我你想要什么 电影免费观看| 公浮3| 变形金刚2百度影音| 哇嘎高清免费观看| 疯狂的麦克斯5在线观看免费完整版| 本源力量| 花蜜花液一女N男| 电锯人第一季动漫资源| 三d肉蒲完整版| 梦在海这边电视剧| 《黏黏糊糊的你》免费观看全集| 石敢当之雄峙天东演员表| 毒医肥尸无删减免费观看电视剧 | 阳光灿烂的日子免费| 战友代替丈夫后续剧情解析| 火影忍者剧场| 社长夫人美貌在线观看| 梦魇绝镇第二季在线观看| 《激战丛林》电影观看 | 狂欲的庄园| 高柳家的花嫁动画片| 替身电影在线观看完整版| 《下一个台风》| 《勇敢的老师》正版观看| 我为衣狂| 性的暴行北越未删减版| 疯狂店员2插曲| 一起愁愁第30集免费观看免费高清电影 | 想要爸爸播种子在线观看| 电影《偷香》完整版| 最高爱人诏三上解说| 人鱼小姐国语版免费观看全集 | 烟花三月电视剧| 密爱朋友的妈妈2| 惊天危机高清| 彭丹 蛇王波后| 非亲兄弟电影| 安斋拉拉在线观看视频| 缬怎么读| 《爱我几何》免费观看| 向风而行在线观看| 人民的名义43| 黄一山电影全集| 无边泳池| 369你懂的电影永久入口| 西安黑灯舞厅| eeuSS| 火线三兄弟多少集| 红苹果乐园电视剧| 一路向前1-40集免费观看| 我爱长发飘飘| 美丽的小樱桃2美剧免费观看全集高清版| 捉妖记bt| 一天三次的岳和女胥HD| 电影血恋在线完整版播放| 人民警察电视剧| 九重紫电视剧免费观看高清| 五等分的花嫁第一季免费观看全集| 私人航空电影在线免费观看。| 宿醉2在线观看| 啄木鸟酒店实生版| 假期历险记| 两公的浮之手中字| 《蜜桃成熟时2》| 我是哪吒 电影| 金银悔5一10普的最新版本更新内容| 安拉拉斋电影版免费看| 天地人间| 《高压监狱》免费完整版| 九重紫电视剧哪里可以看| lx司令第一季动漫| 摄政王的掌心娇短剧全集| 绝世高手之大侠卢小鱼电视剧| 斗罗大陆2绝世唐门免费观看49| 雨果 百度影音| 啄木鸟:《壮志凌云》| 天下第一演员表| 电影要爸爸播种子意大利| 七朵组合 玉生烟| 狂蟒之灾1| 魔弹战记龙剑道国语| 阿婴王祖贤电影完整版| 同学的妈妈双字id| 古代厨娘:美食京城全集免费 | 花与爱丽丝| JAP69韩国| 今天的她们电视剧免费观看| 天天向上20090109| 做aj的电视剧免费观看| 血沃丰碑| 斩龙漫画| 性解密电影日韩| 密爱 电影| 汉中市| 大胆美鲍| 斗罗大陆电视剧第二部| 《游泳的秘密》真人版| 咱们结婚吧28| 《韩国财阀》免费播放| 觉醒的她短剧| 冰冷热带鱼电影无删减完整版| 台剧《浪漫女家教》在线看全集| 纸新娘在线观看完整版| 一个软妹三个糙汉| 除却巫山百度影音| 绀青之拳完整免费观看| 法国空姐2019| 枪口下的女人| 朋友的学生hd| 《妻子3》在线观看| 西班牙情事| 酒店1-100集电视| 谍影重重6完整高清在线播放| 五福临门电视剧完整版免费观看| 直播:女子乒乓球单打决赛| 青木玄德| 凯登克洛罗斯全部电影| 马斯克笑称不用去劳改营了| 完美世界免费观看完整在线观看| 白昼之月电视剧完整版在线观看 | 杉杉来吃泰剧在线观看| 撩动我心| 电影《需要爸爸播种》在美国| 守龙者动画片免费观看国语版| 欢乐喜剧人 直播| 星落凝成糖40集免费全部看| 电视剧命运交响曲全集| 麦乐迪马克斯女超人免费观看| 古畑任三郎国语| 另一种灿烂生活免费观看| 异世界迷宫2免费观看| 奔跑吧兄弟| 《驯服小峓子2》丽卡| 梦回云南| 千指大人| 最美的时光综艺| 女武神的终末动漫在线观看| 需要爸爸的播种在线观看 | 我怀了你的孩子百度影音| 以家人之名电视剧免费观看 | 第二名的逆袭在线观看第4集| 《上阳赋》| 电视剧长河落日免费观看完整版 | 年轻的女朋友在线观看 | 燃冬电影高清在线观看免费| 白峰电影在线观看免费版最新上映白| 国家机密2| 爱丫爱丫免费观看电视剧剧情 | 总之就是非常可爱第二季免费观看| 刻舟求剑免费| 聚会的目的在线播放4| 黑白配HD1080p1080p下载安装| 白峰美羽《美人教师》| 野花电影手机免费观看| 韩国 售楼小姐的秘密 在线 | 电影《千金与佣人》完整版| 花样女鬼| 宫河家的空腹| 女子户卫队,满天星| 亮剑黄志忠版电视剧| 斯巴达(成大版)1-2电影| 朝美穗香| 恶作剧之吻韩版番外| 西班牙掌中之物在线观看完整版| 出狱脱节| 少年派 下载| 调值公式法| 电影邻居完整版| 酒店1-80集全集免费播放| 金牌律师第一季| 奔跑吧兄弟第10季免费观看完整版| 我和你吻鳖| rrr80| 善良的麦子| 镇魂电视剧百度云| 墨西哥10.5级地震| 一千滴泪| 天柱剑毫| 屋顶工| 战长沙片花| 爱有来生 电影| 法国版女超人麦乐迪电影在线观 | 爱你几何电影在线观看完整免费高清原声| 用一生爱你| 我是真的讨厌异地恋| 九一社1-36新加坡电视剧百度版| 王希玲久旱巧逢甘露雨| 美国内战| 阿布夏树| 黑衣人国语高清| 太阳的后裔演员表| 同居的日子| 荒岛女特工满天星免费观看| 极限追捕电视剧免费观看完整版| 昔闻洞庭水| 女版壮志凌云2011| 反叛的鲁路修在线观看| 少女动漫在线观看全集| 坠落女律师在线观看| 魔道祖师全集免费观看高清| xl司令第一季全集在线| 电视剧雅典娜女神| 下半场 微电影| 法国电影爱我几何 | 银河护卫队满天星免费观看 | 真心英雄2025免费观看完整版| 年经年经母年经3| 爱你2025全集免费播放| 情深深雾蒙蒙| 西班牙版《荷尔蒙》| 枭起青壤 电视剧| 我儿是朵奇葩| 这一生回忆有你就足够dj| 璀璨人生有多少集| 爸爸来播种完整版| 夏有乔木雅望天堂1| 看了又看第五部| 需要爸爸播种子1| 三国95| 蒋玲玲版《渔夫的荒野史记》在线观| 同志亦凡人电影| 游戏王gorush| 义姐不是不良妈妈免费看| 出差的已婚妇女BD中文字幕| 爱情保卫战 海霞姐| 战狼16欧式少女完整剧情| 白石茉莉| 真维斯属于什么档次| 巴黎恋人国语版| 战狼6欧式少女全集资源| 新孽海花传奇主题曲| 杨光的爱情故事2| 特殊房产销售2| 直到黎明未删减| 不止喜欢你电视剧免费观看| 女律师的陨落免费观看| 大西南剿匪记全集下载| 电影美乃雀主演替夫还债 | 古墓丽影法国版在线播放| 免费视频电影免费完整版观看| 少女第19集在线观看免费| 杨敏思版1-5电视大结局在线观| 张杰抄袭| 夏娃电视剧在哪看| 姐妹牙医电影在线观看| 赘婿在线观看免费完整版高清| 电影韩国密爱| 《美容院的特殊待遇》在线观看| 日韩无遮挡伦理片:按摩大胸妹子| 电视剧茶马古道| 落魄贵族琉璃川在线动漫完整版| 吸血鬼伯爵| 美国式禁忌矿桥矿影视| 思路高清| 给我豹豹迷羊| 德庆县| 公主嫁到粤语版| 赤井美月| 沙漠行动满天星版| 冲上云霄大结局| 完美无瑕电影| 女超人满天星版麦乐迪| 凌云志电视剧在线观看| 怒放电视剧免费观看全集| xl先生真人版免费观看| 三代响马| 娱乐百分百20130401| 白峰美羽网盘| 世界杯出线规则2022| 金钱堡垒电影未删减完整版免费观看 | 宋雨琦镜头表现力好绝| 动感之星第199集妖精| 亲爱的药王大人| 修仙小师妹短剧全集| 污污污双人调情按摩术免费在线播放| 特朗普称美国正从内部死亡 | 神机妙算刘伯温第七单元| 曾静二泉吟| 麦乐迪女超人无删减在线观看免费观看| 一年一度喜剧大赛2综艺| 局外人电影| 汤芳最出位下部| 电影《落凡尘》免费观看| 誓盟 电视剧全集观看| 上流社会完整版观看| 棋王梁家辉| 乐清市| 大胸姐妹电影| 电视剧大唐荣耀60集免费观看| 陪你一起好好吃饭在线观看| 高清《借种》电影| 星辰变第五季直通大结局| 年轻的母亲节2| 惊天营救2| 仙逆更新至96集在线| 午夜的太阳| 新电视剧推荐| 杨鸣曾数次起诉离婚| 康熙来了 胡夏| 维修工艳遇无码免费观看视频| 致命弯道8免费看| 《白夜破晓》今日开播| 《刚结婚部长出差的日子》| 阿旺新传3| 恶女花魁| 美国爸爸需要播种| 千王之王全集1至40集免费观看| 阳光并不遥远| a篇免费观看| 梅花三弄鬼丈夫电视剧免费观看 | 灯草花和灯高清免费| 侏罗纪公园3电影免费完整版观看| 岳母的幸福生活百度影音| 安拉拉斋主演的电影在线观看免费| abp-013| 皇朝博美犬舍| 《新上任的女员工》| 张国荣红楼春上春| 薄暮传说剧场版| 孤注一掷在线观看策驰影院 | 龚玥菲新金瓶高清什么时候上映| 越南战场满天星| 如懿传在哪里看| 我和我的家乡免费版观看| 郝板栗牙医未删减版百度云| 法国疯马秀歌舞表演| 包青天老版| 双重曝光韩剧免费观看完整版| 日本混血女大学生按| 遇见你时风好甜| 铠甲勇士全| 电影《美容院的特殊待遇》4演员表| 百灵鸟叫声| 重燃人生短剧免费观看| 大学生理发店的特殊待遇| 神话电视剧高清| 动漫人物打卜克免费观看| 罗丽星克莱尔的经典电影| 谍影电视剧全集免费播放| 年少时光| 洛阳美食节| 24世纪性格爱情| 追龙电影完整版| 四大名捕1(国语版)| 龚玥菲新金甁梅快播| 莉娜安德森《满天星》电影在线观看| 一门三司令全集| 长江七号电影免费完整版在线观看 | 地牢女孩在线观看完整版高清| 《办公室的故事》| 江苏公共频道| 致美丽的你10| 严础熙《总统丁若镛》| 刺客伍六七第6季| 鬼FU全集无删减在线看风车| 屠宰场呕吐娃娃高清完整版| 真爱找麻烦电视剧| 终极对决电影| 和女部长做爰HD中字| 因法之名电视剧免费观看吴磊| 难忘之夜泰剧免费观看完整版| 娘道电视剧免费全集看| 我在华丽的外出截了一段视频| 千金归来全集免费| 年轻的母亲韩剧电视剧全集| 顺义区| 三年成全在线观看免费播放电影| 《魔法少女伊莉雅》| 星梦缘优酷| 《女员工出差日子》的导演是谁| 泰国电视剧金螺大结局| 夏家三千金电视剧全集免费| 黑白配高清在线播放国语| 《扫毒风暴》免费观看完整版高清| 七年级下册英语单词朗读| 微笑百事达免费观看全集完整版| 战狼6大牛老黑免费观看| 逆流而上的你全集免费观看| 革命军中马前卒| 电影《私人航空》法国电影| 这个大叔不太囧 电影| 奇思妙想周莹博士王俊凯| 大决战电视剧| 韩剧蓝色隐形帽子的电影| 千山暮雪2| 你给老子不上班| 小小水蜜6全集电视剧| 恶搞之家拍脏片八季是哪一集 | 日本动漫《花嫁高柳家》完整版电影| 中年男的异世界网购生活动漫| 身材最好的女明星| 海底总动员2:多莉去哪儿 电影| 和前男友一起出差电影免费在线观看 | 弟债妻还真人版| 《千金》在线完整观看日剧| 《恋爱舞台》动漫| 当着女朋友面睡她闺蜜| 叼嗨片| 嘿朱迪 中国好声音| 九首歌下载| 《新上任的秘书》人物介绍| 欢迎来到王国韩剧免费观看| 电影《打黑》2免费观看| 一天1000条小金龙不够卖| 日韩电影维修工的艳遇| 星际浩劫2| 高压监狱2成人版| 电视剧璀璨人生全集| 我最好朋友的女朋友| 凤凰传说国语| 学生伦姧女教师片在线观看| 魔幻情劫| 神舟七号电影| 女长官的体罚哪一集| 农村阳宅风水| 失乐园韩国| 完美女人| 木下檩檩子的电影全集 | 姐妹牙医电影在线看完整版高清| 鬼神童子国语| 高压监狱在线观看法版免费| 穿透屋顶的high kick全集| 荣誉守则成人版完整版免费在线观看| 甜密惩罚第一季免费观看完整版| 我的三体| 私人教练1982年美国帕克| 薰衣草高清观看在线观看| 高清望向太阳未删减|