• <track id="oztn4"></track>
    <sup id="oztn4"><form id="oztn4"></form></sup>
    
    
    <mark id="oztn4"></mark>
  • <dfn id="oztn4"><samp id="oztn4"></samp></dfn>
      《地爆天星小姐》电影 ,麦子交换2免费观看2023年上映时间表 ,莫妮卡《爱我几何》,大牛影库战狼6欧式少女全部视频,三年大片国语版在线看,日本空姐电视剧,电影魔镜号中文字幕,和部长一起去出差旅是第几集
      全球「AI學術頂會」精華匯聚地
      您正在使用IE低版瀏覽器,為了您的雷峰網賬號安全和更好的產品體驗,強烈建議使用更快更安全的瀏覽器
      此為臨時鏈接,僅用于文章預覽,將在時失效
      人工智能學術 正文
      發私信給我在思考中
      發送

      0

      P vs. NP 五十年:AI正在解決不可解問題

      本文作者: 我在思考中 2022-01-04 10:58
      導語:與其視為障礙,不如換個角度思考新的解決之道。
      P vs. NP 五十年:AI正在解決不可解問題
      P和NP問題一直是計算機領域的老大難問題,那么在近50年間,人們對這個問題有什么深入的研究呢?讓我們在本文中深挖這個世紀難題。
      作者 | Lance Fortnow
      編譯 | Don
      編輯 | 青暮
      在1971年5月4日,偉大的計算機科學家和數學家Steve Cook就在他的論文《定理證明程序的復雜性 The Complexity of Theorem Proving Procedures》中首次向世界提出了P和NP的問題。在50年后的今天,世人仍然在試圖解決這個計算機領域中最著名的問題。其實在12年前(2009年),我也曾經就該問題進行了一些討論,大家可以看之前的《P與NP問題的現狀》綜述。
      文章地址:Fortnow, L. The status of the P versus NP problem. Commun. ACM 52, 9 (Sept. 2009), 78–86. https://doi.org/10.1145/1562164.1562186
      計算機理論在近些年并沒有得到很大的發展。從2009年那篇文章發表以來,P與NP問題及其背后的理論并沒有發生顯著的變化,但計算世界確實發生了變化。比如說云計算,就推動了社交網絡、智能手機、經濟、金融科技、空間計算、在線教育等領域的飛速發展。更重要的是,云計算還幫助了數據科學和機器學習的崛起。
      在2009年,世界前10大科技公司中出現了一家獨大的場面——微軟公司獨孤求敗。但是截至2020年9月,市值前七名的公司分別是蘋果、微軟、亞馬遜、Alphabet(谷歌)、阿里巴巴、Facebook和騰訊,彼此平分秋色。不光是大公司的變革明顯,計算機人才的需求量也是如此。據統計,在2009到2020年間,美國的計算機科學專業畢業生的數量增加了三倍有余,但這還是無法滿足市場上對該領域人才的需求量。
      P和NP的問題作為數學界和計算機界的一個難題來源已久,它被列入克萊數學研究所的千年難題之一。而且這個組織還為能夠攻克該問題的研究人員提供了上百萬美元的獎金懸賞。我會在文章的末尾用一些例子來解釋P和NP問題,這雖然沒能讓我們從本質上對其有更多的認識,但是也能看出來P和NP的很多思考和成果推動了這個領域的研究和發展。

      1

      P和NP問題
      如果有人問你,你能不能在微博上找到一些人,他們彼此之間都是朋友,這幫人的數量大概是300左右。你會怎么回答這個問題?
      假如你在一個社交平臺企業工作,而且可以訪問整個平臺的數據庫,也就是能看到每個人的好友列表,那你可以嘗試遍歷所有的300人群組,然后挨個兒看他們是否有相同的關注人群,如果是,則他們被稱為一個團(Clique )。但是這樣算法的計算量太大,數量也太多了,通常無法全部遍歷。
      你也可以耍耍小聰明,也就是從小的群組開始,然后慢慢的將這個小群組擴大,納入那些彼此之間都是好友的人。當然實際做起來可能也有難度。其實從理論上來說,這個問題沒有最好的解決方案,沒有人知道到底存不存在比挨個遍歷更好的解決方案。
      這個例子其實就是一個典型的P和NP的問題。NP代表了可以有效檢驗一個解的準確性的一類問題。比如當你知道有300個人可能構成一個團,你就可以快速的檢驗出由他們兩兩配對的44850對用戶到底是不是都是彼此的好友。成團問題(clique problem)是一個NP問題。
      P則代表了可以有效找到解的問題。我們不知道這300個目標人群的問題是否也是具有P的可解性質。
      實際上,令人驚訝的是,成團問題具有“NP完全”的性質。也就是說,當且僅當P=NP時,我們才可以快速有效地解決成團問題。
      許多其他問題都具有NP完全的性質,比如3 Coloring問題(是否可以僅使用三種顏色對地圖進行染色,然后讓相鄰的兩個地塊沒有相同的顏色)、旅行商問題(通過城市列表找到最短路徑,讓這個旅行者能夠在路徑所有城市之后回到出發城市),等等。
      形式上來說,P代表“確定性多項式時間”,也就是可以在輸入長度的多項式限定時間之內解決的一類問題。NP則代表“非確定性多項式時間”。在實際的算法開發中,我們最好可以換個角度看待P和NP的問題:我們可以將前者視為可有效計算,而將后者視為可有效檢查的問題。
      大家如果想更多的了解P和NP的問題,可以去看看2009年的綜述論文,或者一些其他的科普書籍自行了解。也有一些比較偏正式的介紹工作,比如Michael Garey 和 David Johnson在1979年出版的書籍,他們的這本書對于想了解NP完全問題的讀者來說一定不能錯過:
      Garey, M. and Johnson, D. Computers and Intractability. A Guide to the Theory of NP-Completeness.W.H. Freeman and Company, New York, (1979).
      P vs. NP 五十年:AI正在解決不可解問題



      2

      為什么要討論P和NP問題
      在1971年的那個星期二的下午,Cook在ACM計算理論研討會上發表他那篇關于NP完全的論文時,他證明了可滿足性是NP完全的,而重言式是NP難的。論文中也推斷說Tautology是不具備P特性的一個問題,當然,當時沒有對這個問題進行很好的證明。但無論如何,這篇論文以及其中的證明方法,標志著復雜性理論的重大突破。
      想要去證明一個數學概念通常具有很大挑戰。算法和證明的基礎概念至少可以追溯到古希臘時期,當然,他們從來沒考慮過NP和P這樣的問題。高效計算和非確定性的理論基礎是在1960年代才發展起來的。但P和NP的問題在這之前很久就已經被提出來了,只是我們沒有給它們正式冠名而已。
      庫爾特·哥德爾在1956年曾經寫過一封給馮·諾依曼的信。在信中他就初步描述了P和NP問題。這封信直到1988年才被發現,并廣為流傳。
      Richard Karp真正意義上首次將P和NP問題引入大家視野。他在1972年的論文中介紹了該問題,并隨后得到廣泛的關注。
      我們知道很多有名的組合問題都是NP完全的,包括Clique, 3-coloring和旅行商問題。1973年,當時在俄羅斯的Leonid Levin在他兩年前獨立研究結果的基礎上發表了一篇新的論文,并在這篇論文中定義了P和NP問題。當Levin的論文傳播到西方的時候,P和NP問題也已經確立了作為計算領域最重要問題的地位。



      3

      Optiland
      Russell Impagliazzo在1995年的一篇經典的論文中描述了P和NP問題具有不同程度可能性的5個層級:
      1. 算法:P=NP或理論上等效,例如NP的快速概率算法(fast Probilistic algorithm)
      2. 啟發式:NP問題在最壞的情況下很難求解,但平均來說還是可以得到求解的
      3. Pessiland:我們可以輕松的創建困難的NP問題,這是所有可能中最糟糕的,因為我們既不能在平均意義上解決難題,也不能從這些問題的難度中獲取任何明顯的優勢
      4. Minicrypt:存在加密的單向函數的問題,但我們沒有公鑰加密
      5. Cryptomania:公鑰密碼學,也就是說,兩方可以通過公開渠道來交換加密信息,然后通過公鑰解密
      上述的5個層級沒有正式的定義,都是通過人們對P和NP問題的了解人為規定的。但是人們普遍認為,Cryptomania這個等級的可能性最高。
      Impagliazzo借鑒了P和NP理論中的核心思想——“我們無法擁有一切”。
      我們或許可以解決困難的NP問題,或者解決密碼學的重要關鍵,但是不能將兩者同時攻克。
      不過,也許我們正在走向事實上的Optiland——機器學習和軟硬件優化等方面的長足進步讓我們能夠在一定程度上解決當年無法設想的問題,包括語音識別、蛋白質折疊解析等。但是大多數情況下,我們的密碼協議仍然是安全的,所以不用太擔心。
      在2009年的綜述中,我曾經在其中“如果P=NP怎么辦”的章節中提出,通過使用奧卡姆剃刀法則,學習將會變得容易——我們只需要找到與數據一致的最小程序,也就是問題的關鍵核心。那么此時,原本十分難以解決的視覺識別、語音識別、翻譯以及其他的任務都會變得微不足道。我們還將對天氣、地震和其他自然現象做出更好的預測和理解,以及建模。
      今天,我們可以使用人臉識別解鎖手機,可以和一些智能設備語音對話來提出問題并且得到理想的回答,可以將我們說的話、輸入的文字翻譯成另外的語言。我們的手機會收到關于天氣和其他突發事件的警報,它的預測效果比我們之前十幾年前能做到的效果好的多。與此同時,除了對小密鑰長度進行類似暴力破解的攻擊之外,我們的密碼學基本上還是很魯棒和安全的。那么現在,讓我們看看計算、優化和學習方面的最近進展如何將我們帶到Optiland中吧!



      4

      解決困難問題
      2016年,Bill Cook和他的同事決定挑戰一個問題,就是如何以最短的距離訪問英國的每一家酒吧。他們列出了已知的24727家酒吧,并且邁開腿,真的去走遍這些酒吧。這是一次跨越45495239米,大概28269英里的步行之旅,比繞地球一圈還要長。
      其實Cook做了個弊,他沒有真的走去每一家酒吧,他忽略了其中一些酒吧來讓這次步行沒那么夸張。這個事情在英國的媒體中宣傳了之后,很多人在底下留言說:你沒有來我家旁邊的這個酒吧呀。于是,Cook和他的公司重新開始計劃,將酒吧的名單增加到49687個,整體的旅行長度就達到了驚人的63739687米,也就是39606英里。但其實,相對于之前的那個旅行,這趟新的尋酒之旅其實只需要多走40%的距離就能達到兩倍多數量的酒吧。
      P vs. NP 五十年:AI正在解決不可解問題
      遍歷英國49687家酒吧的全覽圖
      這種酒吧遍歷之旅在某種程度上就是旅行商問題的變種,也就是最著名的NP完全問題之一。通過所有49687家酒吧的可能游覽次數約等于3加上后面211761個零這個量級。當然了,Cook的計算機不會搜索整個集合,而是使用了多種優化的技術。更令人印象深刻的是,這次旅行帶有基于線性程序對偶性的最優性證明。
      除了旅行商問題之外,我們還看到了求解可滿足性和混合整數規劃方面的重大進步,也就是線性規劃的一種變體,其中一些變量的解要求是整數。當我們使用高精度的啟發式算法,使用快速的處理器、專用的硬件系統和分布式的云計算進行輔助的時候,人們通常可以解決實際中出現的具有好幾萬個變量和幾十上百萬個約束的問題。
      面對NP問題時,人們通??梢詫P問題表述為可滿足性或混合整數規劃問題,并將其扔給目前最好的求解器來借助計算機的力量,自動找到答案。這些工具已經成功用于電路和代碼的驗證、自動化測試、計算生物學、系統安全、產品和包裝設計、金融交易,甚至是一些困難的數學問題求解之中了。



      5

      數據科學和機器學習
      人們通常無法忽視機器學習在近些年帶來的革命性影響,尤其是神經網絡。人工神經網絡建模的概念基礎,基本上是計算加權閾值函數。這種思想起源于1940年代Warren Mcculloch和Walter Pitts的工作。在1990年代,Yoshua Bengio、Geoffrey Hinton和Yann Lecun開發了反向傳播算法,來將深度神經網絡的層數加深,并得到非凡的結果。
      與此同時計算機硬件計算、存儲等方面出現突破,那些更快、更加分布式的計算單元,那些專用的硬件和海量的數據有助于推動機器學習完成很多類似人類的功能。ACM認識到Bengio 、Hinton和LeCun的貢獻,并在2018年為他們頒發了圖靈獎。
      有的同學可能會問,機器學習怎么和P、NP問題相聯系呢?奧卡姆剃刀說:如無必要,勿增實體。如果P=NP,我們可以用這個思想來創造強大的學習算法:找到與數據一致的最小電路。即便P≠NP,機器學習也可以學習并且近似這種思想,這就賦予它強大的能力。
      盡管如此,神經網絡也可能不是真正的“最小”的電路,當然或許可能是盡量小的。今天我們所使用的深度學習方法通常是結構固定的,能夠變動的都是神經元連接上的權重。為了能夠實現足夠泛化的表達能力,這些網絡通常有幾百上千的權重數量。這就限制了深度網絡的能力(也就是不夠簡單)。它們可以在人臉識別上做的很好,但是無法根據示例學習乘法。

      通用分布和GPT-3

      讓我們考慮二進制字符串的無限集上的分布場景。我們雖然不能擁有均勻分布,但是可以創建一種每個長度相同的字符串都有相同概率的分布。但是,有些字符比其他字符更重要。比如π的前一百萬位數字比隨機生成的一百萬位數字更有意義。
      我們可能希望將更高的概率放在更有意義的字符上。現在我們有很多方法能夠做到這點。實際上,已經有人發現了一種接近任何其他可計算分布的通用分布,這種分布與學習有很大的聯系——例如,任何能夠以小錯誤率學習這個分布的算法,將可以學習所有的可計算分布。
      但是問題在于,即使P=NP,這種分布通常也是不可計算的。如果P=NP,我們仍然可以通過創建一個對其他有效可計算分布通用的分布來獲取一些有用的信息。
      那么我們能夠從機器學習中得到什么?讓我們考慮生成式預訓練Transformer(GPT)。
      在2020年5月GPT-3發布了,它有1750億個參數,并且訓練了4100億個token。這些Token來自很多的文字語料庫。它能夠回答問題,能夠根據提示寫出文字,甚至可以進行一些基礎的編碼工作。盡管還有很長的路要走,但是GPT-3因其生成內容的自然性而受到廣泛的贊譽。
      在某種意義上,我們可以將GPT-3視作一種特殊的分布方法。我們可以在其中查看算法生成輸出的概率,這是通用分布的一種弱化版本。如果我們將通用分布限制為具有給定前綴,則會提供由該前綴提示的隨機樣本。GPT-3也可以建立在此類提示的基礎上,無需進一步訓練即可處理范圍廣泛的領域知識。隨著這一系列研究的發布,我們將更接近一個可以執行內置學習的通用衡量標準:從給定的上下文中學習一個隨機樣例。

      科學和醫學

      在科學方面,我們通過進行大規模的模擬來理解。例如在探索核聚變的反應過程中,我們就取得了一些不錯的結果。研究人員可以應用一種形式化的研究方法,為物理系統創建一個假設,然后使用這個假設,并且不斷的使用這個假設進行反應和模擬。如果我們得到的結果和實際不相符,則丟棄模型,并且重新開始。
      當我們得到了一個強大的模型之后,我們就可以在物理模擬系統中進行很多實際實驗中代價昂貴的測試了。如果P=NP,我們可以使用奧卡姆剃刀方法來創建假設,即找到與數據一致的最小電路。機器學習技術可以沿著這條技術路徑前進,使假設的創建自動化。當我們給定數據之后,不論是通過模擬還是真正的實驗得到數據,機器學習就可以創建模型來擬合這些數據,達到最佳的匹配。我們可以使用這些模型進行預測,然后就像之前那樣測試這些預測。
      雖然這些技術使我們能夠找到可能遺漏的假設和模型,但是也有可能導致誤報。人類通常會趨向于接受有95%置信度的假設(這意味著20個壞假設中只有一個能夠通過檢驗)。機器學習和數據科學工具能夠讓我們生成假設,這些假設都有著脫離實際建模的風險。這就限制了它的工作范圍,比如醫學工作者就不能承擔這些風險,他們的診斷中如果有這些問題,那會遭到很大的麻煩。生物系統也是一種極為復雜的結構。我們知道人類的DNA形成了復雜的編碼,它描述了我們的身體是如何形成的,以及它們執行的功能。但是很可惜,我們目前對其工作原理知之甚少。
      在2020年11月30日,谷歌旗下的DeepMind發布了AlphaFold,這是一種基于氨基酸序列預測蛋白質形狀和結構的新算法。AlphaFold的預測幾乎達到了實際實驗構建氨基酸序列的和測量蛋白質形狀相同的準確度。但是關于DeepMind是否真正“解決”了蛋白質折疊的問題,還存在一些爭議,現在評估其影響還為時過早,但是從長遠的角度來看,這可以為我們提供一種新的數字工具來研究蛋白質,來了解它們是如何互相作用,并且了解如何設計DNA來對抗疾病。

      超越P和NP問題的思考:國際象棋

      NP就像是一個迷宮一樣,在任意大小的棋盤上各種操作。數獨也是NP完全的問題,它需要從一些正方形中給定的數字設置中求解。但是,當我們問到誰從給定的初始設置中獲勝時,我們是不是就沒辦法給出準確的回答了呢?即使我們有P=NP的前提,它也不一定會給我們一個完美的國際象棋的程序來解決問題,這就像需要設計一個程序,它保證能夠讓白棋走的這一步,逼迫黑棋走那一步,然后白棋再按照計劃走這一步,使得黑棋...,最終是白棋獲勝。人們無法單獨在P=NP上完成所有這些白棋和黑棋的交替。像這樣的游戲往往被稱為PSPACE-hard,即很難計算、或使用合理數量的內存,并且在約定的時間之內求解完成的問題。根據規則的精確限制,國際象棋和圍棋甚至可能更難。
      這不意味著如果P=NP,你就不能得到一個好的國際象棋程序。事實上,在某種程度上,象棋的程序體積越大,其智能程度越高。我們可以找到一種有效的計算機程序,它可以擊敗所有尺寸稍小的其他程序。同時,即使沒有P=NP,計算機在國際象棋和圍棋方面也變得非常強大了。1997年,IBM的深藍擊敗了當時的國際象棋世界冠軍。
      此外,機器學習為電腦游戲帶來了巨大的進步。我們討論一下聲名大噪的AlphaZero,它是2017年DeepMind開發出來的人工智能程序。
      AlphaZero使用了一種被稱為蒙特卡洛樹搜索MCTS的技術,這個技術為兩個玩家隨機移動以確定最佳的行動方案。AlphaZero使用深度學習來預測游戲位置的最佳分布,以優化使用MCTS的獲勝機會。雖然AlphaZero不是第一個使用MCTS的工作,但是它沒有任何內置的人工策略或者使用任何已有的游戲數據庫。AlphaZero只學習了游戲的規則。這就讓AlphaZero在國際象棋和圍棋這兩個運動中大放異彩,除了交替移動和固定大小的棋盤之外,這兩個游戲在規則和目的上沒有任何相似之處。DeepMind最近在MuZero上也有新動作。它甚至都沒有得到完整的游戲規則,只得到了對棋盤位置的一些表示,和合法動作列表,以及對哪些位置是輸是贏有了一些了解。也就是說,現在我們已經發展到了一個階段,在這個階段里,純機器學習在國際象棋或者圍棋這樣的高復雜度的問題中都能輕松擊敗大多數的人類或者啟發式算法。人類的先驗知識只會畫蛇添足、礙手礙腳。對于國際象棋和圍棋這樣的游戲,機器學習可以在P=NP無法滿足的情況下取得成功。太不可思議了。

      可解釋的人工智能

      許多機器學習算法似乎已經能夠達到不錯的效果,但是我們不知道其中的原因。如果我們仔細的去看語音翻譯或者圖像識別的神經網絡內部參數,很難理解它為什么會做出這樣的動作或者處理。有人可能會問了,它有這個能力就好,我們為什么要關心?以下是幾個原因:信任、公平性、安全性、因果關系。
      1. 信任:我們如何知道神經網絡是否正常運行了?除了檢查輸入和輸出之外,我們無法對其他中間的變量進行分析和理解。不同的應用程序具有不同的信任級別。如果Netflix推薦了一個很差的電影,那沒什么問題,但是如果自動駕駛汽車推薦了一個讓車撞墻的轉彎操作,那事兒可就大了。
      2. 公平性:很多應用程序都是在訓練集上進行學習的,訓練集中的數據可能不是完全公平或者說沒有偏見的。如果不理解程序,那我們可能無法糾正其中的偏差和歧視。種族歧視可是一個嚴重的話題呦。
      3. 安全性:如果我們使用機器學習來監控數據安全系統甚至安保系統,那么不可解釋的機器學習模型可能無法讓你知道他存在的漏洞是什么,尤其是當我們的對手具有適應性的時候。如果我們能夠理解代碼和網絡的結構,就可以發現并且修復這些安全漏洞。當然,如果我們的敵人擁有代碼,他們也有可能發現漏洞并針對其組織攻擊。
      4. 因果關系:目前來說,我們最多可以檢查機器學習算法是否只與我們想要的輸出類型相關。但是理解代碼能夠幫助我們理解數據中的因果關系,從而造出更好的科學理論和醫學成果。
      如果P=NP,我們能得到更好的計算機程序嗎?如果你有一個解決NP完全問題的快速算法,你就可以用它來找到匹配旅行商問題的最短路徑,但是你不會知道為什么這種方法有效。另一方面,我們都希望能夠得到可解釋的算法,因為能夠深入了解其屬性。在研討會中,我們都在研究可解釋的人工智能,比如ACM Fairness Accountability and Trust會議等。
      機器學習的局限性
      雖然機器學習在過去的幾十年間取得了令人矚目的進展,但是這些系統遠非完美。在大多數的應用中,它們還是會被人類碾壓。我們將繼續通過新的和優化的算法,收集更多的數據并研發更快的硬件來提高機器學習的能力。機器學習似乎確實有不少的局限。正如我們上面看到的,機器學習讓我們無限逼近P=NP,但是永遠無法達到這個程度。比如,機器學習在破解密碼方面的進展很慢,我們稍后對其進行討論。
      機器學習似乎也無法學習簡單的算術關系。比如總結大量的數字規律,以及大數相乘。人們可以想象將機器學習和符號數學工具結合起來,一定能得到很好的效果。雖然我們已經在定理的證明應用方面看到了一些進步,但是距離夢想中的功能還比較遙遠。我也正在寫一篇相關的論文。
      同樣的,P=NP將使這些任務變得更加容易,或者至少更加易于處理。機器學習在面對和訓練數據分布不同的樣本的時候,表現通常不好。這可能是由于低概率的邊緣情況,例如在訓練數據中沒有很好的包括所有人種的時候,對于一些國家或者種族的人的識別效果比較差。深度神經網絡算法可能有數百萬個參數,因此,它們可能無法達成良好的泛化分布。如果P=NP,那就可以生成最小尺寸的模型,并且能夠做出最好的泛化,但是如果我們無法進行實驗,我們永遠不知道這是不是P=NP問題。
      跟機器學習一樣,我們目前還沒有任何的工作能夠接近真正意義上的通用人工智能。這個通用人工智能是指對某個主題的真正理解,或者真正具有意識或者自我意識的人工系統。定義這些術語可能比較棘手,也具有一些爭議。就我個人而言,我目前還沒見過一個正式的通用人工智能的合理定義,我只是抓住了對它概念的知覺的理解并且總結。我懷疑我們永遠不會實現真正意義上的通用人工智能,即使P=NP。



      6

      密碼學
      雖然我們在解決NP問題方面取得了很大的進展,但是很多密碼學的領域仍舊毫無進展。包括單向函數、安全散列和公鑰密碼等多種形式的加密。一種有效的NP算法,其實是能夠破解所有密碼系統的,除了那些信息理論上安全的密碼系統(比如一次性密碼和一些量子物理學的安全系統)。我們已經看到過很多成功的網絡安全攻擊,但是它們通常源于服務器糟糕的設置、很差的隨機數生成器,或者人為的一些錯誤,幾乎都不是由于密碼學本身的問題所導致的。
      現在的大多數CPU芯片都內置AEC,因此一旦我們使用公鑰密碼技術來設置私鑰,我們就可以像發送純文本一樣輕松的發送加密數據了。加密為區塊鏈和加密貨幣提供了底層的技術支持,這意味著人們對加密技術的信任十分高,足以將現金和比特幣進行交換。Michael Kearns和Lesilie Valiant在1994年的研究表明,學習最小的電路,甚至學習最小的有界層神經網絡,都可以用來分解質因數和破解公鑰密碼系統。但是到目前為止,機器學習尚未成功用于破解密碼協議。
      可能有人會問,我們既然已經在許多其他NP問題上取得了很多的進展,為什么單單是密碼學上失靈了呢?在密碼學中,我們可以選擇問題,專門設計為這個場景單獨設計的方法來加密,從而達到不錯的效果。而其他的NP問題通常使用通用的、通過程序自己形成的方法來執行。這些自動匹配的方法可能不是量體裁衣的,就并不是最合適和最困難的方法。
      量子計算是目前我們知道的唯一一個能夠威脅到互聯網公鑰協議安全的存在。Shor的算法可以用于對大數進行質因數分解和其他相關的數論計算。這種擔憂可以通過幾種方法來加以解決。雖然目前來看量子計算取得了一些令人驚嘆的進步,但是它距離能夠破解當今的密碼系統相去甚遠,畢竟還不能夠處理足夠多的糾纏位。有人估計,可能還得需要幾十年甚至幾個世紀才能真正使用Shor算法+量子計算機對目前的公鑰產生威脅。另外,研究人員在開發對量子攻擊具有抵抗力的公鑰密碼系統方面取得了良好的進展。我們將在本文后面的部分詳細介紹量子計算。
      因式分解問題,目前來說并不是NP完全的,即使我們沒有大規模的量子計算機,數學上的突破也肯定有可能推導出很高效有用的解決方案。不論我們如何看待量子計算的未來,一些擁有了多種公鑰系統的計算機都可能解決因式分解問題。

      7

      摩擦力般的復雜性
      話說回來,面對這么多難以計算的問題,我們能有什么優勢呢?或者說我們能從中學習到些什么呢?我想到了密碼學。但是,既然造物主讓某些計算問題變得十分困難和復雜,甚至難以求解和實現,肯定是有內在原因的,這和很多自然界中的摩擦力現象(Friction)十分類似。在物理世界中,摩擦力通常是需要我們額外付出能量做功來克服的,但是如果沒有摩擦力這種常在的阻力,我們甚至無法行走、跑步和前進。同樣的,在計算機的世界里,復雜性雖然會導致一些計算困難,但是如果沒有它,我們可能就會遇到類似于無法前進般的更棘手的問題。在許多情況下,P=NP將消除這種摩擦力。
      最近發表的很多計算理論相關論文告訴我們,如果消除了摩擦力般的計算復雜性,那么會產生許多負面的影響。例如,如果消除了計算復雜性,那么人們將不能夠表露自己的思想,人們也只能夠看到其他人所采取的行動,而不知其動作背后的目的。經濟學家有一個術語:偏好啟示(Preference Revelation),這個現象試圖根據我們所采取的行為來推斷其背后的真實目的。在過去的大量時間里,我們通常沒有大量的訓練數據來支持類似模型的訓練,因此這種程序也成為了一種空中樓閣般高度不精確的“藝術品”,無法實用。
      時至今日,我們從人們的網絡搜索記錄、他們的社交賬號的照片視頻、游戲賬號的購買記錄,以及在網上的瀏覽記錄、現實生活中的足跡信息,以及各種智能設備中殘留的隱私信息中收取大量的個人信息數據。因此數據集已經很充足。同時,機器學習也可以擁有處理這些復雜信息的能力,因此就可以據此做出非常精確的預測和估計。計算機對我們的了解往往比我們自己對自己的了解還要多。
      我們現在的技術已經足夠強大,強大到甚至能夠開發出一個智能眼鏡,讓你戴上它就立刻知道眼前人的各種信息,姓名、年齡、身高體重、興趣愛好,甚至是政治偏好。也就是說,在大數據的時代,由于機器學習和大量隱私信息的存在,本來十分復雜、幾乎不可能實現的一些問題被計算機攻克,也就帶來了隱私的泄露——復雜性不再能為我們提供隱私的保護。我們需要通過法律和對企業的責任約束來保護個人的隱私安全。
      計算機世界的“摩擦”現象可以超越隱私。美國政府在1978年取消了對航空公司定價的管制,因此如果旅客想要找到一條最便宜的航線,就需要打好多個電話給很多家航空公司,或者通過旅行社來尋找。但是旅行社嘛,通常不會盡心盡力的幫你尋找最便宜的,而是尋找對他們利益最高的那條路線。各個航空公司的生存理念不同,有的可能致力于保持高水平的服務質量,因此價格稍貴;有些則是想要用低價來吸引更多的乘客。今天,我們可以很容易的通過計算機程序找到最便宜的航空公司的航線信息,因此航空公司也都跑去在價格上苦苦鏖戰競爭,并期望計算出最佳的定價來提高上座率,此時服務態度和體驗可能就被犧牲掉了。
      計算機的“摩擦力”或者說復雜性,也有助于打擊作弊問題。我在1980年讀大學的時候,天天被微積分問題虐,整天都在各種數學計算,生不如死。但是時至今日,這些微積分問題在Mathematica和Matlab面前都是弟弟,一行指令輕松破解。我現在當老師了,在我的課程上,我甚至留不出一些網上無法搜索到的家庭作業題目來讓學生訓練。更可笑的時候,我甚至可以使用GPT-3或者它的后續優化代碼來生成一些家庭作業。那么當GPT之類的工具已經可以自動回答這些很復雜的問題的時候,我們如何激勵學生,或者說防止他們作弊偷懶呢?
      股票交易也是一個重災區。在過去,股票交易通常需要在一個很大的交易所中進行,就像我們在電影中看到的那樣,交易員在那里用一個很帥的手勢來指揮買入和拋售,用一個眼神來匹配最佳的價格。但是現在,算法會自動適應最佳的價格并且買入拋售股票。雖然偶爾會導致“閃崩”的現象。機器學習算法已經很強大了,他們能夠替代人類進行一些決策,也能進行人臉識別,將社交媒體的內容和用戶進行匹配,也能進行一些司法判決。這些決策系統都為人們提供了便利,但也帶來了很大的社會挑戰。比如歧視問題和政治兩極化的問題正在被拉大。這個問題很復雜我們無法一言概之。
      上述的問題只是此類場景中的一小部分。作為計算機科學家,我們的目的是使計算盡可能高效和簡單,但我們必須保留減少計算復雜性,也就是計算“摩擦力”的成本。

      8

      量子計算機的力量
      隨著摩爾定律的失效,計算機研究人員將目光轉移到量子計算機的領域,這些年,量子計算機的研究和應用正在經歷大幅的增長。谷歌、微軟和IBM等大型科技公司,以及各種創業公司都在量子計算機方面投入大量資源進行研究。美國發起了國家級的量子計算研究計劃,中國等其他國家也在紛紛效仿。
      在2019年,谷歌宣布他們已經通過使用53個量子比特的量子計算機實現了“量子霸權”,解決了當前傳統計算機無法解決的很多計算任務。雖然有很多人質疑這個說法,但是我們無疑的正在處于量子計算新時代的起點之上。盡管如此,我們距離能夠跑起來Peter Shor的量子算法,以及擁有一臺真正的量子計算機,還有相當遠的距離。保守來說,我們還需要幾萬個量子位的距離需要攻克。通常來說,量子計算機可以被理解成是由比特表示的狀態數的系統,比如53個量子比特計算機的2^53個狀態。這可能說明,我們可以通過創建特別多的狀態位,也就是使用量子計算來解決NP完全問題——也就是大力出奇跡。但不幸的是,目前我們無法證明量子計算機能夠充分操控這些狀態位,也就是不知道使用什么算法來解決NP完全問題,在這個角度上,這個問題已經超出了Grover的算法限制。



      9

      復雜性更新
      自從2009年以來,我們在高效計算理論方面取得了一些重大的進展。雖然這些結果在解決P和NP方面沒什么幫助,但是它們可能從一旁幫助理解相關的問題,并且啟發后世的一些研究發展。
      圖同構
      一些NP問題無法表征為P(有效可解)或NP完全問題(與Clique問題一樣難的問題)。我們之前討論過的最著名的整數因式分解仍然需要指數級的時間來求解。對于另一個這樣的問題,也就是圖同構問題,我們最近看到了一些戲劇性的進展。圖同構問題是指,人們可否找到兩個圖在統一表示下完全相同。具體舉例來說,就像在Facebook中,當我們給定了兩組1000人,我們能否將他們映射到另一個組中,在那個新組中好友的關系不變。(小A和小B是好友,在另一群人中A’和B’也是好友)
      這個圖同構的問題在80年代中有了一些理論上的證明。在80年代,有人用交互式的方法證明了圖同構問題不是NP完全的,而且它其實不是很困難,在一些實際的情況下,使用啟發式的方法也能快速找到解決答案。盡管如此,我們仍然無法找到一個能夠在所有場景中都快速找到解的算法。Laszlo Babai在2016年對該問題進行了深入研究,并發表了一種用于圖同構的多項式時間的解決算法。簡單來說,P中的問題在多項式時間內如果可以得到解決,也就是對于某個常數k,復雜度是n^k,其中n是輸入的大小,比如每組的人數。擬多項式時間算法在時間n^(logn)k內執行,只比多項式時間差一點點,但起碼比我們預計的NP完全問題所需要的2^n^ε的復雜性好的多。
      Babai的證明結合了組合學和群論,是一個非常棒的工作。雖然距離讓這個算法能夠在多項式時間內執行完還有些遠,但是Babai提供了一個重要的理論結果。這在P和NP完全問題之間取得了一項重大的進展。
      電路設計
      如果NP在完整的電路設計的基礎上(也就是與或非門)沒有最小的電路,那么就不存在P=NP的解。雖然在1980年代的電路發展黃金年代中,沒有明確的證明否定P=NP的假設。在2009年的各項調查中,也說明在過去20年中,電路復雜性也沒有取得重大的成果。在1987年,Razborov和Smolensky證明說不可能用與或非和Mod_p門的恒定深度電路計算某些固定素數p的多數函數。但是對于帶有Mod_6門的電路來說,我們幾乎無法證明這個結果。即便是我們可以證明NEXP(NP的指數時間版本)無法通過與或非和Mod_6門的小型、恒定深度的電路進行計算,P和NP是否相等的問題在幾十年見也仍舊無法得到解答。話說回來,恒定深度的電路在理論上被認為是具有很弱的可計算性的,我們在這些年一直沒有取得實質性的進展,在電路的算法最新產出上的無人問津也側面證明了這個現象。
      在2010年,Rayan Williams表明NEXP確實不具有那些使用Mod_6或其他Mod門一樣的恒定深度的電路。因此,他創造了一種新的技術,使用可滿足性算法進行解決。這種算法的實現下界比嘗試所有可能,或者使用一些復雜性工具來暴力實現來說要好一些。后來,Williams和他的學生Cody Murray進行了進一步的研究,結果表明,可以在任何固定的沒有帶Mod_m門的小的恒定深度的電路中,都有非確定性擬多項式時間的解。然而,證明NP沒有任意深度的小回路這個問題,仿佛仍然遙不可及。
      復雜性的反擊?
      在2009年的那篇綜述中,我在名為“新希望”的章節中討論了一種新的幾何復雜性理論方法,這個方法基于Ketan Mulmuley和Milind Sohoni開發的代數幾何和表示論來攻克P和NP問題。簡而言之,Mulmuley和Sohoni創建了高維的多邊形空間,以在NP的代數版本中找到P和NP的映射,從而在這個空間中重構、理解并解決該問題。他們的一個猜想中,假設多邊形包含某個表示理論對象的特殊屬性。在2016年,Peter Burgisser、Christian Ikenmeyer和Greta Panova從理論上證明了這種方法是不可能滴。
      雖然Burgisser和Ikenmeyer、Panova的研究成果否定了GCT分離P和NP的方法,但是并沒有將這種實驗方法和思路進行否定。人們仍然可以根據這種表示理論對象的數量創建不同的多邊形空間。盡管如此,我們還是無法孤注一擲的認為多邊形方法能夠在不久的將來解決P和NP的問題。



      10

      不可能的可能性
      當我們反思P和NP問題時,我們看到這個問題有很多不同的含義。P和NP的數學正式定義仍然是它的官方定義,雖然很冷冰冰但是含義最為完全。而且能夠解決這個數學問題的人還能給你的到數百萬美元的賞金不是嗎。
      有時候,我們雖然可以通過可計算理論、電路、證明和代數幾何等工具看到解決P和NP的方法,但是目前沒有能夠完全解決P和NP問題的有力方法。從這個角度上來說,我們正在抽象P和NP問題到一些領域中,降低了它的難度,也就是距離原問題越來越遠。
      在現實生活中,我們也有很多秉待解決的實際NP問題。在1976年出版的經典著作《計算機與難處理性:NP完全性理論指南》一書中,Garey和Johnson舉了一個倒霉的員工的例子,他老板讓他去解決一個NP完全優化的問題。最終的時候,這個員工苦惱地找到老板說,我實在沒轍了,找不到一個有效的算法來解決這個問題,而且不光是我,這個世界上不管是比爾蓋茨還是沃茲尼亞克都束手無策。書中說,這個老板不應該解雇這名員工,因為沒有其他的人能夠解決這個問題。
      在P和NP的早期,我們將NP完全性視作障礙。這些是我們無法解決的問題。但是隨著計算機的發展和進步,我們發現可以通過啟發式與暴力計算的組合,在很多NP問題上取得很好的進展。在Garey和Johnson的故事中,如果我是老板,我可能不會解雇那名倒霉的員工,而是建議他使用一些新的方法,比如混合整數編碼、機器學習以及暴力搜索的方法進行破解。NP完全意味著不可能,這個想法其實已經out了,它的時代也已經成為過去式了。NP完全,只是意味著可能沒有始終有效和可擴展的算法而已,但是問題,還是有可能被解決的。
      在我2013年發表的P和NP的書中,我有一章名為“美麗新世界”的文字。我在其中提到了一個理想化的世界,在那里,捷克數學家證明了P=NP,從而為所有NP問題提供了一種非常有效的解決算法。雖然我們不會也可能永遠不會生活在這樣的理想世界中,但是隨著醫學的進步,隨著虛擬世界、元宇宙等新概念的崛起,P=NP這個古老的美妙話題似乎也不再遙不可及。
      但是,話說回來,我們正在朝著幾乎能夠顛覆P=NP問題思想的方向大步前進。與其一直將其視為算法的障礙,不如去想象P和NP的解決之道,在其中探索一些新的方向,發掘出其中不可能的可能性。
      原文鏈接:https://cacm.acm.org/magazines/2022/1/257448-fifty-years-of-p-vs-np-and-the-possibility-of-the-impossible/fulltext

      雷峰網(公眾號:雷峰網)雷峰網


      P vs. NP 五十年:AI正在解決不可解問題

      分享:
      相關文章
      當月熱門文章
      最新文章
      請填寫申請人資料
      姓名
      電話
      郵箱
      微信號
      作品鏈接
      個人簡介
      為了您的賬戶安全,請驗證郵箱
      您的郵箱還未驗證,完成可獲20積分喲!
      請驗證您的郵箱
      立即驗證
      完善賬號信息
      您的賬號已經綁定,現在您可以設置密碼以方便用郵箱登錄
      立即設置 以后再說
      主站蜘蛛池模板: 毒医肥尸电影未删减版在线观看| 小舍得电视剧全集免费| 簧色电影| 《初恋时间》1-6全集免费观看| 电锯人免费观看完整版| 斗罗大陆146集在线观免费观看| 以爱为营1-30集免费观看| 清落电视剧免费观看高清完整版| 需要爸爸播种子第一季2集| 三傻大闹宝莱坞电影| 动感之星 小玲 全集 | 猪猪侠之超星萌宠3| 日剧《卖房子的女人》| 女员工的滋味2中文| 羞辱上司无删减在线观看| 新金平瓶梅2| 合租男女1v1h| 湿润的继拇HD中文3| 女超人(满星版)麦乐迪在线| 中国机长 下载| 高清街头顽童| 爱上女主播韩剧国语| 信号韩剧在线高清观看免费全集| CHIUTSE中老年女HD| 斗罗大陆171| 洗冤录1国语高清在线观看免费| 刘老根3在线观看| 一起愁愁愁免费观看完整版电视剧HD | 女超人电影完整版免费观看麦乐迪| 良医第一季在线观看免费完整版 | 鬼灭之刃游郭篇免费观看| 森林狼vs火箭| 《和讨厌的部长出差旅》日本| 郭峰歌曲| 新电影2013上映| 致命对决 电影| 激战丛林3免费观看| 翁虹版《一代妖后》| 播放泰罗奥特曼| 美姊妹赤板栗中字完整版| 啥事佩奇| 新来的瑜伽老师完整版视频| 深海利剑电视剧| 电影《越南女兵》免费观看| 仙剑奇侠传三| 赤桥下的暖流完整版| 需要爸爸的种子电影| 李茂换太子电影在线观看| 电视剧爱情睡醒了| 哭悲在线完整观看| 诱人的飞行 迅雷下载| 电影《牙医姐妹》正片| 愤怒的小鸟2在线观看| 地道战全集| 蜜桃成熟时2在线看| 68威士忌在线观看| 渔夫妻子意大利| 王爷追妻忙:王妃要和离全集免费| 绝望写手 第五季| 犯罪娇妻在线电视剧免费观看中文版| 《法国空乘4》免费播放| 奇妙的朋友 综艺| 普通话版1-5集在线观看| 电视剧《福贵》在线观看| 《新员工入职秘书2》免费| 乡村爱情8部全集| 电视剧夫妻密码| 我的xl司令第一季全集| 临时保姆免费观看| 官方回应一餐厅致多人腹泻1人死亡| 女超人法国版有字幕吗| 魔物娘的医生| 海口市| 敦煌夜谭2| 超级司机凌杰| 修理工的性爱手机在线观看| 家常菜电视剧全集在线观看| 徒弟爱上师母是什么电影| 飞屋环游记中文版免费观看| 麦乐迪-女超人| 眷思量免费观看全集| 想要父亲的种子电影在线观看| 捷德奥特曼中文版全集免费观看| 霍元甲电视剧1983老版| 杯水情歌歌词| 我的罪恶人生在线观看| 玉骨遥电视剧40集全免费观看| 女人和女人| 红毯先生免费版完整在线观看| 十分十二寸| 女超人麦乐迪无删减版免费在线观看| 无声蛙鸣免费观看全集完整版| 高压版女子监狱满天星| 天若有情3粤语| 乳房按摩电影| 总统夫人电影| 姐姐的朋友5在完整4视频带翻译| 激战丛林珍妮原版播放| 甄嬛传51集| 我在万界收废品| 激战丛林在线观看免费完整电影| 大鲨鱼电影| 东京塔之越南女子别动队在线观看 | 沉香如屑免费观看| 可不可以韩国电影完整版| 凶手的样子电视剧免费观看 | 战狼9欧式少女在线观看全集高清美国| 上锁的房间在线观看免费高清| 女教授隐藏的魅力| 保姆的特殊待遇2| 青草青青视频| 啦啦啦中文日本免费高清完整版一| 91密桃| 山炮进城| 男女生一起愁愁愁电视剧在线观看 | 带上婆婆嫁| 我想和你好好的 下载| 《冢本战争》免费观看中文版| 小猪佩奇故事全集免费听| 日剧《和部长一起去出差旅》中文 | 抢钱女王团全集观看| 水润女人刘志贤全集剧情介绍| 爱情公寓3下载mp4| 介休市| 方德与苗翠花粤语| 高清《雨天》谍战片免费观看| 总统夫人在线观看罗丽星克莱尔| 四个服从指什么| 我的父亲母亲免费观看全集| 《花子VS倔强驱魔师》在线观看人面犬 | 后宫露营第一季未增减 0.0| 泰剧在线| 韩剧火鸟下载| 日剧《家庭教师上门拜访》 | 战至巅峰第三季2024年播出| 天海翼播放| 新金瓶梅全集| 心里的声音 迅雷下载| 男女一起愁愁愁免费观看91| 日本激情后厨| 雪花神剑国语| 木下檀檩子点外卖的电影| 卿本佳人 迅雷下载| 电视剧大秦赋| 黄色伦理片善良的同学欧美片 - 百度 | 江山美人 电影| 白上之黑在线观看完整版| 法医秦明| 母亲3韩剧国语版| 莫妮卡爱我几何完整版在线| 《插曲30分钟在线观看》| 黑寡妇的电影| 快餐车免费| 断箭电视剧免费高清完整版在线观看| 妈妈打女儿原图| 天降女子动漫| 盗墓笔记藏海花| 小蜜桃逃6完整版 | 法国空姐6电影在线观看完整免费高清原声麻将胡了 | rrr80| 爱丫爱丫电视剧免费高清| 无敌视频在线影院| 小爸爸电视剧插曲| 需要爸爸播种子美国| av收藏之家| 小小水蜜桃电6视剧观看| 免费观看回复术师的重启人生| 插曲的痛60集全免费观看| 欢乐颂5| 法国满天星电影在线观看完整免费高清原声 | 《重逢在雪落之前》短剧| 寂寞的人妻水电工维修| 汪苏泷哭的样子| 樱桃在线观看免费全集高清完整| 黑白配1080p国语版在线观看| 你好旧时光电视剧| 长安三万里免费观看高清完整版| 电影网免费观看高清完整版在线岳爸爸需要播种子| 女人我最大下载| 美食的俘虏110| 火山口的两人| supergirl麦乐迪完整版| 谷村新司星歌词| 一念永恒187| 孤独一掷在线观看免费2023| 需要爸爸的种子 在线追剧| 翁虹《情愫》| 林青霞白发魔女| 绝世网红韩剧| 金银悔1-5国语版免费看| 夺子战争全集| 食为奴粤语| TOTAKKAHayaKirguzux在哪听| 太阳之歌女主角| 七彩云端APP下载安装| 刀郎颠倒歌| 电视剧他是谁在线观看免费完整版| 眼前人心上人短剧免费观看| 神探1900电影免费观看| 法医追凶| 搞笑一家人第二部| 法国高压监狱伦理片| 我的另一面土耳其电视剧| 坎贝奇三部曲免费无删减在线观看 | 女海盗2电影美国版| 女老师电影正片| 《战狼6》免费观看| 喜洋洋之灰太狼飞马奇遇记| 出差和讨厌的社长同住最可恶的部长 | 农民伯伯下乡三级片| 满江红在线观看免费观看完整版| 梨花雨诱捕女毒贩的原文和译文| 山寨小萌主在线观看| 胭脂雪大结局| 电视剧艰难爱情| 不良义姐第一季在线观看免费全集高清| 整蛊王国语版在线观看| 荷尔蒙6完整版免费看| 西游降魔篇 影音| 坎贝奇三部曲免费无删减在线观看 | 诺亚方舟:创世之旅| 契约婚姻:总裁爱上我全集免费| 《部长来家吃饭》| 一线生机 电影| 电视剧热播剧大全| 财神客栈| 高冷搜查官白峰美羽遇上猪队友| 《蓝帽子》朴亚珍| 善良的嫂子2 电影| 至尊无上| 铁石心肠2| 电影那小子真帅| 美国禁忌结局- 3| 同志帅哥| 宇佐美舞| 武契奇收到死亡威胁| 哪咤之魔童闹海在线观看完整免费| 新加坡战争2011很差导演:彭禺厶主演:金九拉 金利娜 李硕薰 GREE简介:主角Sara | 电视剧长安十二时辰| 工作女郎韩国电影| 水手服饲育电影高清完整版在线观看| 酒店1-75集全集在线观看| 阿坝一家人电视剧在线观看| 神与律师事务所未删减| 大山里的幸福:知青媳妇全集免费 | 因为爱情有| 满天星麦乐迪| 边境大逃亡完整版免费观看| 龙虎山张天师电影在线观看| id002经典热门电视剧在线观看 | 当我的指尖触碰到你温度时| 松岛葵超级兴奋朋友的| 我们俩的婚姻全集| 大型观赏鱼缸制作| 《房屋销售员》免费观看| 1986版乌龙山剿匪记免费观看| 女婿回乡全集免费看| 愈合伴侣 电影| 唐宫美人天下迅雷下载| 妻子游泳教练HD中字| 太平年电视剧免费观看| k8s经典手机经典版免费观看| 底线电视剧免费观看完整版高清| 葡萄成熟时免费观看| 《落魄贵族琉璃川》免费动漫| 女子10米跳台决赛直播在线观看| 扫黑风暴免费看| 就是这样 电影| 人皮灯笼qvod| 美丽小蜜桃3:美丽人生,优酷| 2025《哪吒3》在线观看| 《义子侵犯》完整版| 《公主骑士是蛮族的新娘》| 下一站婚姻免费完整版在线观看| 凯登克劳斯电影大全| 高清《妥协》短剧免费观看| 贝拉1980| 僵尸道长第一部国语高清全集| 她来自胡志明市电影| 隐形的帽子在线观看| 猎狐电视剧全集在线观看| 韩国综艺节目runningman| 100分的吻微电影| 墨西哥剧瓜达卢佩的玫瑰免费观看 | 巜交换上司的秘书3中字| 瓜瓜是谁的儿子| 成全免费观看高清电影大侦探 | 潘金莲1-5| 春情荡漾| 河北区| 幻影英雄| 《图书女朋友》动漫免费观看全集| 你是迟来的欢喜全集免费观看| 《金牌销售的秘密5》| 爱很美味电视剧免费观看| 《越南暴行2》| 与外婆同行| 电影《牙医姐妹》1986版在线 | 沙鹰行动| 仙逆在线观看全集完整版高清| 三十而已| 漳州市| 肥田喜事全集| 家产争夺:我是继承人短剧全集| 打黑电影释小龙全集免费播放| 秘女搜查官波多野结衣| 中国刑警电视剧| tobu4免费| 至尊红颜贾静雯| 白莲花度假村第一季| 美男高校地球防卫部love| 南京!南京!免费| 《迪拜的女孩2满天星》在线观看| 一代名妓苏小小| 《女超人:麦乐迪》| 雾岛奈美津| 俘虏之锁~处女们淫秽的束缚~| 行尸走肉三季全集16| 阿ben 长发妹| MFK0045 妈妈的职业2 yy8ycom | 少儿拉丁舞教学| 高清《老师好》全集免费观看| 《模特》电影完整版| 妻子八| 抖音官网网页版| 孽恋狂情| 扫黑行动 电影| 甜蜜的鞭子| 高压监狱1小时45分是什么意思| 坐火车旅行电影| 日剧渣男前任求复合| 车票 电影| 《周四推理俱乐部》| 魔道祖师全集免费观看高清| 《她被搬运工侵犯》在线| 破产姐妹 第三季| 神奇的美发沙龙| 隔壁邻居电影| 咱们结婚吧在线观看| 《史前女儿国部落3》| 包法利夫人完整版在线观看电影| 唐山绝恋| 名侦探柯南626| 年年岁岁年年电视剧| yy6680| 藤原纪香《妻子的秘密》电影| 魔童降世在线观看| 广场舞玫瑰花开| 香港奇案| 爱唯侦察偷拍| 单身公寓电视剧| 变种dna| 夸家乡的日记| 流氓大亨粤语| 凯登克罗斯最经典10部电影| 斗罗大陆209| 《玛丽!玛丽!》满天星在线观看| 女职员的付出5中字| 斯巴达克斯第5季第10集下载| 水电工艳遇| 底线 电视剧| 当你沉睡时ost| 国家机密电视剧| 今夕何夕电视剧免费观看完整版| 与凤行电视剧免费观看全集完整版| 铁猴子传奇之怒火狼牙| 十二生肖粤语完整版| 与讨厌的部长一起去出差旅被下药 | 我的不良义姐动漫第2集免费| 南京!南京!免费| wwwbbb565com| 真实real| 台湾卖房女销售| 人间中毒 无删减 在线高清| 韩剧高清视频免费观看| 半夜被C醒是一种什么体验| 大雨天和驾校教练在车里| 好姑娘1免费观看完整版中文| 张卫健西游记国语| 公安县| 聊斋艳谭五通神| 法国大兵的寝室| 解语花电影完整版在线| 酒店1-5集免费观看| 女人魂免费观看| 妈妈的职业免费| 大明风华1-62集免费| 小鲤鱼跳龙门电影| 捆绑凌虐BD中文字幕| 陈情令电视剧在线观看免费版全集 | 妈妈的职业5观看全集免费| 电视剧错爱1| 妈妈的学生5字ID| 美食天王| 音乐僵尸 电影| 《房奴试爱》| 海贼王480| 银鞋在线观看完整免费高清原声满天星 | 周香允在线观看| 需要一半留下一半打一字谜| 桑德拉·拉索《满天星》女店主 | 前任2 备胎反击战| 王的女人共多少集| 啄木鸟满天星瓜达卢佩的玫瑰 在线观看| 李茂扮太子电影在线观看| 谢谢你温暖我演员表| 坎贝奇品味人生电影在线观看| 61集天乩之白蛇传说免费观看| 高清《朱音落语》电视剧| 需要爸爸来播种在线观看| 素食主义者电影| 飞行的绣感| 肉食日未删减| 战狼6免费观看在线播放下载高清| 停用人造反式脂肪| 喜欢就好dj| 周家日常1v2林楠| 全职高手第二季第八集| 满天星《瓜达卢佩的玫瑰》电影免费| 郊游 电影| 致命弯道六| 长津湖高清完整在线观看| 女教师与黑人3在线观看| 中华丈夫| 初体验5第一季免费观看| 暖暖的味道| 无憾坎贝奇在线观看全集免费| 《唐朝诡事录》免费观看全集| 银河奥特曼免费观看完整版中文版 | 底线 电视剧| 《金牌销售》1| 芹叶铁线莲| 侏罗纪公园3 电影| 《麦乐迪女超人》正版在线观看| エロください资源| 新白发魔女传奇| 《斗罗大陆》在线观看免费| 乡村爱情9在线观看| 《隐形帽子》完整版| 三亚孙静雅| 罗马的房子在线观看| 美容院的特殊待遇在线| 杀破狼2 2015 电影| 杰克逊月球漫步| 姐姐真漂亮4韩剧免费观看| 二龙湖爱情故事2免费看| 部长出差的日子电影| 爱情公寓 第三季| 老丁是个生意人| 酒店激战第1-5集免费观看伊丽莎白尖叫 | 冢本监督昭和系列越南女子别动队在线观看完整版 | 侏罗纪世界重生| 插曲的痛30集全集观看免费| 天使降临| 天地粮人电视剧| 隐形的帽子电影完整版| 婚前试爱在线观看完整电视剧免费| 大江大河电视剧| 抽曲的痛免费观看完整版海外| 遮天 全集| 你的婚礼免费观看| 高清街头顽童| 黑帮少爷爱上我 第七集| 南漳县| 我会好好的电影免费观看 | 夫人的嘴唇全集在线观看免费| 太空部队第二季| 愈快乐愈堕落粤语| 美姐妹内牙医| 燕窝多少钱一斤2023年价格| 电视剧战北平| 世界第一初恋第二季10| 龙之心2| 年经年经母年经3| 燃冬电视剧在线观看完整版免费| 大宋少年志2结局| 欧美成人版电影荣誉守则在线观看| 剧组的故事| 电影报道| 疯狂二人荷尔蒙爆发原声| 电视剧我是你的眼| 天下第一演员表| 《小凤新婚》电影免费观看国语| 圣斗士星矢冥界篇| 汪汪队立大功第9季全集免费| 双女任务高清完整版在线观看| 裙子里面有神兽| 英雄黄海冰| 卖房子的销售电影| 哥哥的老婆电视剧在线观看全集免费| 世界杯巴西对克罗地亚| 曹查理《浪蝶狂花》电影| 新乌龙山剿匪记免费观看完整版| 弹幕记忆| 怦然心动第三季全集免费观看| 漂亮的女邻居2做爰| 鸳鸯村的故事| 轮到你了短剧合集| 司藤电视剧免费观看全集| 战狼6大妈免费观看高清版| 轻狂3免费观看| 北化录取通知书能切西瓜不怕火烧| 女律师的坠落未删减版观看 | 非常人贩3高清| 用快播看h| 插曲的痛全集免费观看高清版中文字| 加菲猫大电影2024国语版| 新激情五月天小说| 张绍刚骂撒贝宁| 每逢国庆思佳婿短剧免费观看| 天使公主| 机械密封原理| 北京遇上西雅图海清| 壹号皇庭3国语版| 白衣绳索牙医生| 斗罗大陆175免费完整观看| 徐孺子年九岁 尝月下戏| 麻花传剧原创mv免费播放天美影视| 紧扣的星星动漫| 我的xl司令第2季无马赛免费播放全集 | 两个人的世界在哪看| 日韩激情小说在线观看| 我的遗憾和你有关| 二十四史白话文| melody makes《女超人》免费播放 | 画皮2电视剧全集| 插曲的痛全集免费播放电影| 《法国空乘5在线看| 平潭县| 假面骑士555国语版| 卢靖姗顺产36小时生下女儿| 激战丛林手机在线观看 | 铁血柔情短剧免费观看完整版| 柔铺团之极宝乐鉴宝鉴电影在| 莫斯科恐袭嫌犯坐轮椅出庭| 权利的游戏第一季无删减| 《瓜达卢佩的玫瑰》全集| 电视剧《人世间》| 海晏县| 《真理与背叛》| 苏有朋春晚| 凯登克罗斯大合集在线观看免费全集 | 兄弟车行 百度影音| 木下之影| 满天星女版黑鹰坠落2免费观看| 立春蒋雯丽| 王跃文国画| 法国《古墓丽影》| 扫黑风暴2021免费播放| 塔河县| 监狱医生| 活佛济公3迅雷下载| 反击电视剧全集在线观看| 欧少女16集全怎么看| 我不知道的妻子的真相貌| 青岛往事全集在线观看| 虎胆龙威4高清百度影音| 咱们结婚吧免费版电视剧| 花琉璃电视剧免费观看完整版高清| 激情从林9| 一个女孩和一个男孩| 移情别恋电影在线观看| 快递员的特殊待遇| 天后手册短剧免费观看 | 女按摩师2004未删减版| 新白蛇传奇| 电视剧神隐在线观看| 明星| 《半路夫妻》结局| 国产精东剧天美传媒影视林凤娇| 电影美容院特殊待遇观看| 驱魔人百度影音| 铁面歌女电视剧全集免费播放 | 满天星《背叛》| 绝品邪医的桃花劫短剧免费观看| 哈尔滨市| 白夜破晓| 陶笛天空之城| 插曲的痛30集全免费观看中文版 | 灰姑娘鬼虐杀| 女儿再原谅我一次| 美味的快递2| 美版《卻望》在线观看| 一起来看流星雨电视剧| 正在播放: 解决学生的性爱烦恼不穿内衣裤的美波老师硬硬教学 _美波汐里 - 91n | HR版女版壮志凌云观看| 第七套广播体操下载| 经典兔子舞曲| 酒店1-75集| 徐子尧歌手百科| 雨神黄大仙国语在线观看| 今日之时| 郝板栗电影全集在线看| 我的丑爹全集| 雪中悍刀行第二部32集在线观看| 《大兵的寝室》电影完整版在线观看 | 当代弃少短剧全集| 我的中国心 伴奏| 无心法师3在线观看免费完整版| 《新人律师法国满天星》还叫什么名| 女女女女女女女女| 妈妈的秘密大结局| 台湾黛比浪漫女家教在线观看飘花影院| 天龙八部舒畅第几集| 女员工的特殊待遇电影| 建议取消强制自动续费| 超级教师3免费更新集数 | 罗丽星克莱尔总统之夜在线观看| 初二数学难题| 爱你千万次| 私人航空在线观看免费| 星空恋人电视剧| 聪明的一休国语版免费观看| 聊斋连锁| 上春山简谱| 极情从林| 甄嬛传11集| 电视剧三生三世在线观看全集| 欢喜冤家 江苏卫视| 日本年经的继拇2| 全面追缉令| 假面骑士ooo剧场版| 大陆渔船金门外海翻覆5人落海| 黑帮的我成了高中生电视剧免费观看| 肉欲横流| 我的女神室友| 满清十大刑酷 快播| 完美搭配| 猎物电影| 按摩5个混血儿| 聊斋之流光情劫完整在线观看| 只手遮天古惑仔完整版| 红高粱电影| 电视剧时尚女编辑| 盲井电影完整版| 日本混血大学生体验按摩电影| 人生若只如初见解释| 湔雪的魔女| 天海冀| 海边的异邦人 电影| 大侦探福尔摩斯电影| 公之浮手中字在线观看| 不一样的男子| 武林外传电影版快播| 1980法国空乘在线播放| 《布里奇顿 第四季》| 高清爆弹未删减| 公交车免费观看完整版电视剧| 不日成婚| 韩国少妇厨房激情做爰| 理发店韩国宋智考| 解药动画片全集在线观看 | 女人电影| 鄂州父女瓜完整版| 美国版本女儿国电影| 一吻巴黎| 大宁县| 青柠在线观看高清电视剧荣耀配音| 龙器电视剧在线看免费观看| xl司令在线观看免费高清全集| 必胜奉顺英国语版| 金鸡sss国语| 电影白鹿原完整版播放| 泰国租妻价格| 《OverFlower》无码| 电影《寡妇村》海外版| 杜拉拉之似水年华下载| xl司令在线观看免费高清全集有广告| 全职高手9高清樱花动漫免费观看| 金庸武侠电视连续剧免费观看| 小瘦子2国语版免费观看优酷| 棋士电视剧免费观看| 傲斗凌天v20| 和部长出差旅电视剧免费观看 | 《农场保卫战》满天星法国| 洗濯屋免费观看| 青春失乐园2完整版| 安斋拉拉出演的电影| 骚人视频| 魔力宝贝监狱免费观看 在线| 贵州凯里爆炸案| 你比星光美丽电视剧免费观看最新| 《梦幻军事基地》免费观看| 张靓颖 奥普拉| 《黎巴嫩》| 黑白配免费观看高清播放| 和讨厌的部长一起去出差旅行电影叫 | 暴躁46集全全免费播放| 动画片美猴王全集| 天地姻缘七仙女高清| 妙手电视剧| 女保镖满天星免费观看| 《玉女心经3》高清电影在线观看| 少年包青天1高清| 王的女人下载mp4| 美女餐厅2修改器| 和部长一起去出差韩国电影叫什么| 《花与罪》| 红太阳幼儿园事件| 欢乐颂3免费观看| 蜜桃成熟时高清版| 性解密野牛影院| 电视剧大河儿女| 倚天屠龙记 邓超| 《小唐璜情史》| 好色特工队iv| 《法国航空3》电影| 指尖传出的真挚热情第一季| 扫黑风暴第十集| 现在就出发 第三季| 魔鬼恋人8| 电影乃雀主演| 金瓶梅3d国语完整版| 百家讲坛刘心武揭秘红楼梦| 刷子李课件| x的天使| 朝国年经继10免费版播放| 瓜达卢佩的玫瑰在线观看免费版| 欲情惊潮下载| 小鹏奇啪行| 三十而已在线观看免费| 台湾师生恋《补课》电影是什么电影| 李彩谭的电影全集在线看| 男女愁愁高期| 女神闻异录| 郝板栗《千金小姐》免费观看在线观 | 暴躁46集全全免费播放| 郑州海洋馆潜水员溺亡| 摄政王宠妃:掌心娇美人全集免费 | 楼下女友请签收在线观看免费| 漂白在线播放| 别墅轮换3攻略免费观看电视| 明天我不是羔羊电视剧| 刺客伍六七第5季免费观看| 花仙子动画片全集| 冀天海免费观看| 神墓电影免费观看完整版高清| 带领村民奔小康:返乡创业全集免费 | 战狼6高清免费观看入口| 空蝉之森电影完整版在线播放免费观看| 撒贝宁原名叫啥| 美女拍拍| 高清代号巴德未删减| 古墓丽影满天星在线观看完整免费高清| 金银梅2普通话版免费观看高清| 九重紫电视连续剧免费看| 黄飞鸿新传| 武则天电视剧全集| 楚剧大全| 《千金小姐》在线观看| 张柏芝无极| 人与野兽免费观看全集完整版| 烟火人家电视剧简介| 大侦探福尔摩斯1在线| 爱你几何莫妮卡原版| 甲种公牛在线观看| 突然的喜欢在线观看免费完整版| 囧妈初一上线免费播出| 三级片爸爸帮我播种子| 你是我的眼 毛宁| 大平调张三李四| 酒店1-90集高清免费观看| 好想好想和你在一起| 《爵迹》| 足球宝贝法版高清观看| 浪漫满屋泰国版| 十九岁韩国免费观看动漫| 捉鬼敢死队女版满天星在线观看| 第一次亲密接触演员表| 喜盈门电影免费播放| 哇嘎全部高清在线观看| 人皮日记| 大宋少年志1免费观看| 寂寞护士公与媳| 野鸽子电视剧全集30| 高清《年轻的女仆》在线观看| 短剧《焚心》免费观看| 《我的大胸继拇》3| 《部长出差的日子》韩国电影| 《跛豪》粤语完整版在线看| 斗罗大陆178集| 老炮儿在线观看| 丛林肉搏| 暖春电影高清| 烽火连城诀电视剧全集在线观看| 《公的浮之手中字》| 地狱里的天堂在线观看完整版| 电影《军中乐园》| 加油亚当君| 八戒八戒10在线看免费观看完整版| 1976农场主三个女儿中文版| 穿越火线36集| 飓风营救1完整版在线观看| 韩素希《以吾之名》| 空蝉之森有人看过没有| 神探王妃:破案超神全集免费| 武神赵子龙电视剧| 启示录2| 大兵的寝室线观看兵的寝室| 陪你逐风飞翔电视剧免费观看23| 《狂飙》免费策驰影院| 需要爸爸的种子在线播放| 美食的俘虏110| 三年成全免费观看大全电影| 蓝色隐形帽子完整版| 依然绿茵的日子韩剧在线观看| 魔道祖师动画| 假面骑士利维斯中文版| 农场保卫战在线观看| 蜜蜂落在日历上| 交个朋友的直播间| 温柔的诱惑电视剧免费完整版 | 雾都猎狐| 满江红电影张艺谋免费观看?| 《肉蔻之香法版》| 借兵粤语| 《灭火宝贝》在线观看| 1986《牙医姐妹》电影免费| 恋爱暴君ova2下载| 冰雪奇缘1普通话版| 波多野结衣torrent| 奇怪的美容院2| 异人君莫邪第一季在线观看| 长津湖高清完整在线观看| 木府风云39集| 赤子板《姐妹牙医》在线看| 《影》动漫免费观看完整版| 小蜜桃4| 宁安如梦免费| 《印尼空姐》免费观看完整版高清| 骑士动漫| 高清《杀戮天使》免费观看| 中国好声音第四季冠军| 高级女特工理伦片在线观看大全| 利刃出击在线观看| 杨贵妃传| 宁陵县| 铿锵锵锵锵锵锵免费观看!| 岁岁青莲电视剧在线观看| 风火雷电破手势图解| 动感小站动感之星第134集妖精大结局| 星方天使| 秋蝉免费全集| 大山的女儿全集免费播放在线观看| 三年大片国语版在线看| 电影蝎子| 笑红颜 电视剧| 斗破阴阳宅电影免费观看| 壮志凌云女版(H)| 超市找东西| 正方体怎么画|