• <track id="oztn4"></track>
    <sup id="oztn4"><form id="oztn4"></form></sup>
    
    
    <mark id="oztn4"></mark>
  • <dfn id="oztn4"><samp id="oztn4"></samp></dfn>
      《地爆天星小姐》电影 ,麦子交换2免费观看2023年上映时间表 ,莫妮卡《爱我几何》,大牛影库战狼6欧式少女全部视频,三年大片国语版在线看,日本空姐电视剧,电影魔镜号中文字幕,和部长一起去出差旅是第几集
      全球「AI學(xué)術(shù)頂會(huì)」精華匯聚地
      您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號(hào)安全和更好的產(chǎn)品體驗(yàn),強(qiáng)烈建議使用更快更安全的瀏覽器
      此為臨時(shí)鏈接,僅用于文章預(yù)覽,將在時(shí)失效
      人工智能 正文
      發(fā)私信給高秀松
      發(fā)送

      0

      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      本文作者: 高秀松 2022-05-30 14:13
      導(dǎo)語(yǔ):聯(lián)邦學(xué)習(xí)、碳中和等熱門研究方向均與群體智能相關(guān)。

      自然界中,「螞蟻覓食」是一種尋常但奇特的現(xiàn)象。

      成群結(jié)隊(duì)的螞蟻,總是能夠在食物與蟻巢之間尋找到最佳路徑,快速地將食物搬運(yùn)至蟻巢中。這引起了生物學(xué)家的廣泛注意,在經(jīng)過(guò)多次研究實(shí)驗(yàn)之后,他們發(fā)現(xiàn):

      螞蟻在尋找食物過(guò)程時(shí)具備隨機(jī)性,沒(méi)有固定的方向和目標(biāo),但只要有一只螞蟻發(fā)現(xiàn)食物,這只螞蟻在搬運(yùn)食物回巢時(shí),就會(huì)留下一種微弱的氣味,即一種叫做「信息素」的物質(zhì)。其它螞蟻會(huì)沿著該氣味尋找到食物,然后再次留下氣味蹤跡。最終,越來(lái)越多的螞蟻加入其中,形成了一條最優(yōu)化的路徑。

      這種特性讓螞蟻在覓食行動(dòng)中,群體的效率遠(yuǎn)高于個(gè)體,不需要浪費(fèi)更多的時(shí)間與精力。換句話說(shuō),單只螞蟻覓食低效而低智,而當(dāng)螞蟻成群,就能爆發(fā)出一種隱形的群體智能,通過(guò)協(xié)作達(dá)到「整體最優(yōu)」

      類似的現(xiàn)象在自然界中比比皆是:大雁在遷徙時(shí)會(huì)排成陣列,在「人」和「一」中來(lái)回切換;鯡魚(yú)在面臨捕獵者時(shí)會(huì)相互「預(yù)警」;蜜蜂則擁有高效的「決策系統(tǒng)」。

      就連人類本身,也存在類似的「群體智能」:「世上本是沒(méi)有路的,走的人多了,也便有了路。」

      人們從A點(diǎn)走到B點(diǎn),起初會(huì)有無(wú)數(shù)條路徑,但最終會(huì)出現(xiàn)一條最優(yōu)的路徑,這正是人們?cè)趯?shí)踐中進(jìn)行無(wú)數(shù)次「探索」和不知覺(jué)中協(xié)作的結(jié)果。

      因此,不論是處于食物鏈頂端的人,還是諸如螞蟻、蜜蜂等低等動(dòng)物,在形成群體之后,都能爆發(fā)出一種群體智慧。這種智慧來(lái)源于群體各成員之間的「默契」與「配合」,進(jìn)而給群體帶來(lái)整體利益的「最優(yōu)解」。

      當(dāng)這些現(xiàn)象被觀察、解析之后,其內(nèi)在的群體智慧邏輯被借鑒至多個(gè)學(xué)科,例如社會(huì)學(xué)、組織行為學(xué)、經(jīng)濟(jì)學(xué)等等。

      也有不少學(xué)者將其應(yīng)用到人工智能領(lǐng)域,做了一系列研究,成果涵蓋從最初的「蟻群優(yōu)化算法」、「粒子群優(yōu)化算法」到后來(lái)的群體智能、眾包、群體計(jì)算等概念,并產(chǎn)生了比較多的應(yīng)用,如無(wú)人機(jī)協(xié)作、智能電網(wǎng)等等。

      其中,「群體智能」作為未來(lái)人工智能的5個(gè)重大方向之一(《新一代人工智能發(fā)展規(guī)劃》,國(guó)務(wù)院,2017),在學(xué)術(shù)界已經(jīng)引起廣泛關(guān)注,不少學(xué)者紛紛將「群體智能」與自身研究方向相結(jié)合,試圖以「群體智能」的視角來(lái)重新探索各種涉及到組織協(xié)作、參與者人數(shù)較多的問(wèn)題的解決之道。

      黃建偉正是其中之一。

      作為IEEE通信學(xué)會(huì)杰出講師,他于2016年當(dāng)選IEEE Fellow,當(dāng)選時(shí)年僅37歲,是當(dāng)年全球最年輕的幾個(gè)Fellow之一。官方給出的原因是,表彰其「在無(wú)線通訊網(wǎng)絡(luò)的資源管理及分配機(jī)制上的重大貢獻(xiàn)」。

      在具體研究方向上,黃建偉長(zhǎng)期專注于網(wǎng)絡(luò)優(yōu)化、群體智能和經(jīng)濟(jì)學(xué)交叉領(lǐng)域的開(kāi)創(chuàng)性研究,總共發(fā)表了7本英文學(xué)術(shù)專著,300多篇國(guó)際一流期刊和會(huì)議論文,谷歌學(xué)術(shù)總引用超過(guò)14400次。

      他的論文九次獲得國(guó)際會(huì)議和期刊的最佳論文獎(jiǎng),包含2011年「IEEE馬可尼無(wú)線通信論文獎(jiǎng)」(無(wú)線通信領(lǐng)域最重要的獎(jiǎng)項(xiàng)之一)。此外,他還曾獲得2009年IEEE通信協(xié)會(huì)亞太杰出青年研究學(xué)者獎(jiǎng)、2014年香港中文大學(xué)青年研究學(xué)者獎(jiǎng)。

      過(guò)去5到6年的時(shí)間里,黃建偉在「網(wǎng)絡(luò)+經(jīng)濟(jì)」的基礎(chǔ)上,拓展出群體智能的方向,著重探索解決群體智能領(lǐng)域一個(gè)長(zhǎng)期的公開(kāi)問(wèn)題:群智決策中如何驗(yàn)證事實(shí)正誤。

      而在群體智能這個(gè)領(lǐng)域,他的研究也深入到了聯(lián)邦學(xué)習(xí)、群智決策等細(xì)分方向,并且將成果應(yīng)用到了碳中和、交通、智慧城市等多個(gè)場(chǎng)景之中。

      近日,雷峰網(wǎng)-AI科技評(píng)論與黃建偉博士就「群體智能」這一話題進(jìn)行了對(duì)話,后者從「群體智能」的定義、研究?jī)?nèi)容、應(yīng)用、未來(lái)研究方向等多個(gè)方面進(jìn)行了深入淺出的講解。雷峰網(wǎng)-AI科技評(píng)論將其整理成文,以饗讀者。

      讓我們先來(lái)看看,什么是「群體智能」。

      1、從個(gè)體到團(tuán)隊(duì):不同研究對(duì)象的群體智能

      1992年,意大利學(xué)者M(jìn)arco Dorigo 受螞蟻覓食的靈感,在其博士論文里提出了「一種用來(lái)在圖中尋找優(yōu)化路徑的概率型算法」,即「螞蟻優(yōu)化算法」(ACO);三年后,社會(huì)心理學(xué)家James Kennedy和電氣工程師 Russell Eberhart 通過(guò)模擬鳥(niǎo)群覓食行為,提出了「粒子群優(yōu)化算法」(PSO)。

      這兩種算法出現(xiàn)之后,關(guān)于「群體智能」的研究開(kāi)始涌現(xiàn),相關(guān)論文逐年增加。

      由于這兩種算法都是受動(dòng)物覓食啟發(fā),研究的是幾乎沒(méi)有智能的昆蟲(chóng)(螞蟻、蜜蜂等)在形成整體之后,涌現(xiàn)出很強(qiáng)的智能性。因此,群體智能最早的含義,在英語(yǔ)語(yǔ)境下,被稱為“Swarm Intelligence”。

      根據(jù)Marco Dorigo的闡述,從廣義的角度看,「群體智能」指的是群居性生物通過(guò)協(xié)作而表現(xiàn)出的集體智能行為;而從學(xué)科研究的角度看,「群體智能」則指受自然界中群體協(xié)作行為啟發(fā),研究問(wèn)題求解算法或分布式系統(tǒng)理論與方法的學(xué)科。

      后來(lái),不少學(xué)者將「群體智能」與各類學(xué)科融合在一起,如社會(huì)學(xué)、組織行為學(xué)、人工智能等,來(lái)研究社區(qū)、團(tuán)體內(nèi),成員之間進(jìn)行互動(dòng),來(lái)實(shí)現(xiàn)整體收益的最優(yōu)。從這個(gè)角度看,群體智能又被稱為「Collective Intelligence」。

      「兩種說(shuō)法很多時(shí)候沒(méi)什么區(qū)別,大家也都是混用,只是從不同的角度出發(fā)而已。」

      黃建偉告訴雷峰網(wǎng)-AI科技評(píng)論,實(shí)際上,如果按照研究對(duì)象分,「群體智能」在業(yè)內(nèi)還有另一種叫法——Crowd Intelligence。與前兩種相比,Crowd Intelligence 以人為主,旨在研究大量的人如何實(shí)現(xiàn)智能決策的問(wèn)題。因而,Crowd Intelligence主要關(guān)注兩方面:

      • 組織問(wèn)題的計(jì)算化;

      • 計(jì)算問(wèn)題的組織化。

      所謂組織問(wèn)題的計(jì)算化,即將某個(gè)整體組織協(xié)調(diào)的問(wèn)題的計(jì)算變成分布式計(jì)算。

      比如,在一些網(wǎng)約車平臺(tái)上,每個(gè)司機(jī)都是獨(dú)立的個(gè)體,如何把這些司機(jī)有效地組織起來(lái),來(lái)實(shí)現(xiàn)整體資源的最優(yōu)分配,就需要將整個(gè)問(wèn)題通過(guò)去中心化的分布式計(jì)算來(lái)實(shí)現(xiàn)供需平衡。

      計(jì)算問(wèn)題的組織化,即將復(fù)雜問(wèn)題拆解為多個(gè)模塊,每個(gè)模塊由不同的單元負(fù)責(zé),最終將問(wèn)題消解掉。用比較通俗的話講,就是「大事化小、小事化了」

      引用國(guó)內(nèi)北航的兩位學(xué)者,李偉和吳文峻對(duì)于 Crowd Intelligence 的相關(guān)研究,其與 Collective Intelligence 的關(guān)系如圖所示:


      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      從圖1不難看出, Crowd Intelligence 在數(shù)學(xué)意義上屬于Collective Intelligence 的子集,Crowd sourcing(眾包,一種分解任務(wù)的方法)和 Human computation(人類計(jì)算,一種計(jì)算方式) 的交集。

      因此,Crowd Intelligence 屬于群體智能(Collective Intelligence) 的一種,這也是黃建偉的研究方向之一,后續(xù)文章提到的「群體智能」,如無(wú)特別指出,皆指代Crowd Intelligence。

      Crowd Intelligence 的研究對(duì)象以 Crowd(人群)為主,旨在通過(guò)借鑒簡(jiǎn)單類群居生物表現(xiàn)出的群體智能,來(lái)解決人類生活中面臨的實(shí)際問(wèn)題,其與各學(xué)科的交融,尤其是與AI的融合,可在多個(gè)領(lǐng)域應(yīng)用。

      聯(lián)邦學(xué)習(xí)為例:

      傳統(tǒng)生產(chǎn)人工智能模型依賴大量數(shù)據(jù),在進(jìn)行數(shù)據(jù)預(yù)處理、標(biāo)注等環(huán)節(jié)之后,在大算力的服務(wù)器上進(jìn)行訓(xùn)練,然后調(diào)參、優(yōu)化等,最終產(chǎn)生模型。

      然而在實(shí)際應(yīng)用中,數(shù)據(jù)量并不一定足夠,因?yàn)樵S多用戶出于隱私的考慮,不愿貢獻(xiàn)數(shù)據(jù)。那么該怎樣去生產(chǎn)一個(gè)復(fù)雜有效的模型呢?

      聯(lián)邦學(xué)習(xí)就是一個(gè)「群體智能」的應(yīng)用案例:用戶通過(guò)本地?cái)?shù)據(jù)做計(jì)算,然后將計(jì)算模型貢獻(xiàn)給中央服務(wù)器,進(jìn)行相互交流、調(diào)優(yōu);通過(guò)這種不接觸本地?cái)?shù)據(jù)的方法,也可以產(chǎn)生有效的人工智能模型,且規(guī)避了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

      在具體應(yīng)用方面,「群體智能」已經(jīng)被廣泛運(yùn)用到智慧城市的各個(gè)場(chǎng)景,例如智慧交通、智慧物流、智能電網(wǎng)、碳中和等等。

      2、黃建偉與「群體智能」的因與果

      2015年年底,黃建偉當(dāng)選IEEE Fellow,年僅37歲,當(dāng)年全球40歲以下獲此殊榮的人只有6人。

      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      前面已經(jīng)提及,其當(dāng)選理由是:對(duì)無(wú)線系統(tǒng)資源分配的貢獻(xiàn)。但更為具體的表述,應(yīng)是「從經(jīng)濟(jì)學(xué)和博弈論的角度去分配無(wú)線網(wǎng)絡(luò)資源」。

      很難想象,本科學(xué)習(xí)無(wú)線通訊的黃建偉,后來(lái)會(huì)與經(jīng)濟(jì)學(xué)、博弈論產(chǎn)生聯(lián)系,并因此而獲獎(jiǎng)。

      據(jù)黃建偉介紹,他與經(jīng)濟(jì)學(xué)、博弈論的「相遇」是從東南大學(xué)無(wú)線電工程系本科畢業(yè)之后,本世紀(jì)初在美國(guó)西北大學(xué)攻讀碩博的時(shí)候。當(dāng)時(shí)他師從 Michael Honig 教授和 Randall Berry 教授,在兩位導(dǎo)師的指導(dǎo)下開(kāi)始搞跨學(xué)科研究。

      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      Michael Honig 是最早研究無(wú)線網(wǎng)絡(luò)經(jīng)濟(jì)學(xué)的學(xué)者之一,曾在貝爾實(shí)驗(yàn)室工作過(guò)很長(zhǎng)時(shí)間,后于1994年前往西北大學(xué)擔(dān)任講席教授,開(kāi)創(chuàng)了在網(wǎng)絡(luò)中引入經(jīng)濟(jì)學(xué)的先河,黃建偉后來(lái)做網(wǎng)絡(luò)經(jīng)濟(jì)學(xué),尤其是無(wú)線網(wǎng)絡(luò)經(jīng)濟(jì)學(xué),就是受其影響。

      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      Randall Berry與黃建偉則更接近于「亦師亦友」的關(guān)系:黃建偉攻讀博士學(xué)位時(shí),Randall Berry剛從麻省理工畢業(yè)滿一年,兩個(gè)人同樣沒(méi)有經(jīng)濟(jì)學(xué)基礎(chǔ),便一起去西北大學(xué)經(jīng)濟(jì)系上博弈論的課程,討論博弈論與無(wú)線頻譜之間的關(guān)系。時(shí)至今日,Randall Berry已經(jīng)是西北大學(xué) ECE 系主任。

      從兩位導(dǎo)師那里,黃建偉除了在無(wú)線通訊領(lǐng)域獲得指導(dǎo)以外,還跨學(xué)科學(xué)習(xí)了經(jīng)濟(jì)學(xué),以及博弈論的相關(guān)課程。并且,這種跨學(xué)科研究給他后來(lái)的執(zhí)教也帶來(lái)了深刻影響。

      在帶學(xué)生時(shí),他總會(huì)強(qiáng)調(diào)一點(diǎn):要有open mind(開(kāi)放的思維),一定要對(duì)很多學(xué)科的知識(shí)感興趣,并且善于學(xué)習(xí),「如果遇到不懂的知識(shí),大家可以一起學(xué)習(xí),學(xué)生反過(guò)來(lái)教他,也是很正常的」。

      2005年,黃建偉獲西北大學(xué)電子與計(jì)算機(jī)工程系博士學(xué)位,旋即進(jìn)入普林斯頓大學(xué)從事博士后研究,研究方向?yàn)榫W(wǎng)絡(luò)優(yōu)化。2007年,黃建偉從海外歸國(guó),在香港中文大學(xué)信息工程系擔(dān)任助理教授,創(chuàng)立了網(wǎng)絡(luò)通訊與經(jīng)濟(jì)學(xué)實(shí)驗(yàn)室(Network Communications & Economics Lab,NCEL),歷任副教授,教授,現(xiàn)任香港中文大學(xué)(深圳)校長(zhǎng)講座教授、理工學(xué)院副院長(zhǎng),深圳市人工智能與機(jī)器人研究院(AIRS)副院長(zhǎng),培養(yǎng)出了多位優(yōu)秀學(xué)者。

      他與「群體智能」的第一次直接接觸是在2011-2012年。當(dāng)時(shí),黃建偉率領(lǐng)團(tuán)隊(duì)研究的一個(gè)如何在電動(dòng)車充電高峰期調(diào)節(jié)電網(wǎng)負(fù)載的課題,目的是使電網(wǎng)在滿足電動(dòng)車大規(guī)模充電需求的同時(shí),能夠進(jìn)行有效調(diào)節(jié)。在該項(xiàng)目中,采用了「群體智能」相關(guān)的激勵(lì)機(jī)制,但在那時(shí)「并沒(méi)有想到『群體智能』這個(gè)概念」。

      2015-2016年,黃建偉開(kāi)始系統(tǒng)研究「群體智能」,主要做了兩方面的工作:群體決策;數(shù)據(jù)的隱私保護(hù)。而在具體研究方向上,則涵蓋分布式機(jī)器學(xué)習(xí)、聯(lián)邦學(xué)習(xí)、小樣本學(xué)習(xí)等。

      2017年,黃建偉團(tuán)隊(duì)在研究網(wǎng)絡(luò)定價(jià)方面的工作獲當(dāng)年IEEE 通訊協(xié)會(huì)最佳青年論文獎(jiǎng),論文的內(nèi)容便是「通過(guò)經(jīng)濟(jì)學(xué)的方法去研究如何進(jìn)行最佳數(shù)據(jù)采集,同時(shí)保護(hù)用戶的隱私」。

      同年,國(guó)家發(fā)布了《規(guī)劃》,將「群體智能」列為人工智能的5大方向之一。當(dāng)時(shí),人工智能浪潮正激流勇進(jìn),但與「群體智能」的聯(lián)系并不緊密,許多用到「群體智能」的場(chǎng)景,并沒(méi)有用到人工智能,而利用人工智能來(lái)解決問(wèn)題已成大勢(shì)所趨。

      因而,在國(guó)家政策引導(dǎo)與AI的發(fā)展趨勢(shì)下,黃建偉開(kāi)始把研究重心放在「群體智能」上。


      3、激發(fā)「群體智能」的路徑之一:建立有效的激勵(lì)機(jī)制

      學(xué)術(shù)界研究「群體智能」已不是新鮮事,但在2010年,《Science》的一篇文章引起了廣泛注意,這篇文章提出一個(gè)命題:假設(shè)一群人聚在一起,那么這群人體現(xiàn)出來(lái)的智力水平,受哪些因素影響?


      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      該研究發(fā)現(xiàn),影響群智力水平最主要有三個(gè)因素:

      • 人群的社會(huì)敏感度,即群體成員之間能否進(jìn)行有效互動(dòng);

      • 群體中個(gè)體平等發(fā)言的機(jī)會(huì);

      • 女性占比。

      也就是說(shuō),在人群之間能夠有效互動(dòng),并且每個(gè)個(gè)體都能具備平等發(fā)言機(jī)會(huì),而女性處于合適占比的情況下,這群人體現(xiàn)出來(lái)的智力水平將高于其它情況。其中,群體成員之間的有效互動(dòng),是最主要的因素。

      該研究進(jìn)一步發(fā)現(xiàn),要實(shí)現(xiàn)群體成員之間的有效互動(dòng),必須設(shè)立相應(yīng)的「激勵(lì)機(jī)制」,來(lái)保證成員的積極性。這恰是黃建偉的研究?jī)?nèi)容之一。

      前面曾有提及,在「群體智能」方面,黃建偉做了兩方面的工作,群智決策和數(shù)據(jù)隱私保護(hù)。而在群智決策方面,黃建偉率團(tuán)隊(duì)解決了一個(gè)問(wèn)題:群智決策中如何驗(yàn)證事實(shí)正誤。

      「過(guò)去五六年時(shí)間里,我們想要解決群智決策的問(wèn)題,這實(shí)際上是一個(gè)很難的問(wèn)題,因?yàn)楫?dāng)一個(gè)復(fù)雜問(wèn)題通過(guò)眾包的方式分發(fā)給個(gè)體,個(gè)體在解決問(wèn)題之后,無(wú)法驗(yàn)證其解決問(wèn)題答案的對(duì)錯(cuò),也就是事實(shí)無(wú)法驗(yàn)證情況下的群體決策。」

      舉個(gè)例子:美國(guó)大選前有調(diào)查機(jī)構(gòu)做預(yù)測(cè),但預(yù)測(cè)結(jié)果會(huì)因各種條件發(fā)生變化,結(jié)果各不相同,但當(dāng)大選結(jié)束,會(huì)有一個(gè)正確答案,該問(wèn)題的結(jié)果是可以驗(yàn)證的。而如果要鑒定達(dá)芬奇畫的一幅圖,不同的專家、學(xué)生、畫家等人都可以通過(guò)自身的認(rèn)知來(lái)進(jìn)行判斷,把大家的結(jié)果綜合在一起,最后可以產(chǎn)生一個(gè)群體結(jié)果,但這個(gè)結(jié)果的答案是不可驗(yàn)證的,除非達(dá)芬奇死而復(fù)生,指明這幅圖是他的真跡,否則這幅圖的真假將永遠(yuǎn)成謎。

      黃建偉對(duì)此問(wèn)題的解法是,通過(guò)設(shè)計(jì)合理有效的激勵(lì)機(jī)制,一方面鼓勵(lì)參與者努力投入,使得整體答案接近于事實(shí);另一方面,通過(guò)多數(shù)人投票機(jī)制,根據(jù)多數(shù)人的答案來(lái)決定事實(shí)的正誤。

      具體來(lái)看,在群體決策中,由于個(gè)體之間的能力差異,以及利益動(dòng)機(jī),要實(shí)現(xiàn)決策最優(yōu)是非常困難的。因此,通過(guò)激勵(lì)機(jī)制來(lái)鼓勵(lì)有能力的個(gè)體投入更多的時(shí)間和精力來(lái)做決策,配合以多數(shù)投票規(guī)則來(lái)篩選出高質(zhì)量的眾包工人,以此提高整體決策力量,是一種可行的方法。

      引用判定達(dá)芬奇畫的真假這一案例,通過(guò)設(shè)置對(duì)應(yīng)的激勵(lì),激發(fā)所有參與者的投入,將所有答案綜合起來(lái),那么這個(gè)答案接近真實(shí)結(jié)果的概率,理論上在提高;而最終結(jié)果遵從多人投票機(jī)制,即該答案的真假根據(jù)多數(shù)人的答案決定,比如在10個(gè)人中,有7個(gè)及以上的人,認(rèn)為此畫是達(dá)芬奇的真跡,那么該結(jié)果就遵從多數(shù)人的判斷,認(rèn)為這幅畫的確出自達(dá)芬奇的手筆。

      在「群智決策」之外,類似的激勵(lì)機(jī)制還被應(yīng)用在「聯(lián)邦學(xué)習(xí)」中。

      聯(lián)邦學(xué)習(xí)的原理是,用戶在本地?cái)?shù)據(jù)進(jìn)行訓(xùn)練之后,將訓(xùn)練結(jié)果傳送到中央服務(wù)器,再次進(jìn)行訓(xùn)練。但這個(gè)本地學(xué)習(xí)過(guò)程,對(duì)于中央服務(wù)器是不透明的,用戶有無(wú)認(rèn)真進(jìn)行模型訓(xùn)練,對(duì)中央服務(wù)器而言是一個(gè)黑匣子。

      這個(gè)問(wèn)題可以通過(guò)挺入激勵(lì)機(jī)制來(lái)解決:設(shè)計(jì)有效的激勵(lì)機(jī)制,鼓勵(lì)那些學(xué)習(xí)成本較低、數(shù)據(jù)較多的用戶,積極參與聯(lián)邦學(xué)習(xí),從而提高聯(lián)邦學(xué)習(xí)的整體效果。

      黃建偉團(tuán)隊(duì)發(fā)現(xiàn),聯(lián)邦學(xué)習(xí)產(chǎn)生的模型可以作為商品交易,其稱之為「機(jī)器學(xué)習(xí)模型的交易」。

      所謂「機(jī)器學(xué)習(xí)模型的交易」,指的是在聯(lián)邦學(xué)習(xí)過(guò)程中,一些擁有數(shù)據(jù)、能做聯(lián)邦學(xué)習(xí)的參與者,訓(xùn)練出來(lái)的模型,可以作為商品,與那些沒(méi)有數(shù)據(jù)、無(wú)法做訓(xùn)練,但又需要用到模型的參與者進(jìn)行「價(jià)值交換」。

      舉個(gè)例子:出租車司機(jī)基于其日積月累的經(jīng)驗(yàn),對(duì)路況的了解比普通人更多,不過(guò)出于隱私原因,司機(jī)并不打算把自己掌握的數(shù)據(jù)告訴別人。但是這些數(shù)據(jù)在本地訓(xùn)練之后,可以將訓(xùn)練結(jié)果傳送至中央服務(wù)器,從而訓(xùn)練出對(duì)應(yīng)的模型,而這個(gè)模型可以作為商品進(jìn)行交易 。因此,對(duì)應(yīng)的平臺(tái)需要設(shè)立對(duì)應(yīng)的「激勵(lì)機(jī)制」,來(lái)鼓勵(lì)這些有數(shù)據(jù)的司機(jī),參與到聯(lián)邦學(xué)習(xí)過(guò)程中,以提高模型精度。

      「機(jī)器學(xué)習(xí)模型的交易,是一個(gè)非常新的方向,目前做的人比較少,但非常有意思。」

      總而言之,不論是群智決策,還是聯(lián)邦學(xué)習(xí),都不可避免需要用到「激勵(lì)機(jī)制」,才能使決策、模型達(dá)到更好的效果。這正如黃建偉所言:

      「把激勵(lì)機(jī)制的問(wèn)題解決好,才實(shí)現(xiàn)『群體智能』的效率最優(yōu)。」

      4、群體智能與人工智能的聯(lián)系

      如今,提起「智能」二字,必然離不開(kāi)人工智能(AI),「群體智能」似乎也離不開(kāi)AI。

      實(shí)際上,「群體智能」最早與人工智能沒(méi)有聯(lián)系,其研究的是螞蟻蜜蜂等簡(jiǎn)單生命體在群體中涌現(xiàn)的智能;而AI則是讓機(jī)器像人一樣思考,研究對(duì)象并不相同。

      但現(xiàn)在「群體智能」已經(jīng)成為人工智能的5個(gè)重點(diǎn)方向之一,該如何理解群體智能與AI的關(guān)系?

      在黃建偉看來(lái),過(guò)去幾十年關(guān)于AI的研究,主要集中在數(shù)據(jù)、算力、算法三個(gè)方面,讓機(jī)器形成類人智慧的能力。但人們發(fā)現(xiàn),這條路不一定走得通。

      數(shù)據(jù)方面,數(shù)據(jù)在不斷增加,但許多都是分布式數(shù)據(jù),而非集中式數(shù)據(jù),并且出于隱私原因,人們不愿意進(jìn)行數(shù)據(jù)共享。

      算力方面,過(guò)去十幾年,算力飛速增長(zhǎng),但算力本身不能無(wú)限擴(kuò)張,而在很多普通場(chǎng)景,并不能獲得大量算力。因此,對(duì)高算力的依賴,已經(jīng)成為許多深度學(xué)習(xí)算法在實(shí)際應(yīng)用中的瓶頸,在此趨勢(shì)下,分布式算力成為主流。

      也就是說(shuō),人工智能本身要進(jìn)一步發(fā)展,必然要利用好這些分布式算力和分布式數(shù)據(jù),而這與群體智能的關(guān)系非常緊密。因?yàn)椤溉后w智能」本身,就是依托群內(nèi)「?jìng)€(gè)體」之間的協(xié)作配合,來(lái)解決問(wèn)題。

      這也是為何「群體智能」在人工智能的討論中越來(lái)越重要的原因:如果不能有效聚合、調(diào)動(dòng)成千上萬(wàn)的智能體來(lái)解決問(wèn)題,那么人工智能就喪失了形成巨大智能的途徑。

      以無(wú)人機(jī)群體作業(yè)為例,每一架無(wú)人機(jī)能夠存儲(chǔ)的數(shù)據(jù)量并不大,計(jì)算處理能力很弱,靠單架無(wú)人機(jī)很難做一些計(jì)算較為復(fù)雜的問(wèn)題,如火災(zāi)預(yù)警、道路檢測(cè)等。然而一旦實(shí)現(xiàn)群體作業(yè),無(wú)人機(jī)之間能夠?qū)崿F(xiàn)數(shù)據(jù)傳輸,只要有一臺(tái)無(wú)人機(jī)做過(guò)對(duì)應(yīng)的模式識(shí)別,那么就能檢測(cè)出問(wèn)題,把信息傳輸出去。

      「多個(gè)智能體在有限的數(shù)據(jù)、計(jì)算條件下,實(shí)現(xiàn)互相協(xié)作,來(lái)解決問(wèn)題,在現(xiàn)實(shí)生活中,遠(yuǎn)比大數(shù)據(jù)計(jì)算的應(yīng)用面更廣。」

      所以,從人工智能本身發(fā)展的角度,借鑒「群體智能」的邏輯,也自然而然在情理之中。而當(dāng)政府出臺(tái)《規(guī)劃》之后,「群體智能與人工智能的聯(lián)系就更為緊密了」。

      5、「群體智能」新風(fēng)向

      在「群體智能」方面,國(guó)內(nèi)已有不少學(xué)者展開(kāi)了深入研究。

      中科院梅宏院士提出了「探索融合反饋模型」,該模型把個(gè)體搜索融合起來(lái),將結(jié)果反饋給群體,使其能夠更好地決策;鵬程實(shí)驗(yàn)室的于全院士,做了基于蜂群的群體決策;清華大學(xué)劉云浩教授則發(fā)力群體感知......

      與上述學(xué)者不同的是,黃建偉擅長(zhǎng)通過(guò)「網(wǎng)絡(luò)博弈」來(lái)研究「群體智能」。具體來(lái)看,就是用「網(wǎng)絡(luò)博弈」來(lái)連接其「網(wǎng)絡(luò)經(jīng)濟(jì)學(xué)」,即用經(jīng)濟(jì)學(xué)的方法研究了大量的網(wǎng)絡(luò)資源分配的優(yōu)化問(wèn)題。這也是黃建偉團(tuán)隊(duì)的鮮明研究特色之一。

      「如果把網(wǎng)絡(luò)看作市場(chǎng),那么網(wǎng)絡(luò)資源本身是有限的,用戶會(huì)在線性約束條件下?tīng)?zhēng)奪資源,這實(shí)際上是一種非合作博弈 ,那么該如何滿足用戶對(duì)網(wǎng)絡(luò)的增長(zhǎng)需求?」

      國(guó)內(nèi)做的比較多的研究,多以技術(shù)為導(dǎo)向,即把網(wǎng)絡(luò)做得更快、傳輸速度更高、延遲更短;但除了技術(shù)之外,網(wǎng)絡(luò)資源也可以通過(guò)分配來(lái)滿足市場(chǎng)需求、實(shí)現(xiàn)社會(huì)效益的最大化。

      比如,不同用戶對(duì)于網(wǎng)絡(luò)資源的需求差異(時(shí)間、延遲)較大,容易造成資源的閑置、浪費(fèi),那么就可以通過(guò)設(shè)計(jì)對(duì)應(yīng)的市場(chǎng)機(jī)制,實(shí)現(xiàn)有效分配。

      「在『群體智能』里面,個(gè)體的決策與他人決策密切相關(guān),每一個(gè)決策者的收益將取決于個(gè)體行為與他人之間的交互,才能達(dá)到整體最優(yōu) ,這實(shí)際上就是一種網(wǎng)絡(luò)博弈。」

      目前,國(guó)內(nèi)做技術(shù)研究的更多,而研究分配、激勵(lì)用戶參與,通過(guò)分配機(jī)制來(lái)解決問(wèn)題的學(xué)者相對(duì)較少。因而,在黃建偉看來(lái),分配與激勵(lì),應(yīng)該是未來(lái)「群體智能」的發(fā)展發(fā)向之一,能推動(dòng)「群體智能」算法實(shí)現(xiàn)廣泛應(yīng)用。

      除此之外,對(duì)于「群體智能」,黃建偉認(rèn)為,還有三個(gè)方向值得關(guān)注:

      一是多智能體的強(qiáng)化學(xué)習(xí)。

      一般的人工智能算法嚴(yán)重依賴數(shù)據(jù),但強(qiáng)化學(xué)習(xí)的出發(fā)點(diǎn)是「數(shù)據(jù)很少甚至沒(méi)有」,是通過(guò)與環(huán)境的不斷交互,獲得反饋之后進(jìn)行學(xué)習(xí),目前對(duì)于強(qiáng)化學(xué)習(xí)的研究也主要集中在單智能體上。

      「群體智能」本身依賴多個(gè)智能體的協(xié)作配合,因而多智能體的強(qiáng)化學(xué)習(xí)變得很重要。即多個(gè)智能體之間實(shí)現(xiàn)交互,通過(guò)分布式個(gè)體與環(huán)境之間的交互學(xué)習(xí)來(lái)解決問(wèn)題,比如車路協(xié)同。

      二是模型交易。

      「群體智能」的最終結(jié)果,可能體現(xiàn)在一個(gè)具體的機(jī)器學(xué)習(xí)模型上,而這些模型實(shí)際上可以通過(guò)交易,來(lái)惠及他人。目前,業(yè)界模型交易市場(chǎng)已初具雛形,但非常有限,相關(guān)的理論分析幾乎沒(méi)有。

      三是隱私保護(hù)。

      在實(shí)現(xiàn)「群體智能」的過(guò)程中,不可避免要涉及數(shù)據(jù)隱私問(wèn)題,參與者越多,數(shù)據(jù)泄露的風(fēng)險(xiǎn)也就越大,因此必然要有一系列的算法設(shè)計(jì),把隱私保護(hù)融入進(jìn)去。

      「『群體智能』里面有很多問(wèn)題,我們研究的是通過(guò)網(wǎng)絡(luò)博弈,通過(guò)經(jīng)濟(jì)學(xué)設(shè)計(jì)好的激勵(lì)機(jī)制,然后與算法相結(jié)合,來(lái)解決問(wèn)題,這是一個(gè)研究相對(duì)較少但重要的方向。我們希望通過(guò)長(zhǎng)期積累的核心理論基礎(chǔ)與實(shí)踐結(jié)合,來(lái)實(shí)現(xiàn)突破。」黃建偉說(shuō)道。雷峰網(wǎng)(公眾號(hào):雷峰網(wǎng))雷峰網(wǎng)

      雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知

      IEEE Fellow黃建偉:「網(wǎng)絡(luò)經(jīng)濟(jì)、群體智能」跨界融合,智慧城市的新風(fēng)暴

      分享:
      相關(guān)文章

      編輯

      緊跟科技最前沿
      當(dāng)月熱門文章
      最新文章
      請(qǐng)?zhí)顚懮暾?qǐng)人資料
      姓名
      電話
      郵箱
      微信號(hào)
      作品鏈接
      個(gè)人簡(jiǎn)介
      為了您的賬戶安全,請(qǐng)驗(yàn)證郵箱
      您的郵箱還未驗(yàn)證,完成可獲20積分喲!
      請(qǐng)驗(yàn)證您的郵箱
      立即驗(yàn)證
      完善賬號(hào)信息
      您的賬號(hào)已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
      立即設(shè)置 以后再說(shuō)
      主站蜘蛛池模板: 妻子6免费完整版高清韩剧观看 | 黑帮大佬的365第二季免费观看| 恶女阿楚演员表| 三个傻boy| 坎贝奇第二部曲《品味人生》免费观看 | 他夏了夏天什么意思| 广西保安砍人| 凯·帕克《忌讳》| 中国机长 下载| 《女学生的滋味》| 射雕英雄传EAGLET| 类似周末同床的电影| 电影金瓶风月| 佛歌李娜| 非常故事汇| 坚果之王第一名是什么| xl司真人版在线播放免费| 地铁电影| 韩国电影办公室3免费完整版 在线| 电影《姐妹牙医》正片| 朋友的妈妈2观有限中字| 天才不能承受之重| 漂亮的小瘦了3| 财阀刑警| 侵略乌贼娘第二季| 战狼6高清免费观看全集下载电影 铿锵锵锵锵在线观看免费载 | 张国荣红楼春上春| 坎佩奇在线播放免费观看| 十二封信电视剧| 失控drive| 电影两只老虎| 韩国电影免费高清观看| 老公的下属是我的初恋| 天外来客bt| 星际宝贝史迪奇未删减| 新版水浒传主题曲| 卖房子的女销售3无遮挡| 嫂嫂宝库免费观看电视剧全部| 疯狂小女生法国满天星剧情介绍| 初二数学难题| 成全看在线| 《满清十大酷刑》电影完整版| 沧元图第2季免费观看| 军婚开荤粗肉HHHH| 二龙湖爱情故事3| 九洲天空城| 周密周芯竹宣布分手| 电影《雨夜天魔》完整版| 极乐人生| 电视剧摇滚狂花在线播放| 年轻的母亲在线观看视频| 《炸天小姐》电影| 高清《求佛》po| 大牛影库战狼6在线观看| 一年一度喜剧大赛在线观看| 程前向周鸿祎道歉| 蛇姬恋在线观看| 绯闻恋人| 密爱 电影| 夜来香电影在线看| 美国爸爸的种子免费观看电视剧 | 伦理电影法国护士长| 恐龙 2000 电影| 古战场传奇未删减版| 米兰大坏蛋1分47秒| 贝拉1983怀旧经典复古电影| 《血恋》| 韩国短剧隐身帽子完整版| 妈妈需要滋润韩国| 庄园色导航| 含泪活着下载| 漂亮的岳 《三浦步美| 空弹之森海外版在线观看| 美国式禁忌在线播放| 西瓜拼盘| 壮志凌云2啄木鸟满天星法版| 电影《风声》在线观看| 浪漫满屋泰国版| 健身瑜伽2免费版在线观看 | 麦乐迪满天星在线观看| 妖艳女忍者百度影音| 古装三级片名| 明日香クレア| 电视剧青青河边草| 男人和女人一起愁愁愁电视剧免费观op| 高清《课外辅导》完整版| 夫妇联欢会回不去的夜晚9集 | 欢乐英雄之少侠外传| 《瑜伽教练》小美小帅哥主演是谁| 马大帅第二部| 泽连斯基言论惹怒美国民众| 终于轮到我恋爱了电视剧| 九龙城寨在线观看免费版| 潘金莲1-5| 铠甲勇士百度影音| 人体蜈蚣3 电影| 驯龙记电影| 了凡四训1一23集连续剧免费观看| 高清历劫惊途 第二季| 至尊马蒂| 心宅猎人电视剧在线观看| 长安诡事录2在线观看| 试婚电影| 法国空乘5在线看| 命中注定我爱你剧情介绍 | 奥斯维辛没有什么新闻 教案| 电影木下凛凛子《邻居》| 《我的四个姐姐》动漫第一集| 战狼7欧式少女全部视频| 一线生机 电影| 古墓丽影山寨版免费观看 | 高清《双面胶》电视剧全集在线观看| 战狼6欧美版免费资源下载 | 我和我的祖国电影在线观看免费| 元敬韩国电影免费观看| 日本维修工的艳遇2| 帅哥按摩师电影在线观看| 漂亮的小峓子4三级| 《热带雨》未测减除版| 美国式保罗讳4免费| 庆余年第二季欧美剧犯罪片| 类似霜花店的电影| 雪恋在线观看全集免费| 安拉拉斋电影版免费看| 熊猫杀毒软件| 法国《监狱伦理3》| 我父亲的女保姆是我的首选评价| 陪部长出差| 西游 降魔篇电影| 中国百强名镇| 《美丽的秘密》完整版| 柳熙烈的写生簿权志龙| 我游泳女教练高清无码| 电影《战狼3》高清免费观看 | 《妻子的选择》| 妈妈照顾儿子同学电影免费观看| 东北二人转正戏| 一个人在黑夜里寻找散文诗宋湘波| 决裂电影| 新瓶梅| 善良的儿媳妇在线播放| 热力四射2下载| 铯妮玛亚洲欧洲夫妻轮换| 乡村篮球队| 影子战士| overflow樱花| 满天星《炸天小姐》完整版在线观看| 怪物博士| 韩剧《不屈的儿媳》国语版| 周深 卷珠帘| 瓜达卢佩的玫瑰 在线观看| 魔王军的最强魔法师是人类| 风雷影音电影| 禁忌2年转一代全集免费观看| 叶问外传张天志在线观看免费版| 报告教练| 韩国伦理片需要叔叔播种| 维生素love水香| 命定之爱电视剧| 狂暴飞车144分钟完整免费版| 请用指尖打扰我| 凶兆2006| 法国版《女超人:麦乐迪》在线观看中文| 电影修理工的艳遇韩国在线观看| 韩国维修工艳遇| 风调雨顺歌谱| 幸福触手可及百度百科| 缘之空无修版| cekc每1| 大蛇3龙蛇之战在线观看| 极限救援优酷| 高清《哪吒3》免费全部观看| 意大利《蝴蝶1975》电影主角是谁| 李诞吐槽甄子丹| 僵尸海狸2| 我的左手右手演员表| 《汤摇庄的幽奈同学》| 牙医姐妹1986年日本| 十大rko| a篇在线观看| 动漫在线观看鬼父完整版动漫| 《越南暴行2》免| 连麦kp录音原版mp3| 半是蜜糖| 法国版《绣感》未删减版在线观看| 珠海驾车撞人事件35死43伤| 女法医:古代断案全集免费| 《高压监狱2在》完整版法国免费看 | 销售的销售秘密3免费观看高清版| 非诚勿扰泰国女嘉宾| 大屌在线播放| 阎启俊简历| 日剧和讨厌的前任出差| 东北告别天团在线观看| 台球高手在线观看免费完整版视频| 山城棒棒军1| 安宅拉拉电影在线观看| 杨敏1-5集全集免费看| 安徽卫视甄嬛传首映礼完整版| 斗罗大陆第171集免费观看| 孤独的美食家2024| 优越的一天电视剧全集完整版| 威尔和格蕾丝第三季| 三年大片免费观看国语完| 黄飞鸿之壮志凌云| 已婚妇女下午| 黄花大闺女下集免费观看| 法国娃娃脸9| 哪里可以看天与地| 商务旅行戴帽子的同行免费观看电影| 大唐玄奘 电影| 七根心全集在线播放免费| 电视剧独狼在线观看| 漫城电视剧免费观看全集高清| 毒舌大状粤语在线观看| 非常勿扰| 引郎入室| 死亡笔记1电影| 花儿与少年·好友记| 大头绿衣斗僵尸粤语| 泰秘丽人会所| 奥特曼全集免费观看完整版| 熊猫杀毒软件| 李宗盛演唱会下载| 河南电视台法制频道今天7:50| 东北往事电视剧全集| 爱的阶梯国语版| 禁止的爱善良的小姨在线播放免费| 盗墓笔记在线观看| 与年轻岳那些年高2828清| 我的邻居老婆电影完整版免费观看| 三年大片| 策驰影院电视剧策驰2023| 黑白配视频播放免费观看| 女神宿舍的宿官君| 莫妮卡主演电影| 交谊舞曲快四| 两组一起按摩的电影| 宫斗小能:从答应后全集免费| 满天星《沙漠》在线观看| 当不住的疯情| 女超人麦乐迪电影无删减| 波奇亚电影在线观看| 电影《需要爸爸播种子》演员表| 魔王伊布罗贾献身吧| 高清《安娜情欲史》未删减版| 辛福密码| 啄木鸟:《壮志凌云》| 走打鬼子去全集在线观看| 漂亮妈妈7巴字| 礼失求诸野| 剿匪英雄大结局| 亲吻姐姐| 全城大佬跪迎:傻婿觉醒短剧全集 | 好姐姐电影免费版在线看| 高清万物生灵:2025圣诞特别集| 浪漫的女家教第1集免费观看| 广东漂亮孕妇被群殴| 大猫电影网人民的名义| 《泡我家的辣妹》动漫观看第一集| 沙漠行动在线观看满天星| 和朋友换娶妻中字3| 男按摩师A片免费看| 我和我的女病人们 妇产科| 唐伯虎点秋香全集| 金蝉脱壳1| 扇娘百度影音| 儿媳味道HD| 高清刺杀小说家2未删减| 保险女王的秘密| 斗罗大陆在线观看218| 意大利电影《美丽教师》主演| 《知否知否应是绿肥红瘦》电视剧 | 妈妈爱上我的男朋友| 爱你所以离开你| 神奇女侠vs怪兽们| 大白胸按摩电影| 完美诊所| 加菲猫大电影1普通话版免费| 女神降临免费观看全集| 铁在烧全集| 甄嬛传48| 一定要抓住韩剧完整版| 八宿县| 郑钦文美网第三轮比赛时间| 嗨放派第一季完整版全集| 毕打自己人粤语全集| 濠江风云国语| 张旸 菊花台| 天注定在线观看免费完整版| 《庆余年2》今晚开播| 东京爱情故事国语版| 电影《美容院的特殊待遇》| 恋恋维纳斯泰剧| 别墅轮换1攻略完整版正版| 高清望向太阳未删减| 公之浮手中字60| 少女免费观看完整电视电影| 两个母亲中字ID演员表 | 加勒比海盗女版1观看| 超人气学园剧情介绍| 《善良的女邻居》4| 南方人吃冻梨削皮看傻东北网友| 电影《女超人麦迪娜》免费观看高清 | 行尸走肉第七季全集| 斗破苍穹第123集免费观看| 法国空姐3免费高清原声满天星奔跑吧 | 地震发生时躲在什么空间最安全| 保卫孙子电视剧| 雪豹百度影音| 一人观看的电影免费观看| 日本空姐2019| 年轻的母亲1观看在线| 一女嫁三夫电视剧免费观看| 天衣美津| 最美的安排电视剧| 《超人》| 关中枪声电视剧| 高潮电影免费观看中| 大江大河电视剧免费观看全集完整版| 迷茫的爱 郭玲| 阴阳路之一见发财| 秦腔戏mp3下载| 柔柔的成长日记| 松原市| 人生几度秋凉电视剧| 有色视频| 电视剧热播剧大全| 男人和女人一愁愁愁电视剧在线观看| 微笑的山谷电影| 《饥渴的女人和维修工| 怀旧酷狱忠魂下| 麦乐迪女超人在线免费| 双子星公主第3部| 老婆的闺蜜中字ID| 烧仙草和龟苓膏| 好姑娘1全集观看免费高清| 龙兄虎弟国语高清| xL司令第二季真人| 极乐宝鉴3d国语版在线观看| 女销售员的秘密 在线| 红唇原唱完整版| 意大利电影护士转正| 仙逆更新至96集在线| 激战丛林意大利1995完整电影版在线 | 美国A片巜禁忌5》偷欢| 老婆招待丈夫朋友| 品味人生坎贝奇在线观看完整版| 德国炸毁最现代化电厂| 我强睡年轻漂亮的继坶BD| 大场面电影| 神医喜来乐下载| 《沧元图3》| 父母儿女媳妇一起来玩的说说| 日剧《无法抗拒的他》电视剧| 无法停止的情欲| 建宁县| 加勒比女海盗9美版免费| 《圣特罗佩姑娘们》在线观看| 霸王花4| 爱唯侦探dvd| 开战日电影在线看免费观看| 台湾满天星在线观看台湾电影| 开心家族下载| 99re视频| 沙鲁克汗歌舞| 为何新增病例越来越多?上海回应| 肌肤的纹理在线观看| 女儿国3满天星版在线播放| 成何体统动漫第二季| 美容店的待遇5| 兄弟的嫂子和小姨子| 需要爸爸播种2美国电影在线观看| 魔动王ova| 决战桂林| 三年国语版免费高清观看| 全职猎人95| 玫瑰的故事40集完整免费观看| 三年大片大全免费国语版在线播放| 韩剧国语版面包大王| 斛珠夫人电视剧在线观看| 兔子先生高清免费看全集| 疯狂萝卜| 电影双女任务在线观看| 应聘者成绩47改为85| 美丽小蜜桃4| 暖暖请多指教电视剧| 在线观看桃色凶器| 幸福最晴天mp4下载| 战狼6双人免费高清完整版视频下载 | 李冰冰自曝分手| 牙医姊妹1986电影免费观看| 艺校的秘密| 一起愁愁愁免费观看完整版电视| 爱人体网| 满清十酷刑| 江山风雨情高清| 狂野的需求| 《维修人员的培训》全集完整版免费| 放课后の优等生动漫在线观看| 三年成全免费观看高清在线播放 | 迪加奥特曼动画片| 小沈阳 不差钱| 三个夜班医生玩弄护士| 韩版 花样男子| 《满秋》电视剧| 想要爸爸播种手机播放| 宴遇长安| 不当军事行为 (2017)| 真相2012| 八戒8电影在线播放免费观看| 年轻的小姨子在线播放| 天天想你在线观看完整版电影视频 | 新包青天开封奇案| 急诊科医生 电视剧| 超级国王游戏中文版免费观看| 罗马帝国的艳情史| 也平凡电视剧免费观看| 电视剧父爱如山| 创业电影| 精品馒头穴| 熊出没狂野大陆| 女战狼| 寻龙诀电影完整版下载| 私人性监狱| 戒烟不戒酒电视剧| 第一次做aj电视剧| 非常大状粤语| 《激战丛林》版在线观看| 新疆教育厅原厅长带头编问题教材| 谎言与间谍啄木鸟2剧情简介| 老师·好电影在线观看| 半是蜜糖半是伤免费观看在线| 拆弹专家2完整版播放网站| 飞驰人生二| 我独自升级第二季免费完整版| 蜜桃成熟时高清版| 狄仁杰第一部完整版全集| 世界机械舞王| 新独臂刀电影| 男与女电影| 全职高手第3季| 善良的嫂子2 电影| 楼下的房客| 太平年全集免费看| 波巴费特之书| 时光倒流七十年电影免费观看| 一大13名代表的结局| 岳飞传刘兰芳| 无名卫士电视剧全集免费播放| 夏日福星粤语版| 四位夫人按摩BD在线播放| 机甲女神之究极神兵| 苍老师40集全免费播放电视连续剧在线| 高清《热带雨》完整版视频| 八尺夫人满天星1978年版| 勇敢的心电影在线观看免费完整版| 暴躁老妈免费观看全集| 亚洲无mate20pro麻豆| 无心法师3在线观看免费完整版 | 韩国伦理电影需要爸爸的种子| 故乡的泥土全剧免费观看| 金银瓶1-5国语普通话2| 麦迪时刻35秒13分高清| 兔子先生第一季6期免费观看 | 和部长一起去出差旅是第几集| 雷神暂退好莱坞| 睢宁县| 斗罗大陆211集免费看| 美丽蜜桃2电视剧全集免费完整版 《长安三万里》免费观看超清画质 | 醉酒迷奸电影在线播放| 白袜子俱乐部| 姐姐在线观看免费高清第二集剧情| 河北梆子辕门斩子全集| 快乐再出发免费观看| 车手在线观看| 爱我几何意大利电影完整版播放| 李丽珍爱的 精灵| 美姐妹牙医在线电影观看完整版高清| 碟中谍1未删减版资源| 禁忌1年转一代| 德国空乘4正片| 永远忠诚| 灿烂的前行| 毒和识货| 酒店高清免费完整版| 酒徒温碧霞| 爱我几何莫妮卡电影完整版 | 一本漫画闯天涯| 美容院特别待遇| 黑心鬼国语| 销售的销售的秘密6HD中字| 英雄虎胆免费完整版| 《激战丛林》完整版免费观看中文字幕 | 九度空间| 帝王之妾在线观看完整版全集高清| 世界之战| 十一人的贼军免费观看高清| 金瓶徐少强未删减版免费| 故宫开车| 美容室的待遇5HD中文| 公之浮之中字5| 《女超人满天星版》麦乐迪 | 外卖特邀员免费| 王牌播音员| 甜蜜惩罚在线| 两个妻子国语版| 北京电影网百度影音| 麦乐迪马克斯女超人满天星电影在线观看 | 斗罗大陆全免费观看全集| 大武生电影| 不会起名吧| 总统之夜1997法国版第一季 | 高清百鬼夜行抄未删减| 陈雅伦曹查理《为卿痴狂》| 情感背后| 财阀家的小儿子第8集| 哥布林的窑洞动画在线播放| 恐龙危机第二部| 安拉拉斋电影在线观看免费播放| 狼毒人电视剧全集在线观看免费高清| 《花子VS倔强驱魔师》在线观看人面犬| 昨日的果实| 《鬼父上卷》1| 金瓶梅 1高清完整版| 回复术士重启在免费观看| 2019商务旅行女老板戴的帽子经典电影 | 黑白配中文版全集在线观看免费| 无声在线观看免费完整版 | 金瓶梅 高清完整版 bt| 时间静止器电影免费观看完整版| 爱的妇产科演员表全部| 乌海电影在线观看| 发型屋网站| 烈火军校电视剧免费播放全集 | 黑白禁区电视剧免费观看完整版| 复仇行动电影免费观看完整版| 叛逆的鲁鲁修第二部| 百想艺术大赏名单| 徐元《保险推销员》在线| 侏罗纪公园满天星免费观看| 禁忌4年转一代最忌三种东西| 《私生活》| 毒战完整版免费观看| 遭义子侵犯的寡妇日韩电影| 唐人街探案2免费观看高清版| 战狼9欧式少女免费播放在线观看视频下载 | 判我更幸福| 唐宫奇案之青雾风鸣电视剧| 星克莱尔在线观看| 倚天屠龙记 邓超| 国庆大阅兵2022直播全程回放| 想你21| 沙虫养殖| 《渔夫的妻子》电影免费观看| 大蛇5国语版完整版| 乌拉特前旗| 李采潭在线观看| 黑帮老大和我的356日在线观看| 激战丛林电影免费观看| 陷入黑暗电影免费观看| 日本一卡二卡三卡| 鹿晗脸上的疤| 坎贝奇《无憾》电影| 女人不容易电视连续剧| 神秘星球孪生公主国语版全集| 八戒八戒手机电影院免费完整观看| 蓝湾牧羊犬| 除却巫山2007未删除版本共多长时间| 我是特种兵3之狼牙| 抓钱舞标准版| 正在播放:#刘亦菲 情欲少妇与隔壁大爷的往年恋 - 17 | 冲浪企鹅百度影音| 小巷人家电视剧观看| 密爱 电影| 《美容窒:特殊服务5》 | 一路向西 国语| 美版灭火宝贝2监狱| 马龙王楚钦等15人获记大功奖励| 王多鱼打扑克| 前任四电影免费观看| 五月天网站| 动漫《落魄贵族琉璃川》在线观看| 明日之战电影在线观看西瓜| 瓜达卢佩的玫瑰墨西哥完整版 | 站着再来一次第50集电视剧免费播放 | 恶魔少爷| 《美姐妹努力赤子板栗》| 辣妈星时尚| 维修工人的绝遇2中文版免费观看| 危险人物粤语| 平凡之路电视剧免费| 牙医姐妹在线看完整版高清电影1986| 《疯狂动物城1》免费完整版| 韩剧《邻家女孩》免费观看 | 财阀刑警| 酒店激战2第5集在线播放| 雾蓝色的雨后晴天未删减| 《夫妇联欢-回不去的夜晚》| 六指琴魔| 射雕英雄传之侠之大者免费完整版| 女性私人监狱| 解放的潘多拉 下载| 南非掠夺者| 需要爸爸播种子(中文版)| 情事电影韩国伦理片在线播放| 真白蛇传| 新婚夫妇换交换完整版| 湘西诡事电影在线观看| 星克莱尔《豪门贵妇》在线观看 | 男男西装办公室play| 乌龙闯情关| 泰安市英雄山中学| 战狼6欧美版免费观看完整版BD英语| 牧神记在线观看完整版| 如如影视剧在线播放妈妈的职业| 家属无码动漫| 写的比较细的开车故事| 定兴县| 归去来评价| 滨田のり子| 军事不当行为电影全集在线观看高清| 铁马骝2之街头杀手| 夫妻那些事电视剧大结局| 电影牙医姊妹完整版免费观看 | 天衣无缝的她 电影| 电视剧《女人》全集免费观看| 法国航空3完整版| 我叫刘跃进| 消失的她在线看观看| 屋顶上的吻| 中国机长免费观看| 白峰电影在线播放免费播放第19集| 西游降魔篇免费| 电视剧破密免费观看完整版高清| 大江大河3免费观看下载| 斗罗大陆在线全集免费看| 电影免费观看高清完整版在线观看| 除却巫山电影无删减版 | 天赋异禀在线观看免费| 九龙城寨免费高清| 开车看美女被开罚单?P的| 疯狂小女生法国版| 走向共和在哪个平台能看| 斗罗大陆209| 卖房的女销售电影叫什么| 餐馆厕所突然钻出一截管子剧烈扭动| 夏可可《爱我就别想太多》电视剧| 麦乐迪女超人A片免费看 | 双人调情按摩术免费在线观看 | 凯登克罗斯电影高清播放 | 水手服在线观看完整免费版 | 跟着部长出差免费观看| 老头同性老老头交tv| 扫黑风暴在线观看全集| 变形记20120202| 插翅难飞电影| 女版西游记大波唐三藏| 激情燃烧的岁月主题曲| 艾薇儿girl friend| 白嫖者联盟免费观看完整版电视剧| 极限挑战之皇家宝藏bt| 长生俱乐部| 楼上的邻居在线| 《黑帮少爷爱上我》在线观看| 猫和老鼠在线观看| 爱在日落之前吻戏| 大叔爱上小姑娘韩剧| 美国式保罗2原版电影在线观看| 亢奋电影原版完整版| 安徽公共频道在线直播| 西部牛仔满天星免费版| 蜜蜂落在日历上| 电视剧《仁心俱乐部》完整版| 《房奴试爱》开头原声| 离婚律师 电视剧| 大力神海格力斯| 电影《补课》免费观看中文版| 金装四大才子国语版| 电影红灯区| 唤醒电影凯登克罗斯在线观看| 青盲电视剧全集50| 爱情公寓3第16集| 强奸2在线免费电影| 鬼片电影林正英| 高清《检察官》全集观看| 莫妮卡贝鲁奇《地爆天星》电影无删减版在线观看 | 狂躁荷尔蒙6电影免费观看 | 突然的喜欢演员表| 斗罗大陆电视剧全集免费观看完整版| 我和我的祖国免费| 二十首经典闽南老歌| 大锅饭养懒汉| 万古神帝全集| 女人复仇记电视剧| 买房人开始焦虑排不上队| scp电影| 长治市| 鹿鼎记1| 法国空姐4| 美国式禁忌矿桥矿影视 | 超级魔术师克里斯| 生化魔人 扎克| 诱人的办公室在线观看| 大奉打更人在线观看电视剧| 奥美迦奥特曼第3集| 邓超推销新电影被保安架走| 朋友的姐姐4线观高清2电影| 姐姐当家综艺在线观看| 一路向西迅雷种子| 侦探语录免费观看完整版| 恶魔搬进来了| 《高压监狱6》法国完整版| 极限救援优酷| 爱我就别想太多在线观看电视剧 | 一仆二主电视剧剧情| 赤板栗电影完整版| 西瓜足迹| 《味道》电影| 荒岛女儿国在线观看| 央视新年新诗会| 姗姗来迟的你电视剧| 哇嘎影院| 财经郎眼2016| 凝固的爱 试戏现场| 歼灭天际线1~80集| 大漠孤侠| 应聘者成绩47改为85| 二对一的商务模式2| 红剑电视剧| 小男人遇上大女人演员表| 凯登克罗斯主演作品在线播放| 林师父在首尔| 姐姐免费观看国语全集| 布达拉宫纪录片免费观看| 交换麦子3| 江奈挠脚心丨ⅴk| 天空之手| 古墓丽影满天星免费看| 飞虎粤语05| 球爱酒吧| 北越暴行1-12集免费看| 下一站是幸福在线观看全集| 黄日华个人资料简介| id002热门经典电影免费观看| 小向まな美| 碧血蓝天电影免费观看完整版| 素媛电影| ⅩL司令真人| 电影强我| 翁虹全部电影| 特殊的快递员| 情不自禁电影下载| 热辣滚烫在线观看全集电影网 | 神雕侠侣电影版| 淑蓉又痒了办公室献身| 电影《需要爸爸播种美国》女演员还 | 王雪晶新年歌曲| 学警雄心国语| 女超人满天星法版| 腹黑总裁:只对我温柔短剧全集| 电视剧危情杜鹃| 《卢旺达的玫瑰》| 大男当婚大结局| 我和黑道老大| 人乳喂奶的电影| 牙医姐妹1986完整版手机在线观看| 满清十大酷行| 公路美人 电影| 轻快的嘴唇完整版| 娘心计电视剧全集| 花琉璃轶闻电视剧全集免费观看 | 破地狱粤语| 哇嘎影视高清完整版免费观看| 封神英雄榜第二部免费观看电视剧| 夜上海广场舞| 红楼春梦免费观看高清| 巜性刑房3捆绑| 《维修工艳遇》2007| 孙悟空白骨精| 酒店1一5集免费视频在线观看| 房间找东西| 《庆余年》电视剧| 美国版荷尔蒙6观看| 我的巴比伦恋人在线观看| 布拉格之恋下载| 佩洛西专机抵达新加坡| 电影特别酒店| 花非花雾非雾百度影音| 尖峰时刻 3| 放荡女2| 电视剧妈妈的爱| 深海之惊蛰| 以家人之名免费版观看全集| 《乳房》特殊按摩手机在线观看| 望乡简谱| 廊桥遗梦电影| xL司令第一季马赛免费观看高清| 夏家三千金80集| 零距离电视剧| 乡村爱情第十六部免费观看电视剧| 美容院特别待遇| 情靡短剧一口气看完| 《老金两个儿媳》大结局| 哇嘎哇嘎哇嘎在线观看| free第二季在线观看完整版| 遮天 全集| 穿越之嫡女谋短剧全集| 私人家教1983在线观看| 八佰免费| 逆爱2:后会无期 电影| 三年大片高清免费观看完整版| 迅雷在线看| 法政先锋第三部粤语| 顶楼的大象| 壮志凌云2011版免费观看| 绝世红颜| 汉代风云人物之吕后| 特罗佩斯的姑娘们| 元彬主演的电影| 奔跑吧兄弟| 钻石王老五的爱情| XL司令在线免费观看| 短剧短剧| 黄金瞳在线观看免费全集高清| 魔幻手机在线观看全集高清| 女超人在线播放| 好想告诉你第一季在线观看| 美味夜行侠| 需要爸爸播种在线观看| 罗马帝国艳情史迅雷下载| 双龙传丐世英豪| 安非他命电影| 《爱我几何》精彩片段| 二战电影《老枪》免费观看| 致命弯道3在线观看| 想爱就爱1电影| 爱丫爱丫在线国语高清电视剧| 我本是高山免费观看| 蜜桃成熟时2在线看| 战地黄花电视剧| 电波教师| 护士的秘密电外国| 直击证人| 特种部队2 全面反击国语版| 人世间在线观看免费| 小凤新婚下集在线看视频 | 红河县| 女人的私人监狱伦理免费观看| 跟踪电影| 北京生物疫苗是国药吗|