• <track id="oztn4"></track>
    <sup id="oztn4"><form id="oztn4"></form></sup>
    
    
    <mark id="oztn4"></mark>
  • <dfn id="oztn4"><samp id="oztn4"></samp></dfn>
      《地爆天星小姐》电影 ,麦子交换2免费观看2023年上映时间表 ,莫妮卡《爱我几何》,大牛影库战狼6欧式少女全部视频,三年大片国语版在线看,日本空姐电视剧,电影魔镜号中文字幕,和部长一起去出差旅是第几集
      全球「AI學(xué)術(shù)頂會」精華匯聚地
      您正在使用IE低版瀏覽器,為了您的雷峰網(wǎng)賬號安全和更好的產(chǎn)品體驗,強(qiáng)烈建議使用更快更安全的瀏覽器
      此為臨時鏈接,僅用于文章預(yù)覽,將在時失效
      政企安全 正文
      發(fā)私信給李勤
      發(fā)送

      1

      中國破解特斯拉第一人劉健皓揭秘:360智能網(wǎng)聯(lián)汽車安全項目怎么賺錢

      本文作者: 李勤 2019-03-25 16:46
      導(dǎo)語:坊間傳聞, 360 智能網(wǎng)聯(lián)汽車安全部拿到了許多大單,成為了老周落地 B 端 IOT 安全的典型代表。

      找洞一時爽,還有特斯拉獎。這個目標(biāo)終于被黑客達(dá)到了。

      前兩天,全世界最酷的黑客比賽之一的Pwn2Own 又開張了。今年這個比賽最引人注目的規(guī)則是,如能演示針對特斯拉調(diào)制解調(diào)器或調(diào)諧器、WiFi 或藍(lán)牙組件、車載系統(tǒng)、網(wǎng)關(guān)、自動駕駛儀、安全系統(tǒng)和密鑰卡(包括用作鑰匙的電話)的利用代碼,則可獲得 5 萬美元至 25 萬美元不等的獎勵。如成功入侵某些目標(biāo)組件且實現(xiàn)持久性和 CAN 總線攻擊,則可分別獲得 5 萬美元或 10 萬美元的額外獎勵。

      主辦方 ZDI 還表示,除了獎金外,該類別的第一輪獲勝者也將獲得特斯拉 Model 3 中檔后輪驅(qū)動汽車的獎勵。

      3 月 23 日當(dāng)天,多次參加 Pwn2Own 的老選手 Richard Zhu 成功搞定了特斯拉 Model 3 的娛樂系統(tǒng),開走了這輛拉風(fēng)的特斯拉。

      在 Richard Zhu 搞定特斯拉的前兩天,雷鋒網(wǎng)宅客頻道編輯見到了宅客頻道的老朋友、中國破解特斯拉的第一人劉健皓。劉健皓此前兩度破解了特斯拉,在黑客中掀起了一股破解特斯拉的熱潮。

      外界對黑客的破解"秀"可能注意力還停留在“秀”上。事實上,破解特斯拉并不是單純的安全能力的體現(xiàn),在智能駕駛,甚至是自動駕駛技術(shù)離生活越來越近時,如何讓前沿技術(shù)與實際商業(yè)應(yīng)用找到接軌點(diǎn),是劉健皓想要探索的問題。

      距離劉健皓 2016 年第一次破解特斯拉已經(jīng)三年了,他也成為了 360 智能網(wǎng)聯(lián)汽車安全部負(fù)責(zé)人。坊間傳聞, 360 智能網(wǎng)聯(lián)汽車安全部拿到了許多大單,成為了老周落地 B 端 IOT 安全的典型代表。

      果真如此順利嗎?

      中國破解特斯拉第一人劉健皓揭秘:360智能網(wǎng)聯(lián)汽車安全項目怎么賺錢

      口述:劉健皓 | 整理:李勤

      去年大家開始提汽車的“新四化”,智能化、聯(lián)網(wǎng)化、電動化、共享化,很多的車型的研發(fā)和設(shè)計都往這四個方向靠。

      智能化實際上是指自動駕駛或者是智能駕艙,通過車輛的傳感器還有自動駕駛算法為汽車提供智能化的功能,實現(xiàn)一些自動駕駛的應(yīng)用場景。

      網(wǎng)聯(lián)化指的是車聯(lián)網(wǎng),車聯(lián)網(wǎng)有兩個主流應(yīng)用場景,一個是車和云,也就是用現(xiàn)在使用的手機(jī) App 控制車輛,還有一種是今年大力發(fā)展的5G或者是C- V2X,就是車車通信,車路通信。去年,某大會上舉辦了一個三跨實驗——跨車廠、跨運(yùn)營商、跨零部件廠商之間的通信,真正實現(xiàn)車和車之間的通信,網(wǎng)聯(lián)化有這個趨勢。

      電動化是指整個產(chǎn)業(yè)都向新能源領(lǐng)域發(fā)展,電動汽車的產(chǎn)量出現(xiàn)了增長的趨勢,車廠在 2016 年、2017年時沒有新能源平臺,現(xiàn)在基本上每個車廠都有了新能源的平臺,并且在新能源平臺上花了很多精力,做出很好的車型。

      最后是共享化,年初戴姆勒和寶馬合資成立了出行公司,大眾自己也成立了出行公司,一汽、長安、東風(fēng)三家聯(lián)合成立了一個 T3 出行,為什么這些車廠、主機(jī)廠都會成立出行公司?因為很多自動駕駛和車聯(lián)網(wǎng)汽車的應(yīng)用場景就是要滿足共享化的需求,他們生產(chǎn)出的車不是直接賣的,而是租給用戶的。這就好比很多航空公司的飛機(jī)是租的,很多車廠未來也能意識到在車的銷量要持續(xù)增長的情況下,必須有一部分的車通過共享化業(yè)務(wù)消化。

      四化與新風(fēng)險

      汽車的電子電器架構(gòu)要根據(jù)四化的需求發(fā)生改變。現(xiàn)在信息娛樂、智能駕駛、車身控制等車內(nèi)控制域通過一個網(wǎng)關(guān)連接到一起。通過這個架構(gòu),動力系統(tǒng)、車身控制系統(tǒng)會面向互聯(lián)網(wǎng),反過來,黑客可以通過攻擊直接控制汽車,可以危害動力系統(tǒng)。

      還有,現(xiàn)在大多數(shù)互聯(lián)網(wǎng)汽車搭載了內(nèi)容豐富的的信息娛樂系統(tǒng),信息娛樂系統(tǒng)直接連接互聯(lián)網(wǎng),存在的漏洞比較多,大多數(shù)攻擊通過信息娛樂系統(tǒng)為跳板,攻擊到車身的控制系統(tǒng)、動力系統(tǒng),還能干擾到智能駕駛系統(tǒng),變革背后帶來了很多安全風(fēng)險。

      我們在 2016 年就公布了對特斯拉的傳感器攻擊造成了控制上的失控或者把一輛自動駕駛汽車逼停。從汽車的自動駕駛到飛機(jī)的自動駕駛都是可以有預(yù)見性的,這對自動駕駛的算法提了很高的要求。

      車身控制系統(tǒng)跟鑰匙相關(guān),2018 年也有很多的案例,可以通過鑰匙信號的干擾和復(fù)制,破解車門的信號,造成車內(nèi)的財產(chǎn)的損失。2018 年下半年,特斯拉老款的 Model S 的鑰匙信號被破解,丟了 118 輛車,最后特斯拉通過聯(lián)網(wǎng)定位找回來 112 輛,還有 6 輛沒有找回來,這是實際發(fā)生危害的案例。

      黑客可以發(fā)送指令干擾汽車的動力系統(tǒng),引發(fā)交通事故,現(xiàn)在沒有真實的案例,但2018年,入侵信息娛樂系統(tǒng)的案例有好幾起。

      我在發(fā)布 2017 年《智能網(wǎng)聯(lián)汽車信息安全年度報告》時就預(yù)言了 2018 年汽車的漏洞、威脅會越來越多,2018 年將是攻擊者刷漏洞的一年。什么叫“刷漏洞”?原來汽車的漏洞不會受到車廠的認(rèn)可,不會受到CVE等專門的漏洞書公開機(jī)構(gòu)或者是漏洞管理機(jī)構(gòu)的認(rèn)定。2018年,這個漏洞平臺已經(jīng)開始接收汽車漏洞,開始承認(rèn)汽車的確有軟件漏洞,車廠要通過遠(yuǎn)程 OTA 升級,及時防范漏洞利用的發(fā)生。

      第一個觀點(diǎn)是不幸被我言中,2018 年的確是“刷漏洞”的一年。

      首先,騰訊的團(tuán)隊提交了寶馬的14個漏洞,這是與寶馬的車載娛樂系統(tǒng)還有總線的系統(tǒng)相關(guān)的漏洞。

      其次,原來信息安全從業(yè)者在這些漏洞的描述里不可能看到車廠的名字,但是現(xiàn)在可以看到 BMW、奔馳等相關(guān)的漏洞。

      很多車廠覺得從申報漏洞到成功入侵還有一段距離,不見得有漏洞就有真實的攻擊,但我們在 2018 年看到了很多真實的攻擊案例。

      最明顯的是車廠的服務(wù)器平臺倍受攻擊,大眾、特斯拉、豐田、福特還有克萊斯勒百余家汽車廠商的機(jī)密文件被曝光,就是服務(wù)器被黑掉了,設(shè)計圖、訂單,甚至員工的駕駛證、護(hù)照、掃描件都被泄露出來,信息泄露事件比較多。還有特斯拉在亞馬遜上的云服務(wù)器中了勒索病毒,面臨挖礦的風(fēng)險,本田在印度的 5 萬名用戶數(shù)據(jù)泄露,保時捷超過 28700 名客戶數(shù)據(jù)泄露。

      汽車四化以后,主要的兩個風(fēng)險就是控制安全和隱私泄露。還有共享汽車,由于安全問題,也會導(dǎo)致用戶數(shù)據(jù)泄露,澳大利亞的某共享化汽車曾有 9 萬名用戶數(shù)據(jù)泄露,包括行駛軌跡、手機(jī)號等隱私信息。

      轉(zhuǎn)變

      我有幾個觀點(diǎn),首先,整車廠已經(jīng)開始全面地重視安全建設(shè),包括比亞迪和吉利在一些公開的會上都說了自己會重視信息安全。特別是吉利在世界智能汽車網(wǎng)聯(lián)大會上,當(dāng)時李書福董事長在發(fā)言過程中就強(qiáng)調(diào)了信息安全是非常重要的,整車廠在汽車研發(fā)過程中會對此進(jìn)行明確的產(chǎn)品定義,有相應(yīng)的安全防護(hù)系統(tǒng)。

      第二,供應(yīng)商在積極地推出安全防護(hù)方案,整車廠需要安全,供應(yīng)商可以提供相應(yīng)的安全方案。互聯(lián)網(wǎng)廠商如百度、騰訊還有阿里以及360都有針對汽車的網(wǎng)絡(luò)安全方案,這方面的配套都已經(jīng)齊全。2019年,我覺得會百家爭鳴,但是大家解決問題的方法和看問題的角度不一樣,定位也不一樣。2019年,整車廠在選擇方案時能會從這個點(diǎn)上岔開,用不同的安全理念、安全方案加固聯(lián)網(wǎng)汽車。

      標(biāo)準(zhǔn)

      現(xiàn)在有一個國際標(biāo)準(zhǔn)組織已經(jīng)開始牽頭汽車信息安全的標(biāo)準(zhǔn),是ISO/SAE 21434,這個標(biāo)準(zhǔn)實際上要到 2020 年 6 月才能正式公開,現(xiàn)在汽車信息安全建設(shè)還沒有按照標(biāo)準(zhǔn)來做。但是,我們的安全方案已經(jīng)出來了,標(biāo)準(zhǔn)是滯后的,我們安全還是要提前進(jìn)入。

      2018年,ISO/TC22道路車輛技術(shù)委員會下設(shè)的ISO/TC22/SC32/WG11聯(lián)合工作組圍繞國際標(biāo)準(zhǔn)ISO/SAE21434(道路車輛-信息安全工程)的制定,先后在美國、波蘭、以色列等地召開了聯(lián)合工作組會議,明確了該標(biāo)準(zhǔn)的范圍、對象、主要內(nèi)容和框架、工作計劃等。該標(biāo)準(zhǔn)適用于道路車輛的電子電氣系統(tǒng)、各系統(tǒng)間的接口交互與通信;從組織層面規(guī)范對企業(yè)的信息安全管理、風(fēng)險管理要求;規(guī)范道路車輛在安全生命周期內(nèi)的電子電氣系統(tǒng)、系統(tǒng)間接口交互、系統(tǒng)間通信的信息安全技術(shù)要求、威脅分析與風(fēng)險評估方法、安全策略、信息安全系統(tǒng)性測試評價方法、信息安全流程開發(fā)管控要求。

      中國代表團(tuán)正積極參與此項標(biāo)準(zhǔn)的制定,其中包括國內(nèi)知名的主機(jī)廠、零部件供應(yīng)商和信息安全企業(yè)。

      這個標(biāo)準(zhǔn)分為四個方向:

      第一,風(fēng)險管理,對汽車進(jìn)行風(fēng)險評估,看看它有哪些攻擊面,如何攻擊進(jìn)來。

      第二,根據(jù)攻擊結(jié)果形成安全需求進(jìn)行安全開發(fā),正式發(fā)布后發(fā)送給用戶,聯(lián)網(wǎng)汽車與傳統(tǒng)汽車不同的點(diǎn)是,給用戶節(jié)點(diǎn)以后,就要去為聯(lián)網(wǎng)汽車的運(yùn)營和維護(hù)提供保障,所以,以后要進(jìn)行長期持續(xù)的運(yùn)營和維護(hù)。

      3GPP正在進(jìn)行LTE-V2X安全的研究和標(biāo)準(zhǔn)制定工作。其中,安全方面由3GPP SA3工作組負(fù)責(zé),調(diào)研V2X安全威脅,研究V2X安全需求并調(diào)研和評估對現(xiàn)有的安全功能和架構(gòu)的重用和增強(qiáng)以及支持V2X業(yè)務(wù)的LTE 架構(gòu)增強(qiáng)的安全方面研究。

      支持LTE-V2X的3GPP R14版本標(biāo)準(zhǔn)已于2017年正式發(fā)布;支持LTE-V2X增強(qiáng)(LTE-eV2X)的3GPP R15版本標(biāo)準(zhǔn)于2018年6月正式完成;支持5G-V2X的3GPP R16+版本標(biāo)準(zhǔn)宣布于2018年6月啟動研究,將與LTE-V2X/LTE-eV2X形成互補(bǔ)關(guān)系。

      2018年6月,CCC(The Car Connectivity Consortium,車聯(lián)網(wǎng)聯(lián)盟)宣布推出首個針對汽車數(shù)字密匙規(guī)范Digital Key 1.0,這是第一個將智能手機(jī)變成汽車鑰匙的連接標(biāo)準(zhǔn)。

      CCC是一個專注于實現(xiàn)移動設(shè)備與汽車連接的組織,其成員由汽車和智能設(shè)備制造商組成。該聯(lián)盟現(xiàn)任主席是三星美國研究中心的技術(shù)總監(jiān)Mahfuzur Rahman,其董事會成員則由通用汽車、大眾汽車、戴姆勒、本田等公司代表擔(dān)任,重要成員包括奧迪、寶馬、通用汽車、現(xiàn)代、LG電子、松下、三星和大眾汽車,以及中國公司小米、HTC、華為等。

      Digital Key 1.0規(guī)范概述了在解鎖、啟動、共享汽車等場景下存儲在智能手機(jī)上的數(shù)字鑰匙標(biāo)準(zhǔn),以便能實現(xiàn)讓駕駛者通過NFC手機(jī)代替?zhèn)鹘y(tǒng)物理鑰匙的目標(biāo)。由于通過NFC進(jìn)行交互,使得Digital Key 1.0還需要一段時間才能實際實現(xiàn),但標(biāo)準(zhǔn)本身可以保障有效地將數(shù)字鑰匙下載到智能手機(jī)中。同時,CCC聯(lián)盟以及開始了Digital Key 2.0的研究。

      2018年12月,英國標(biāo)準(zhǔn)協(xié)會(British Standards Institute,BSI)發(fā)布了一套網(wǎng)絡(luò)安全標(biāo)準(zhǔn)PAS 1885:2018、PAS 11281:2018。

      我國標(biāo)準(zhǔn)研發(fā)其實也在加快制定的過程中。

      在全國信息技術(shù)安全標(biāo)準(zhǔn)化技術(shù)委員會(信安標(biāo)委,編號為SAC/TC260)中與汽車信息安全相關(guān)立項的標(biāo)準(zhǔn)有:《信息安全技術(shù)車載網(wǎng)絡(luò)設(shè)備信息安全技術(shù)要求》、《信息安全技術(shù)車載終端安全技術(shù)要求》、《信息安全技術(shù)汽車電子信息安全檢測技術(shù)要求及測試評價方法》、《智能網(wǎng)聯(lián)汽車網(wǎng)絡(luò)安全風(fēng)險評估指南》、《信息安全技術(shù)汽車電子系統(tǒng)網(wǎng)絡(luò)安全指南》。

      國內(nèi)的標(biāo)準(zhǔn)是這樣的,各個標(biāo)準(zhǔn)委員會里面都有人在參與和制定標(biāo)準(zhǔn),但中國工信部或者是監(jiān)管機(jī)構(gòu)會采用哪個標(biāo)準(zhǔn),現(xiàn)在還沒有定奪,大家都在寫,都處于觀望狀態(tài)。

      V2X

      近年來,V2X(Vehicle-to-Everything)通信的關(guān)注度不斷攀升,已成為移動無線網(wǎng)絡(luò)領(lǐng)域的研究熱點(diǎn)。中國立推的C-V2X,目前以LTE-V2X技術(shù)為主并向5G-V2X技術(shù)演進(jìn),大唐、華為等可對外提供商用Balong765芯片組;與此同時,華為、大唐等公司可以提供車載單元設(shè)備(On Board Unit,OBU)和路側(cè)單元設(shè)備(Road Side Unit,RSU)。

      我們對V2X的信息安全也做了一個威脅分析,V2X的信息安全主要是兩個方面:

      一是V2X本身數(shù)據(jù)被篡改,可能會引發(fā)蝴蝶效應(yīng),因為以后車車通信,每輛車都會接受其他車的信息,只有要一條信息是假的、是錯誤的,執(zhí)行的結(jié)果就是錯誤的,告訴其他車的結(jié)果也是錯誤的,就會造成一傳十、十傳百的蝴蝶效應(yīng),會造成大面積的交通事故。V2X通信的有效性是我們要保障的。

      二是現(xiàn)在的V2X都是用一張證書進(jìn)行通信,如果在路測部署基站抓證書,就可以泄露這輛車的行駛軌跡,造成隱私泄露的問題。這是V2X的危險,我們寫在這個報告里面。

      建議

      第一,防止數(shù)據(jù)泄露,保護(hù)用戶隱私。

      2018年中發(fā)生多起數(shù)據(jù)泄露事件,其規(guī)模和影響都是巨大的。在大數(shù)據(jù)和云服務(wù)的時代,對于數(shù)據(jù)的保護(hù)也應(yīng)成為汽車廠商、供應(yīng)商、服務(wù)提供商的共同責(zé)任。加強(qiáng)對數(shù)據(jù)安全的考量與投入,至少從五個方面考慮數(shù)據(jù)安全:訪問控制、身份認(rèn)證、數(shù)據(jù)加密與脫敏、容災(zāi)備份與恢復(fù)、安全審計。通過網(wǎng)絡(luò)訪問控制和用戶權(quán)限控制,讓攻擊者進(jìn)不來;多重身份認(rèn)證,防止攻擊者冒充他人身份,實現(xiàn)身份改不了;數(shù)據(jù)加密讓攻擊者看不懂;容災(zāi)措施保障服務(wù)掛不了;安全審計、異常行為檢測讓攻擊行為跑不掉。大數(shù)據(jù)時代,保障好數(shù)據(jù)安全,才能保障智能網(wǎng)聯(lián)汽車的安全。

      第二,智能汽車進(jìn)步,控車仍在繼續(xù),安全開發(fā)要落實。

      從以往的汽車破解案例來看,目前汽車領(lǐng)域的安全手段是有所提高的,但仍存在大量車聯(lián)網(wǎng)、智能化的產(chǎn)品沒有考慮到信息安全的問題。隨著智能網(wǎng)聯(lián)汽車的發(fā)展,越來越智能的汽車為人們提供便利的同時,也給汽車本身帶來更多的攻擊面和安全風(fēng)險;同時隨著攻擊者技術(shù)的提高,使得汽車容易被遠(yuǎn)程控制仍是智能網(wǎng)聯(lián)汽車面臨的主要安全問題。國際或者國內(nèi)的安全標(biāo)準(zhǔn)仍處于建設(shè)時期,智能網(wǎng)聯(lián)汽車仍處于沒有安全標(biāo)準(zhǔn)及規(guī)范的環(huán)境下,建立企業(yè)自身的信息安全標(biāo)準(zhǔn),準(zhǔn)守信息安全開發(fā)流程,才能在車輛上市時保障其信息安全水平,降低被攻擊的風(fēng)險。

      第三,建立動態(tài)安全實施監(jiān)測機(jī)制,及時發(fā)現(xiàn)、及時處理。

      汽車作為一款特殊的商品,其使用時間非常長,使得智能網(wǎng)聯(lián)汽車的信息安全工作成為一項長期持續(xù)的工作。僅僅保障出廠時的安全能力遠(yuǎn)不足以應(yīng)對車輛的生命周期,同時隨攻擊手段的日益進(jìn)步,傳統(tǒng)的被動防御技術(shù)顯得效率低下,對資源的使用效率產(chǎn)生了一定的限制。將車聯(lián)網(wǎng)安全分析、汽車安全防御、安全資源與安全運(yùn)營融合,結(jié)合大數(shù)據(jù)、人工智能、威脅情報等技術(shù)與資源,構(gòu)建動態(tài)防御體系,對車聯(lián)網(wǎng)系統(tǒng)的關(guān)鍵部件進(jìn)行安全監(jiān)測與防護(hù),可以對安全事件更高效、更精準(zhǔn)、更及時地定位與預(yù)警。在動態(tài)監(jiān)測的過程中,及時對潛在安全威脅進(jìn)行分析、評估、處置,通過修改配置、安裝補(bǔ)丁、訪問控制等安全措施,修復(fù)潛在漏洞,提升智能網(wǎng)聯(lián)汽車安全防御能力,達(dá)到智能網(wǎng)聯(lián)汽車的攻防平衡。依靠威脅情報等資源,提取汽車相關(guān)安全態(tài)勢,對潛在安全問題或安全事件進(jìn)行預(yù)研,提前部署相應(yīng)解決對策,進(jìn)一步增強(qiáng)智能網(wǎng)聯(lián)汽車安全防御能力。

      問答

      雷鋒網(wǎng):你總結(jié)了 2018 年十四個汽車攻擊事件,在實操中,主要風(fēng)險是不是集中在數(shù)據(jù)泄露?

      劉健皓:從案例來講,基本上都是信息漏洞的事件,基本上是車廠被搞定了,車廠的云平臺被搞定了,它的數(shù)據(jù)被泄露出來。這些數(shù)據(jù)有沒有價值?實際上也是有價值的。我們在2018年的時候看到暗網(wǎng)有人賣車廠的客戶信息,這些客戶信息都聚焦在車廠的某一個系統(tǒng),這個系統(tǒng)被搞定了,而不是車被搞定了。所以說,車廠的信息泄露跟車的安全沒有直接的關(guān)系。

      還有一方面,由于車的安全問題造成了人在車上面的一些駕駛行為和軌跡隱私相關(guān)的數(shù)據(jù)泄露,現(xiàn)在車廠在這塊的保護(hù)是有考慮,但還沒有這些事件發(fā)生,沒有針對人的攻擊,利用漏洞針對車主進(jìn)行攻擊,把隱私給勾劃出來,這種事件還沒有。可是在我們的研究過程中,實際攻擊者可以去根據(jù)目標(biāo)人把人的行駛軌跡還原,有這種風(fēng)險。

      雷鋒網(wǎng):所以你的觀點(diǎn)是,主要還是對車廠造成的損失會更大一些?

      劉健皓:對。

      雷鋒網(wǎng):你們最近幾個月的研究重點(diǎn)是放在了對漏洞的研究還是在哪些方面?

      劉健皓:從一開始我們破解特斯拉到現(xiàn)在給比亞迪做防護(hù),實際上我們由一個攻擊者轉(zhuǎn)為了防御者。現(xiàn)在實驗室分為兩條線,一條線是幫主機(jī)廠做主動的評估和安全檢測,幫他們發(fā)現(xiàn)問題。正好可以說一下我們的重點(diǎn),我們原來給TSP等傳統(tǒng)車聯(lián)網(wǎng)做安全檢測,現(xiàn)在有很多的車廠給我們提的需求是——能不能對他的自動駕駛安全進(jìn)行測試。到 2020 年,大多數(shù)車廠標(biāo)配了 L3 或者是 L2.5 的汽車,但沒有對自動駕駛的控制器和傳感器的信息安全做過測試,很多車廠已經(jīng)提出這樣的測試需求,我們也承接了這樣的一些測試項目,主要是自動駕駛安全測試。

      雷鋒網(wǎng):你們主要通過點(diǎn)對點(diǎn)跟車廠合作?還和別的平臺合作嗎?

      劉健皓:有與百度的阿波羅那樣的平臺性的合作,他們也有信息安全團(tuán)隊,他們的團(tuán)隊也在做自動駕駛的安全檢測。自動駕駛安全主要是分為兩個方面:一個是傳感器的安全,有一種是算法上的安全。

      雷鋒網(wǎng):除了跟車廠的合作,有沒有跟其他的提供安全方案的廠商合作?

      劉健皓:跟車廠合作,他們那里有很多的需求具體的需求對接的是他們的一級供應(yīng)商,比如說博世、聯(lián)電,還有 V2X 的安全方面,我們是有合作的。還有蔚來現(xiàn)在V2X以后,智能交通還有路測設(shè)備的,RSU這塊的廠商,像路測單元的廠商也需要信息安全防護(hù),擴(kuò)大的面就非常廣了。

      雷鋒網(wǎng):具體的合作方式是實際路測還是仿真的檢測?

      劉健皓:自動駕駛的功能和安全是兩碼事,功能是需要中國有幾個示范區(qū),上海的、北京的、重慶的、長沙的都會有一些自動駕駛的示范區(qū)和牌照,那是屬于自動駕駛的功能測試。但從反饋的結(jié)果來看,只有發(fā)牌照的時候知道有誰,路測的時間非常短,不像特斯拉的自動駕駛的測試,首先是賣了一批車,通過遠(yuǎn)程OTA更新,更新完了之后直接讓用戶去測,測完了之后再慢慢地細(xì)化算法,再更新人機(jī)交互系統(tǒng),但國內(nèi)還是屬于在封閉式的園區(qū)路測階段。這是功能性的測試,我們的安全測試是上不了路的,我們的路上是在臺駕階段,是在實驗室里面,把傳感器拆掉,測試一下能不能被攻擊。

      雷鋒網(wǎng):現(xiàn)在你們跟提供安全服務(wù)的友商競爭點(diǎn)主要是集中在哪里,到了哪個階段?雖然你們和很多汽車廠商有合作,在ToB這塊你們遇到的難點(diǎn)是什么?

      劉健皓:現(xiàn)在遇到的難點(diǎn)應(yīng)該是整車廠的整車預(yù)算里沒有安全預(yù)算,安全也一下子賣不上一個很好的價錢,有一些企業(yè)安全的項目實際上都是從其他的項目里面騰出的一部分錢。像BAT和我們都比較尷尬。可是要從商機(jī)的角度來說,2018 年有一個很大的遞增,早期我們開始做車聯(lián)網(wǎng)時不太受待見,有的車廠會說車聯(lián)網(wǎng)的安全是屬于國家的,與我們無關(guān),有的不會考慮車聯(lián)網(wǎng)安全。到現(xiàn)在大家都開始知道車聯(lián)網(wǎng)安全,意識上提升了。最早說車聯(lián)網(wǎng)安全,別人說的是業(yè)務(wù)和自動駕駛,我們現(xiàn)在說的都是車聯(lián)網(wǎng)安全,而且大家說的都差不多,車廠從高層的意識來說,只能說下面在做這塊工作的時候有一定的意識,研發(fā)追責(zé)也會從其他的項目來進(jìn)行。

      商機(jī)不好說,如果說一個車廠把安全的預(yù)算加入到整車預(yù)算里面,這個商機(jī)是特別大的,如果不加到里面,大家做的都不是特別大。

      雷鋒網(wǎng):所以不存在太多競爭嗎?

      劉健皓:也存在競爭,這個競爭得看從哪個方面說。從軟件層面看,BAT或者是這之間是有競爭的,這是我們的強(qiáng)項。從硬件方面,假如我們要把安全的軟件或者說硬件或者是BAT的硬件也做了,面臨的就是以前的主機(jī)廠 tier1 和 tier2 的競爭,這種競爭是非常慘烈的。之前有競爭廠商說有什么安全的控制器想賣一個價錢,這種競爭可能會是一個爆發(fā)點(diǎn)。

      2014年、2015年,我們基本上沒有什么競爭對手,我們自己有了研究成果,車廠主動看到了研究成果,讓我們給他做測試和提供防護(hù)。從2017年、2018年開始,首先是國家監(jiān)管機(jī)構(gòu)重視到這一塊了,他們開宣傳教育用戶,用戶反應(yīng)不過來。之后用戶給傳統(tǒng)的安全廠商提了一些需求,培育了很多類似于傳統(tǒng)信息安全的公司搞車聯(lián)網(wǎng)。2017年這些廠商還說不懂,2018年說可以做一做,2019年他們已經(jīng)有了解決方案,他們的解決方案還是從傳統(tǒng)的安全防護(hù)角度來做,沒有從車本身來,所以說跟我們的方案還是有一定的差距的,但是在2019年一定是百家爭鳴的場景,各家都有安全方案,車廠有很多選擇。這就是競爭的趨勢,但不會太白熱化,因為差距還是存在的。真正白熱化應(yīng)該是在 2021 年左右,2021 年可能是一個點(diǎn),汽車的增長量會達(dá)到 3000 萬輛,汽車市場又會熱起來,到了那個點(diǎn),其實車廠也會把它的網(wǎng)絡(luò)安全預(yù)算放在整車預(yù)算里,這時就是要拼真刀真槍了,很多真金白銀也會下來。現(xiàn)在基本上我們做的項目是 2020 年或是 2021 年發(fā)布的汽車,今年會有很多的傳統(tǒng)網(wǎng)絡(luò)安全廠商擠進(jìn)來。

      雷鋒網(wǎng):你們會做技術(shù)層面的計劃嗎?

      劉健皓:目前沒有,而且目前我們知道的很多的傳統(tǒng)廠商想出名,他們也會買一輛特斯拉強(qiáng)行找一個漏洞說我也破解了特斯拉,會有越來越多的人破解特斯拉,前赴后繼地破解特斯拉。

      雷鋒網(wǎng):和老對手、新對手有什么合作的地方嗎?

      劉健皓:360 的定位已經(jīng)很清楚了,我們只做應(yīng)用層和網(wǎng)絡(luò)層的動態(tài)防護(hù),所以像騰訊、百度都有合作點(diǎn),百度是做自動駕駛的,我們完全有一些自動駕駛的合作就可以開展。騰訊主要是做內(nèi)核的防護(hù),主要是對系統(tǒng)的內(nèi)核進(jìn)行加固,這跟我們的出路不太一樣,不是因為我們的技術(shù)的深度不夠,是因為我們真的是不敢動系統(tǒng)內(nèi)核,車本來就是一個高實施性的交通工具,如果系統(tǒng)改了出現(xiàn)崩潰,直接與人命相關(guān),我們不碰這塊,我們有足夠的信息和能力,通過網(wǎng)絡(luò)層和應(yīng)用層可狙擊攻擊,各家的理念不一樣。

      寶馬很早就開始做信息安全了,車內(nèi)網(wǎng)絡(luò)都有 PKI、證書密鑰這套系統(tǒng),各個 ECU 之間也可以相互認(rèn)證,底層的安全啟動到安全的執(zhí)行環(huán)境,應(yīng)用安全、網(wǎng)絡(luò)防護(hù)都有。他們可能就喜歡這種從正向建設(shè)的安全方案,但成本非常非常高,最后可能還是用戶來買單,建設(shè)方案成本非常高。我們出來的這套方案實際上  當(dāng)于是找到了攻防平衡的點(diǎn),能保證相對的安全。

      雷鋒網(wǎng):你們現(xiàn)在重心是再拓展一些新廠商還是跟現(xiàn)有的廠商把合作方案深化一下?

      劉健皓:現(xiàn)在基本上節(jié)奏就是第一年做評估,第二年是部署產(chǎn)品不斷地深化,有一些新的用戶在持續(xù)地擴(kuò)展,其實國內(nèi)的車廠也就這幾家,跑完了就開始長期持續(xù)有一些新的需求,比如說第一年做評估,第二年做完產(chǎn)品之后,第三年做什么?實際上在第二年的過程中很多的車廠有自己的想法和需求會給我們,我們會給他們做一些開發(fā)和預(yù)研,車廠用了我們這套系統(tǒng)之后發(fā)現(xiàn)有很多的結(jié)合自己系統(tǒng)的安全防護(hù)需求,就會讓我們做開放。我們也幫車廠發(fā)現(xiàn)了很多安全問題,比如一個車型發(fā)布了,它的車載娛樂系統(tǒng)非常炫酷,國外的廠商把車買過去,想把車破解掉研究,結(jié)果就被我們攔住了,這個產(chǎn)品對他們來講還是非常有價值的。

      雷鋒網(wǎng):這個項目現(xiàn)在盈利嗎?

      劉健皓:基本上能夠自負(fù)盈虧,我們團(tuán)隊20個人。賺錢可能還是比較難的,應(yīng)用轉(zhuǎn)正還比較難,但現(xiàn)在車廠的預(yù)算也的確是很少。

      只是小幾千萬,很慘很慘。但這一塊市場規(guī)模我可以說一下,中國每年新增 2800 萬輛,這是去年的數(shù)字,前年也是 2800 萬輛,根據(jù) RHS 咨詢機(jī)構(gòu)預(yù)測,2020 年以后基本上每年保持在 3000 萬輛左右,其實有50% 以上的都是聯(lián)網(wǎng)汽車,有 1500 萬輛到 2000 萬輛是聯(lián)網(wǎng)汽車,每臺聯(lián)網(wǎng)汽車大概網(wǎng)絡(luò)安全預(yù)算能到100塊錢左右,也就是一個百億級的市場。

      ----一個來自編輯碎碎念的彩蛋----

      為什么這次開走特斯拉的不是中國黑客代表,你猜我會怎么說?

      A.破解太多不想玩了

      B.實力不如別人(呵呵,只是湊個選項)

      C.emmm不能說,不讓玩

      雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知

      分享:
      相關(guān)文章

      編輯、作者

      跟蹤互聯(lián)網(wǎng)安全、黑客、極客。微信:qinqin0511。
      當(dāng)月熱門文章
      最新文章
      請?zhí)顚懮暾埲速Y料
      姓名
      電話
      郵箱
      微信號
      作品鏈接
      個人簡介
      為了您的賬戶安全,請驗證郵箱
      您的郵箱還未驗證,完成可獲20積分喲!
      請驗證您的郵箱
      立即驗證
      完善賬號信息
      您的賬號已經(jīng)綁定,現(xiàn)在您可以設(shè)置密碼以方便用郵箱登錄
      立即設(shè)置 以后再說
      主站蜘蛛池模板: 调解の锁| 激战电视剧全集免费下载高清| 女英雄堕落之水星陨落2在线观| 天火传说ol| 绝爱之城电视剧| 福星高照猪八戒插曲| 泰囧途高清完整版下载| 三年中文免费播放观看| 米奇妙妙屋英语版动漫| 电影在线观看免费观看高清版| 寂寞的人妻水电工维修| 韩国电影禁止的爱完整版在线观看| 血战钢锯岭完整版| 插曲的痛30集全集观看免费西瓜 | 尖刀班的五天五夜| 睫毛膏1983美国电影在线观看| 囧妈西瓜影音| 电视剧盛夏晚晴天全集| 海之声电影在线观看免费完整高清原声| 《乌云之上》在线观看| 陆小凤张智霖| 人是铁饭是钢全集| 交换玩弄两个美妇教师韩国电影| 美乃雀赎罪电影哪里看| 产妇大出血院长深夜跨院摇人| 金刚大战哥斯拉在线 | 68威士忌在线观看| 麦乐迪版女超人完整版免费看| 白峰电影在线观看在线播放 | 6帕克禁忌| 智者无敌白鸽| 雍正王朝高清全集在线观看| 劳拉的诱惑| 人肉叉烧包2之天诛地灭| 凯·帕克的姨妈三部曲| 怪你过分美丽在线观看| 极品教师第二季免费观看| 李卫当官全集| 沧元图59集在线观看高清| 电影《绿茵星妈》免费观看| 《局内人》电影完整版在线观看| 高清《人世间》免费全集| 医武弃少:双绝超神完整版观看| 游戏解说| 中国梦之声第一季| 高中生被C到爽哭视频免费| 歌唱祖国的歌曲| HD版激战丛林完整版| 1PPD%82女友巨乳姐内电影| 韩剧《妈妈的女儿》| 中餐厅7| 龙游县| 动漫烟花| 牙医姐妹1986年日本| 在你灿烂的季节电视剧| 至尊红颜贾静雯版| 《需要爸爸播种子2》演员全名| 女教师の爆乳BD在线观看| 高清卷卷初恋未删减| 隔壁邻居很美味| 电视剧错爱1| 法国少女农场在线观看| 关晓彤真实睡姿曝光| 虎胆龙威5迅雷下载| 坎贝奇无憾完整版在线观看| 古惑仔之少年激斗| 爱我几何原版无删减版观看| 法证先锋6电视剧全集在线观看| 警察锅哥播放电视剧一共40集| 启航2013| 干柴烈火2免费观看电视剧| 电影《干柴烈火》| 日在校园h| 电视剧需要爸爸播种子剧情| 一起愁愁30集全集免费看| 全金属外壳 电影| 《朋友的妻子》在线观看| 我推的孩子动漫| 翁与小莹十三部07章| 家属动漫全集完整版| 龙珠大魔免费观看| 霸气逆袭| 新天师斗僵尸2| 暴躁老妈86集全免费观| 玉蒲团之愉情宝鉴在线观看| 天空影院tv官网| 需要爸爸的种子在线观看| 铠甲勇士52| 铿铿铿锵锵锵锵高清免费观看| 京华烟云赵雅芝版| 禁忌美国| 家有喜事2009| 爱情的牙齿在线观看| 《性的暴行》未删减版| 熊出没之年货| 甄嬛传43集| 三年中国中文电影在线观看| 搞笑一家人第三部| 东京难民| 按摩椅PLAY啊太快了H| 峡谷在线观看高清完整| 劳拉失忆症1997免费版| 邻居的秘密| 总裁有疾闪婚来袭短剧免费观看| 高清《检察官》全集观看| 天国阶梯中文版| 《部长来家》电影| 朋友的妈妈2中字线观高清| 玉女心经3之阴阳结合电视剧免费| 青梅竹马:两小无猜超甜短剧全集| 幸福触手可及电视剧全集免费观看| 双女任务在线观看| 《淋漓尽致3》| 铁齿铜牙纪晓岚第1部免费观看| 好莱坞秘密花园免费观看完整版| 一扑二主全集| 女律师的堕落01经典片免费看| 误判粤语抢先版在线观看| 几分钟网站| 雷佳音喜剧电视剧| 那金花和她的女婿46| 《房奴试爱》开头原声| 浪漫玛丽国语版全集| 《部长出差的日子》完整版| 电视剧王牌部队| 永生守卫| 最高对决| 《落魄贵族琉璃川》动漫观看| 电影囧妈免费观看| 吴健台湾农民伯伯下乡2国语版大陆 | 绝地枪王2| oneday在线完整版观看免费| 魔侠传好玩吗| 奸魔| 如果我不曾见过太阳第二季 | 《部长来我家| 一出好戏免费观看高清| 电影《姐妹牙医》完整版在线播放| 罪恶王冠第二季| 《青春变形记》国语版在线观看| 铿锵锵锵锵免费下载完整版| 裙子里面有神兽| 1992米利亚姆莱昂| 女皇之刃下载| 我怀了你的孩子第7集免费| 年轻的后妈在观整有限中字| 电视剧虎刺红全集免费播放| 战狼6免费观看播放下载 | 布兰迪洛夫《不当军事行为》2017免费 | 需要爸爸播种籽2中文版免费观看| 河北彩花陪上司出差mv| 帝王之妾韩剧在线观看免费全集| 女员工的付出部长(中字)| 火影忍者the last| 匿杀未删减| 痴心的我完整无删减版粤语| 铁石心肠2019免费观看全集| 黑白配免费版在线观看 | 最毒美人心2| 大港区| 电热毯可以折叠使用吗| 《渔夫的荒野史记》免费观看 | 壮志凌云满天星未删减版| 华丽的诱惑| 矿桥第8集体检超棒| 最新韩剧电视剧| 植物大战僵尸动画片免费观看| 看了又看第五部| 林由奈jufd467在线播放| 周弘《村姑》在线播放| 《汤摇庄的幽奈同学》| 美国《爱上儿子》电影 | 只手遮天九千岁1到100集| 电视剧乌云之上在线观看| 痞子英雄2电影| 战洪图免费| 斯巴达女勇士HR版| 新疆教育厅原厅长带头编问题教材| lx司令第一季动漫| 《隔壁女邻居3》BD高清| 失控drive| 要爸爸种子| 别和陌生人跳舞全集| 人猿泰山1995免费观看完整版| 墨白电视剧免费观看在线观看超清 | 消失的妻子全集观看| 麦子交换2免费观看2023年上映时间表| 诛仙2电影完整免费观看| 工藤拉拉大片在线观看| 凯旋在子夜电影完整版在线观看| 朝鲜牡丹峰乐团成员| 差差差30分钟无盖视频| 龙之谷夏萝莉的照片| 《醉酒,被夺走》在线观看| 完美世界全集免费| 《豪华女建筑师》电影百度云| 蝶舞天涯全集| 《急诊护士》无删减播放| 游戏大作战泰剧在线观看免费| 库车县| 漂亮的科室医生3| 小小影视免费| 一马换三羊剧情介绍| 龙城生死恋| 电影长城大决战| 包青天之开封奇案第40集免费观看 | 天降女子动漫| 高清权力王朝:默多克家族未删减| 终极强奸之兽性诱惑| 琉璃免费观看| 男生女生高清在线观看| 美国式家庭忌讳1-| 亲爱的老师HD中字免费| 香醇绣感2普通话版剧情介绍 | 坎贝奇的《品味人生》免费完整版| 澡堂老板家的男人们国语| 小敏回忆第一季免费观看高清| 《激战丛林》无删除版 | 金鸡sss 电影| 陆小凤传奇绣花大盗| 女超人麦乐迪星辰影院 | TOTAKKAHAYAKIRGUZUX| 电视剧红妆| 美国A片巜禁忌5》偷欢| 《娜塔莎》电影在线观看| 水管修理工HD| 黑帮老大和我的365天第一部 | 猛鬼舔人2| 不止喜欢你电视剧免费观看| 《《特殊的房产销售2》》HD免费免费在线观看-2003年全集纪录剧 - 天美影院 | 《尸城》| 姑娘我爱你舞蹈| 江苏卫视跨年彩排大片| 韩国18禁电影风暴尺度大| 《千金赤子板栗》完整版 | 骨语电视剧| 俄罗斯空乘4完整版| 《我的罪恶人生》| 寂寞的人妻水电工维修| 中国教育考试网官网登录入口| 白峄美羽A V在线| 剑蝶电视剧全集| 在姨妈家的客厅| 澳门风云1| 万古齐天全集免费观看| 老男孩之猛龙过江西瓜影音| 印度电影爱的火山| 如懿传全集| 依兰爱情故事在线观看| 漂亮的小瘦子| 《一年后的你》动漫免费观看| 聚伦色网| 英雄慢走| 阿宾91| 《公的浮之手中字》免费| 修理工的艳遇完整版| 仙逆113集在线看| 国风按摩院在线播放免费观看最新章| 张国荣天使之爱| 白峰美羽主演的为父报仇| 绝世唐门第五季| 高清《点石成金》电影| 天使在线| 时光就像一把杀猪刀| 法国空姐3在线观看完整免费高| 男人不难嫁片尾曲| 总统之夜在线观看| 夫妻之间免费观看完整版韩国| 戏台电影陈佩斯抢先版免费看| 我的远房表妹| 小鱼影剧| 高压监控| 电视剧樱桃| 女战狼6免费高清版| 三滴血电影| 以家人之名在线| 空调师傅疑操作不当致买家触电身亡| 小猪佩奇 第十季 2024| 做aj的电视剧大全免费观看英国| 姚明场边大喊:不要犯规| 西华县| 中俄列车大劫案纪录片| 北京生物疫苗是国药吗| 兔子先生第一季在线观看免费高清| 年轻气盛| 小小水蜜6电视剧免费观看最新章节| 台剧恋爱之瘾在线观看| 姐姐6免费完整高清电视剧在线看| 狙击枪怎么折| 百万新娘第一部全集| 作者回应二舅爆火| 如果还有明天第三季| 风之刀粤语| 满天星《V家酒店第一季》在线播放| 完美世界dj| 后营露宿第二季在线观看| 《坏修女》免费观看高清电影 | 早春二月| 楚汉传奇迅雷下载| 霹雳大喇叭国语| 分手大师完整版| 一天 韩剧| 不成问题的问题| 《总统夫人》星克莱尔1997年满天星在| 纯情房东俏房客| 50岁阿姨电视剧全集免费观看| 孽欲狐仙| 白峰电影免费高清播放平台| 电影风声未删减版在哪里可以看| 遥控器控制女老板的电影| 八兄弟电视剧全集在线观看免费| 古装连续剧| 电影巜商务旅行戴绿色帽的演员表| 青春之旅电影| 大凶女前辈在线观看| 了不起的村落| 孤高电影免费播放| 《兄弟换麦子6国语版1080P》bd影视免费在线观看 - 云端影库 | 晚秋的结局是什么意思| 周弘电影在线观看免费| 短剧免费看全集| 对外秘密:权力的诞生电影| 星克莱尔《总统》在线| 西铁学校操场鬼火事件| 爸爸要你的种子| 元宵晚会| 福禄双全| 金基范段誉| 皇太子的初恋| 美味的老婆| 女同学中字| 女人花原唱| 电影《千金与佣人》免费观看全集 | 魔尺的玩法| 还有明天韩剧| 牲生活电影| 当头炮的走法| 销售的秘密2在线观看完整版| 电影永恒的爱情| 法证先锋5| 极道鲜师| 《四平青年》| 99re在线观看视频| 年轻的继坶5免费观看| 急救护士2成人版| 聚会的目的2中字谜给看电影 | 十八岁的小妹叫29岁叫什么| 瓜达卢佩的玫瑰 在线观看| 中国第一鬼城| 我喜欢你免费观看电视剧| 快播电影播放器官方下载| 电视剧女婿难当| 韩国野花精油按摩师视频| 守龙者动画片免费观看国语版| 家庭矛盾4麦乐迪在线 | 机动战士高达水星的魔女| 最强驱魔师vs花子第一集免费观看视频 | 娃嘎电影网免费观看| 特利迦奥特曼国语免费观看| 女儿国3在线观看免费版高清,挡不住的思念电影免费观看 | 泰剧人的价值| 黄色影院| 愈合伴侣韩剧在线观看| 按摩乳房的电影| 将军家的小娘子免费观看影视大全| 《驯服小峓子2》丽卡| 那年我们一起追过的女孩| 麦乐迪版满天星无删减观看 | 《10号舱房的女人》| 夜蒲在线观看| 旺达幻视| 哇嘎在线免费观看| 陈观泰电影| 盐边县| 老司机的爱情故事| 曹云金官场斗| 《overflower》第一季动漫真人版| 黄日华版天龙八部| 法国空少电影| 激战丛林完整版免费国语在线观看 | 激战厨房1-5集全部免费观看| 好妈妈高清在线播放中文| 威尔和格蕾丝第三季| 陪讨厌部长去出差旅视频| 《格林童话》免费观看| 《活着》电影完整版| 我有爱人了韩剧免费观看| 以猫饲爱全集观看| 韩国电影我的妻子| 沈殿霞追悼会| 三客优理论| 韩国荷尔蒙爆发的视频原声| 龙咁威2之皇母娘娘呢| 千王之王2000| 涡阳县| 极度深寒2深海惊变| 电影丝袜会所| 男女一起愁愁愁免费网站| 731部队高清免费观看| 《睫毛膏3》美国| 乌克兰航空4在线观看| shameless第二季在线播放| 双世宠妃3免费观看完整版电视剧| 亲切的金子趴在桌子上的一段粤语| 铿铿锵锵锵免费观看全集高清| 广西一村庄被淹4个月水位仍在涨| 男女一起愁| 蜜桃成熟时3d| 《爱你几何》高清全集免费看| 女夜叉电影国语版普通话| 鹊刀门传奇免费观看| 冠心病最怕什么刺激| 电影玩火在线观看完整版| 维修师傅的艳遇韩国理论片在线观看| 平凡之路电视剧免费观看| 岐山县| 扫黑风暴21集在线观看| 民初奇人传全集免费观看| 三年大全线观看免费| 屠龙少年历险记| 新婚初夜| 年代秀20120706| 娜塔莉在线| 插曲的痛全集免费观看高清版| 爱情的牙齿在线观看| 《出手》短剧在线观看| 暴走财神5在线观看免费完整版| 《天相》动漫免费观看| 天若有情 刘德华| 海之声免费观看完整| 爱情公寓免费观看完整版在线观看 | 高清宇宙面包店| 陈宝莲《满天星》| 新疆教育厅原厅长带头编问题教材| 当代弃少短剧全集| 免费看电视剧珠帘玉幕| 《窃视者》电影在线看完整版免费| 《是上司也是老婆》第二季| 舞力对决国语| 高压监狱在线观看完整免费高清原声满天星奔跑吧式叫庆 | 高清《高嫁柳嫁家》在线看| 需要爸爸种子电视剧在线观看| 吴京电影长津湖抢先版| 铿锵锵锵锵免费观看完整版| 动画片 葫芦娃| 黛比浪漫女家教| 在异世界迷宫开后迷宫无遮挡版| 高清《琉璃厂传奇》电视剧| 《禁忌》1无删减| 坎贝奇《无憾》免费完整观看 | 电视剧甜蜜蜜下载| 蓝色的帽子在线观看| 小麻薯百变衣柜教程| 销售的销售秘密6HD中字| 电视剧三生三世在线观看全集| 犬夜叉完结篇国语版全集| 上瘾电视剧24集全| 龙年图片壁纸| 社长秘书电影| 初代奥特曼中文版全集免费观看| 新金平瓶梅2| 盲战在线观看完整版1080| 盛唐风流全集免费观看 | 星期三电影| 冯巩全集| 永生守卫2妹妹归来| 日本伦理剧维修工的艳遇| 爱的罗曼史吉他简谱| 初体验5完整版| 朋友的姑姑2016| 郝板栗《千金与佣人》| 喊麦现场| 爱的蹦极结局| 妻子 日韩电影| 包青天开封奇案| 特别酒店美国1983| 小巷人家1至42集| 学校2013一共多少集| 命运之夜天之杯| 新成长的烦恼第2季| 需要爸爸播种子在线观看,正在播放《需要爸爸播种子》在线观看HD中字_无极影视 | 藏凤短剧全集在线观看| 唯你归途短剧免费观看| 强制窃贼| 369看妳懂的电影在线观看| 跟着书本去旅行纪录片观看完整版 | 朋友的妈妈2观有限中字| 私人航空完整版免费观看| 不小心进了岳坶的身体| 大话水浒什么职业好| 我的不良义姐动漫第2集免费| 带货女王全集免费| 《法国空少》免费观看| 水晶兰为什么叫死亡之花| 告密者在线观看| 下北泽之虎胆龙威| 转角遇到爱全集| 金银瓶1-5hd日语| 斗罗大陆樱花动漫观看第26集| 法证先锋1粤语在线播放免费| 舞男情未了 任达华| 花样少年少女| 电影美乃雀主演在线观看| 《康熙王朝》大结局| 熊出没新版| 法国空乘2009版寒班| 《宿主》| 电影《蛇妖1988》空姐满天星在线观看 | 两女 一杯在线观看| 敦煌夜谭| 棒棒tv| 长跑呼吸| 艰难爱情| 千年血战篇| 白莲花 电视剧| 农民伯伯2免费完整版电影 | 和妈妈一天做三次| 女超人麦乐迪在线播放| 高清盐沼之下| 女超人麦| 长河落日在线电视剧免费观看| 需要爸爸播种子2美国电影1976女主角演员是谁? | 少女之森电影免费播放| 纸牌屋第2季| 啄木鸟壮志凌云在线电影完整版观看| 吧l啦啦小魔仙之彩虹心石| 拥抱太阳的月亮国语版| 加菲猫大电影1普通话版免费| 美女大战精子1| 爱几何在线观看免费全集| 新的哥哥在线| 《你和我的倾城时光》电视剧 | 青山是故乡| 新金瓶梅 下载| 高清鬼女之家| TOTAKKAHayaKirguzux节日| 龙棺古墓西夏狼王在线观看| 3根一起会坏掉的好疼| 杰西简壮志凌云| 失忆的劳拉电影| 像回复术士那样的动漫| 红色假期黑色婚礼百度影音| 南拳北腿粤语| 酒店1-5集高清免费观看| 儿歌童谣打电话| dasd-409| 《妻子的谎言》韩剧| 四平青年第一季高清| 浑身是劲2011| 《淫の方程式》动漫| 雪中悍刀行第二部免费观看完整版| 《overflower》动漫第1季免费观看全集| 疯狂的石头在线观看| 斗罗大陆184集| 义子的侵犯电影| 乱世三义电视剧免费观看 | 莱利里德黑白配在线观看高清 | 琉璃电视剧在线观看免费全集| 韩国女销售卖房子电影叫啥| 电影活色生香| 群星追忆张国荣2012演唱会 | 老电影庐山恋| 金银瓶1-5hd手机版| 一人之下第四季在线观看| 电视剧狂飙在哪里能免费观看| 兔子先生第一季第8期| 优越的一天电视剧全集完整版| 公的浮之手在线观看完整版| 无限超越群星演唱会| 我的灿烂人生下载| 《不好笑就露宿街头》| 家国两难全| 激战丛林美国未删减完整版在线观看 | 女超人法国电影完整在线观看| 哈利波特8免费完整版在线观看| 爱情宝鉴叶子楣版| 鬼吹灯之昆仑神宫电视剧免费观看| 穆桂英裸体DVD在播放| 斗罗大陆3d动画| 几度菊花香| 麦乐迪马斯克女超人观看完整版| 高福:长新冠是基本事实| 战狼6观看在线下载高清| 我爱hk开心万岁国语| 国家审计电视剧全集在线观看| 女超人麦乐蒂| 爱的理想生活电视剧| 飞狐外传电视剧| 丁度执导18禁电影| 性生交大片免费看女人按摩| 怀念中国| 家和万事兴亮亮结局| 花房姑娘三免费观看高清电视剧 | 姨母免费观看电视剧| 铜梁县| 决战风铃渡28集免费观看| 台湾电影《越南妹》| 3v1三人一次性体检视频| 短剧《炽热吸引》免费观看| 天峨县| 力量塔在线观看免费完整版高清| 独行月球在线观看| 星克莱尔的《第一夫人》在线观看 | 野外农村经典三级在线观看| 突围行动剧情| 金甁梅电视剧高清版| 撞任长霞的肇事者| 荷尔蒙6电影在线观看免费| 哈利波特电影| 郑秀文演唱会2010| 卖房的女销售2| 绝密卧底全集完整版| 一天内全球多地发生客机事故| 杨敏思版1-5集电视连续剧| 律政俏佳人| 白峰电影全集免费看| 《千金》在线完整观看日剧| 许我耀眼电视剧26集免费观看| 加勒比海盗成人版海盗 | 东北往事之黑道风云20年11集| 好声音停播前排评论IP地址引争议 | 我家女友可不止可爱呢| 《v酒店》第一季在线观看| 阴阳路1-20全集免费| 星汉灿烂电视剧56集完全版| 韩国伦理电影需要爸爸的种子| 我的漂亮姐姐韩剧完整版中文| 白天摸摸哒晚上摸摸哒是什么歌| 九龙城寨免费高清| 末日之热浪来袭短剧| 我的健身锻炼3完整版| 王牌特工2迅雷下载| 单身即地狱第三季在线观看| 荷尔蒙3中文版| 动画片美猴王全集| 员工被冤枉与领导起争执被扇脸| 战狼6在线观看完整版| 女武神的终末动漫在线观看| 韩国同学会| JUL-945三船美铃在线播放| 扫黑风暴11集| 何以笙箫默在线看免费西瓜影院| 矿山人家| 喜爱夜蒲国语版高清| 搜索在线观看| 浅井舞香的电影| 孤舟 电视剧| 淑蓉又痒了办公室献身| 闽清县| 男得有爱在线观看| 王琦 九种体质| 二对一的商务模式2| 羚羊号历险记| 无忧渡电视剧在线观看全集| 高压监狱在线观看完整免费高清原声满天星2019 | 人世间原唱| 六福喜事百度影音| 克劳迪娅科尔《情陷迷途》 | 把可爱的男孩子c哭动漫| 七时吉祥全集免费观看| 爱我几何原版无删减版百度云| 邋遢大王奇遇记免费| 孤岛飞鹰全集下载| 《四个混血大学生》2完整版| 郭达蔡明小品打针| 电视剧《雪狼》完整版| 销售的销售秘密2HD中字国| 心火电影在线观看完整免费高清版| 放羊的星星全集| 斯巴达(大人版)满天星| 赤裸惊魂| 歌曲披着羊皮的狼| 星克莱尔总统夫人1997 | 《扫黑·决战》电影| 韩剧三姐妹| 中国四大民间传说| 女老板电影| 神奇的眼镜韩国免费观看完整版| 陪读妈妈1-| 旧里番无修在线观看| 《《特殊的房产销售2》》HD免费免费在线观看-2003年全集纪录剧 - 天美影院 | 圣特罗佩的姑娘们高清| 铁甲雄心第二季| 金瓶梅电影在线完整版观看| 爱我几何莫妮卡原版| 英雄虎胆电影| 商务部暂停天然砂对台湾地区出口| 朋友的闺蜜ID中字| 和尚爱上我| 创造营亚洲第二季| 生化危机 影音| 八戒八戒8在线电影大全| 杯子蛋糕店| 暮光之城1高清| 束缚游戏观看| 巨鳄风暴完整版电影免费观看| 牛仔裤的夏天1| 年轻母亲2| 韩国电影诱人的女房东| 名侦探柯南609| 黎明之前电视剧在线观看免费全集| 特殊保险推销员5哪里能看| 洗冤录 电视剧| 名侦探柯南vs鲁邦三世| xl司令第一季免费观看全集| 宋小宝看病| 搞笑一家人高清全集| XL司令第一季免费全集在线观看 | 宇宙星神全集2| 浮之手中字12| 很爱很爱你电视剧| 甄嬛传63集剧情| 《美容院:特殊待遇》在线观看| 普法栏目剧回家6| 时寒冰说经济大棋局我们怎么办| 人猿泰山电影1995意大利| 黄鼠狼迷人| 小鸡不好惹第五部| 泡剧网最新电视剧大全免费| 苦尽甘来韩剧免费观看| 驱魔天师| 电影《牙医姐妹》正片 | 无憾坎贝奇无删减版在线播放免费观| 谈判官电视剧免费观看完整版 | 需要爸爸播种子电视剧免费观看| 美国内战| 维修工艳遇日剧| 《名侦探柯南:独眼的残像》| 一生一世电视剧在线高清免费观看| 水电维修工的绝遇2| 唾弃你的坟墓2| 长安三万里提前抢先看完整版| 小小影视app官网| 美姊妹剥赤板栗是哪一集| 美女脱得一光二净的全身图片| 大明劫在线观看| yjzz日本在线观看| 双枪李向阳| 总裁的秘书妻| 美容院特殊待遇免费观看| 韩版欺诈游戏| 《戴拿奥特曼》免费观看| 和部长一起出差旅电视剧在线观看 | 强奸快播| 我的奴隶| 一起愁愁愁免费观看完整版在线观看| 欧美vivoestv高清| xenos陌生人| 特殊理发店| 完美先生和差不多小姐电视剧 | 歼灭天际线的日韩专辑在哪| 丰满女教师BD高清| 爱丫爱丫免费国语高清在线看| 非主流婚礼| 有钱了小品| 我朋友的老姐线在完整版| 牙医姐妹电影在线完整免费观看1986| 无所畏惧40集免费观看| 济公之神龙再现| 黑白黑白配免费免费观看视频| 解禁男女在线观看| 折腰电视剧全集| 杰西简《荣誉守则》电影免费观看 | 满天星版《荒!女儿国》| 黎明之前电视剧在线观看免费全集| 男女愁愁愁免费观看电视剧| 猎狼电影免费播放完整版| 我们都要好好的免费版电视剧下载 | 女大学生按摩3| 天道电视剧免费观看| 花花公子电子杂志| 《法国女仆》安娜的扮演者| 《异国日记》| 水上人家| 五福星全集| 布兰迪《军事不当行为2》在线观看完| 怀旧酷狱忠魂下| 闪婚五十岁短剧全集播放免费观看| 战狼6免费电影在线观看高清| 《大道独行之蝶龙变》| 喜人奇妙夜综艺免费观看| 美国娃娃脸4| 丁度·巴拉斯电影全集| 女超人完整版| 一马换三羊电视剧| 星球大战前传3| 激战酒店1-9集在线播放最新版本更新| 雍正王朝高清全集在线观看| 惊奇4潮男| 遥控器控制女领导免费观看| 哈利波特h版在线观看| 烧仙草和龟苓膏| 张警官三部曲高清免费播放| 下属的妻子2020韩国女演员| 兔子先生7季在线观看免费高清 | 上海人肉市场| 沙鹰行动电影免费完整版| 需要爸爸播种的| 科学家们| 勇者王粤语| 十万个冷笑话6| 赫板丽| 天使之恋 纯爱物语| 双妻艳史| 台湾师生恋《补课》电影是什么电影 | 大侦探7免费观看完整版高清最新 七根心简免费观看全集在线播放 龙城生死恋 | 了凡四训电视剧| 面朝大海春暖花开赏析| 非常人贩2在线观看| 铜锣铜钹铿锵锵免费观看| 订阅男友| 完美爱情| 《和讨厌的部长出差旅》| 华晨宇 假行僧| 暗黑第一季| 秋瓷炫《生死决断》播放| 睫毛膏2中文版色大师| 韩剧婚礼国语版全集| 战狼电视剧| 《特殊游泳教练》免费观看平台| 巨鳄风暴完整版电影免费观看| 无所畏惧电视剧免费| 法证先锋4粤语版免费观看完整版| 爆操老妈48集| 高清《年轻朋友的妻子3》| 电热毯应该铺在哪一层| 金银梅5普通话在线观看国语版免费 | 龙门镖局11| 麻豆AV《修车艳遇》在线| 高清《幸福一家人》电视剧| 亲爱的设计师电视剧免费观看| 浪客行高清| 火热的部长妻子| 刀郎2002年的第一场雪| 《楠木邸的神明庭院》| 万荣县| 菠萝蜜在线观看视频| 丈夫的陷阱| 我家女友可不止可爱呢动漫全集| 安斋拉拉在线| 斗破苍穹169| 世界上已消失的8个汉字十组词| 神偷奶爸三| 维修工的艳遇在线观看 | 唯我独神动漫在线观看国漫| 来福大酒店免费观看完整版| 与王一夜| 出差被迫和讨厌部长| 完美证据电视剧免费观看完整版| 暴劫倾情下载| 奔腾年代在线观看|