<mark id="oztn4"></mark>
0
| 本文作者： 余快 | 2020-09-15 18:37 |
2020年9月5日，由雷鋒網(wǎng) & AI掘金志主辦的「第三屆中國(guó)人工智能安防峰會(huì)」在杭州正式召開(kāi)。
本屆峰會(huì)以「洗牌結(jié)束，格局重構(gòu)」為主題，會(huì)上代表未來(lái)新十年的15家企業(yè)，為現(xiàn)場(chǎng)1000余位聽(tīng)眾和線上幾十萬(wàn)觀眾，分享迎接安防新十年的經(jīng)營(yíng)理念與技術(shù)應(yīng)用方法論。
在大會(huì)上，平安科技副總工程師、聯(lián)邦學(xué)習(xí)技術(shù)部總經(jīng)理王健宗帶來(lái)了精彩演講。
王健宗指出，目前人工智能在移動(dòng)互聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)、IoT、5G等新技術(shù)的驅(qū)動(dòng)下得以迅猛發(fā)展， 不過(guò)在AI技術(shù)落地時(shí)總是有所欠缺，即人工智能通用算法在本地化部署過(guò)程中所面臨的數(shù)據(jù)困境，而這一塊恰恰是相關(guān)行業(yè)或企業(yè)所缺乏的。
王健宗認(rèn)為，其數(shù)據(jù)困境主要是三點(diǎn)：數(shù)據(jù)孤島、法律法規(guī)監(jiān)管日趨嚴(yán)格，以及傳統(tǒng)AI技術(shù)模式下的限制。
聯(lián)邦智能正是這一困境的破局之道，它是以聯(lián)邦學(xué)習(xí)為龍頭，同時(shí)涵蓋聯(lián)邦數(shù)據(jù)部落、聯(lián)邦推理、聯(lián)邦激勵(lì)機(jī)制，共由四大部分組成。面對(duì)目前日益苛刻的數(shù)據(jù)安全隱私的問(wèn)題，通過(guò)構(gòu)建聯(lián)邦學(xué)習(xí)的技術(shù)內(nèi)核，建立聯(lián)邦數(shù)據(jù)部落，實(shí)現(xiàn)具備隱私保護(hù)的聯(lián)邦推理，并以聯(lián)邦激勵(lì)機(jī)制為紐帶形成一個(gè)完整的AI生態(tài)格局，從而打破數(shù)據(jù)壁壘，使人工智能發(fā)展邁向新階段。
其中，聯(lián)邦學(xué)習(xí)是隱私保護(hù)下的分布式機(jī)器學(xué)習(xí)技術(shù)，以及“數(shù)據(jù)孤島問(wèn)題”的解決方案。聯(lián)邦數(shù)據(jù)部落，在確保數(shù)據(jù)安全及用戶隱私的前提下，建立基于聯(lián)邦智能的大數(shù)據(jù)部落生態(tài)，充分發(fā)揮各行業(yè)參與方的數(shù)據(jù)價(jià)值，推動(dòng)垂直領(lǐng)域案例落地。
聯(lián)邦推理，在一個(gè)隱私與安全的鏈路過(guò)程中，發(fā)揮著引擎模型的聯(lián)邦推理作用。聯(lián)邦激勵(lì)機(jī)制，它的核心是一個(gè)遵循基本準(zhǔn)則的閉環(huán)學(xué)習(xí)機(jī)制，通過(guò)聯(lián)合建模協(xié)議達(dá)成、貢獻(xiàn)度評(píng)估、激勵(lì)及資金劃定等環(huán)節(jié)，吸引外部企業(yè)參與，加入聯(lián)邦智能生態(tài)。
平安的蜂巢聯(lián)邦智能平臺(tái)。在整個(gè)平臺(tái)中，蜂巢依托平安集團(tuán)這一綜合性集團(tuán)背景，能夠提供智慧金融、智慧城市、智慧醫(yī)療商用級(jí)的一站式解決方案，希望能夠以此激活數(shù)據(jù)價(jià)值，這也是整個(gè)平臺(tái)的使命。蜂巢平臺(tái)的目標(biāo)是跨企業(yè)、跨數(shù)據(jù)、跨領(lǐng)域，助力整個(gè)大數(shù)據(jù)AI生態(tài)。此外，它在營(yíng)銷、獲客、定價(jià)、風(fēng)控、智慧城市等等方面推出了相關(guān)的解決方案。
最后，王健宗總結(jié)道，聯(lián)邦智能作為樞紐，將會(huì)為智慧城市的未來(lái)提供更多新的機(jī)會(huì)。同時(shí)，隨著公民隱私安全意識(shí)的不斷加深，它將更好地為公眾帶來(lái)高品質(zhì)的個(gè)性化服務(wù)，并在當(dāng)前新基建的背景下，立足于數(shù)據(jù)，依托聯(lián)邦智能生態(tài)，加速精細(xì)化服務(wù)時(shí)代的到來(lái)，這也是聯(lián)邦智能的機(jī)會(huì)。
以下是王健宗演講全文，雷鋒網(wǎng)作了不改變?cè)獾恼砼c編輯：
平安科技副總工程師、聯(lián)邦學(xué)習(xí)技術(shù)部總經(jīng)理王健宗
剛剛經(jīng)過(guò)幸運(yùn)的抽獎(jiǎng)環(huán)節(jié)，相信大家也稍微輕松了一些。那么接下來(lái)，我將為大家?guī)?lái)一些不一樣的東西，分享我們?cè)诼?lián)邦智能生態(tài)中所做的工作創(chuàng)新和思考，以及它在智慧城市中的應(yīng)用及未來(lái)趨勢(shì)，其中很多分享內(nèi)容將是首次呈現(xiàn)給大家。
我今天的演講主題是《聯(lián)邦智能：智慧城市的突圍之道》，它主要分四個(gè)部分：第一部分，人工智能中的數(shù)據(jù)困境；第二部分，突圍之道：聯(lián)邦智能重塑數(shù)據(jù)生態(tài)；第三部分，聯(lián)邦智能的應(yīng)用平臺(tái)：蜂巢平臺(tái)；第四部分，聯(lián)邦智能的解決方案：智慧城市。
目前，人工智能在移動(dòng)互聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)、IOT、5G等新技術(shù)的驅(qū)動(dòng)下得以迅猛發(fā)展， 不過(guò)我們發(fā)現(xiàn)AI技術(shù)在落地時(shí)總會(huì)欠缺一點(diǎn)火候，那么究竟差在哪里？就是人工智能通用算法在本地化部署過(guò)程中所面臨的數(shù)據(jù)難題，而這一塊恰恰是相關(guān)技術(shù)行業(yè)或技術(shù)企業(yè)所缺乏的。
對(duì)于傳統(tǒng)行業(yè)來(lái)說(shuō)，數(shù)據(jù)作為核心的資產(chǎn)，各行各業(yè)都會(huì)存在數(shù)據(jù)壁壘問(wèn)題，共享數(shù)據(jù)變得比較困難，阻礙了AI落地。如何來(lái)突破這一難題，讓AI生態(tài)能夠繼續(xù)保持著高速發(fā)展的態(tài)勢(shì)，是現(xiàn)在所有AI人迫切需要解決的問(wèn)題。
以智慧城市為例，自2012年住建部正式對(duì)智慧城市啟動(dòng)試點(diǎn)、進(jìn)行方案改革以來(lái)，智慧城市的發(fā)展步伐顯著加快，而數(shù)據(jù)化被認(rèn)為是智慧城市的基礎(chǔ)。
理想化的圖景是這樣的：人們會(huì)通過(guò)政府部門、社會(huì)組織和企業(yè)的互聯(lián)互通，實(shí)現(xiàn)數(shù)據(jù)分析和數(shù)據(jù)決策，但是實(shí)際的互聯(lián)互通往往遭遇行政和商業(yè)壁壘，形成數(shù)據(jù)孤島。這個(gè)難題，長(zhǎng)期阻礙著智慧城市建設(shè)的進(jìn)程。
同時(shí)，國(guó)內(nèi)在數(shù)據(jù)隱私保護(hù)方面的法律法規(guī)日益完善，像《中華人民共和國(guó)民法總則》明確指出，規(guī)定網(wǎng)絡(luò)運(yùn)營(yíng)者不得泄露、篡改、毀壞其收集的個(gè)人信息。
從2020年的最新文件也可以看到，像《中共中央國(guó)務(wù)院關(guān)于構(gòu)建更加完善的要素市場(chǎng)化配置體制機(jī)制的意見(jiàn)》首次將“數(shù)據(jù)”與土地、勞動(dòng)力、資本、技術(shù)等傳統(tǒng)要素并列為要素之一，提出要加強(qiáng)數(shù)據(jù)資源整合和安全保護(hù)，制定數(shù)據(jù)隱私保護(hù)制度和安全審查制度。這將進(jìn)一步加強(qiáng)數(shù)據(jù)隱私的安全保護(hù)。
而另一方面，我們也可以從傳統(tǒng)AI的技術(shù)模式上發(fā)現(xiàn)一些限制或者瓶頸。實(shí)際上，傳統(tǒng)AI技術(shù)模式中的模型算法必須從大數(shù)據(jù)中挖掘數(shù)據(jù)特征，需要利用數(shù)學(xué)理論映射出數(shù)據(jù)特征與業(yè)務(wù)需求的關(guān)系，并且訓(xùn)練網(wǎng)絡(luò)中權(quán)重和偏置的調(diào)整與數(shù)據(jù)量級(jí)、數(shù)據(jù)信息密度、數(shù)據(jù)來(lái)源是否真實(shí)有著密切關(guān)系。
因此，在這種傳統(tǒng)AI技術(shù)模式的限制下，技術(shù)本身對(duì)數(shù)據(jù)有著強(qiáng)依賴關(guān)系，對(duì)企業(yè)和個(gè)人產(chǎn)生嚴(yán)重影響。對(duì)個(gè)人來(lái)說(shuō)是同樣的，在目前政策約束下，個(gè)人相關(guān)數(shù)據(jù)也會(huì)受到嚴(yán)格監(jiān)管，這使得個(gè)人幾乎無(wú)法參與到AI產(chǎn)品的迭代中，用戶不能從他們的設(shè)備、位置等方面收集個(gè)人數(shù)據(jù)來(lái)完成功能優(yōu)化。
那么，如何打破數(shù)據(jù)孤島這一困境呢？
我們因此提出聯(lián)邦智能，聯(lián)邦智能是以聯(lián)邦學(xué)習(xí)為龍頭，同時(shí)涵蓋聯(lián)邦數(shù)據(jù)部落、聯(lián)邦推理、聯(lián)邦激勵(lì)機(jī)制，共由四大部分組成。面對(duì)目前日益苛刻的數(shù)據(jù)安全隱私的問(wèn)題，我們通過(guò)構(gòu)建聯(lián)邦學(xué)習(xí)的技術(shù)內(nèi)核，建立聯(lián)邦數(shù)據(jù)部落，實(shí)現(xiàn)具備隱私保護(hù)的聯(lián)邦推理，并以聯(lián)邦激勵(lì)機(jī)制為紐帶形成一個(gè)完整的AI生態(tài)格局。這也是目前我們重點(diǎn)推動(dòng)、落實(shí)的核心工作。
這里展示的是聯(lián)邦智能的架構(gòu)關(guān)系圖。首先，我將對(duì)聯(lián)邦數(shù)據(jù)部落做簡(jiǎn)要介紹。
由于業(yè)界存在諸多與數(shù)據(jù)存儲(chǔ)相關(guān)的表現(xiàn)形式，如：云存儲(chǔ)、數(shù)據(jù)湖、數(shù)據(jù)海、數(shù)據(jù)倉(cāng)庫(kù)等。那么我們?cè)谶@里為什么會(huì)提出數(shù)據(jù)部落？
實(shí)際上，每個(gè)數(shù)據(jù)可以定義為單位個(gè)體，它們之間相互獨(dú)立，但信息元素又相通，具有合作的關(guān)聯(lián)屬性，因此我們將這些數(shù)據(jù)單元的集合，稱之為聯(lián)邦數(shù)據(jù)部落。
在部落中，既有來(lái)自各行業(yè)、企業(yè)的數(shù)據(jù)，又有來(lái)自各種邊端、設(shè)備的數(shù)據(jù)。
我們的初衷，是希望部落之間能夠達(dá)成數(shù)據(jù)不出本地的一種合作機(jī)制。大家能夠把數(shù)據(jù)貢獻(xiàn)出來(lái)，共同去完成聯(lián)邦建模。在這一過(guò)程中，會(huì)包括數(shù)據(jù)處理、樣本對(duì)齊，以及一些特征信息的聚合等內(nèi)容。
在聯(lián)邦學(xué)習(xí)這一聯(lián)合建模的過(guò)程中，機(jī)器學(xué)習(xí)、深度學(xué)習(xí)均有參與，我們也集成有自動(dòng)化聯(lián)邦學(xué)習(xí)AutoFL模塊，它本質(zhì)上是在滿足提升本地模型精度的同時(shí)，通過(guò)本地模型的搜索，更新神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，從而自動(dòng)地趨于滿足本地計(jì)算資源和通信能力的最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)。
接著，聯(lián)邦數(shù)據(jù)部落中的數(shù)據(jù)信息，會(huì)以中間參數(shù)的加密形態(tài)計(jì)入聯(lián)邦學(xué)習(xí)過(guò)程，最終實(shí)現(xiàn)聯(lián)合建模，生成聯(lián)邦模型。這一模型會(huì)反哺各行各業(yè)，包括智慧城市、智慧醫(yī)療等各種場(chǎng)景。
實(shí)際上，我們的聯(lián)邦模型還能提供聯(lián)邦推理這一服務(wù)應(yīng)用。其中，聯(lián)邦推理是基于加密方式完成推理計(jì)算的，這一過(guò)程無(wú)需上傳任何相關(guān)設(shè)備存儲(chǔ)的明文數(shù)據(jù)，或是個(gè)人隱私數(shù)據(jù)，從而保證了數(shù)據(jù)的安全和隱私性。
整個(gè)系統(tǒng)融有聯(lián)邦激勵(lì)機(jī)制。我們?cè)O(shè)計(jì)激勵(lì)機(jī)制的初衷，是希望這一機(jī)制能夠保證各參與方既能積極地貢獻(xiàn)和參與，又能以此激勵(lì)在這一生態(tài)中的各個(gè)參與方受益，從而更好地促進(jìn)聯(lián)邦智能生態(tài)向著繁榮方向發(fā)展。
下面我將展開(kāi)來(lái)講。聯(lián)邦學(xué)習(xí)，是一種加密的分布式機(jī)器學(xué)習(xí)技術(shù)，本質(zhì)上它是基于本地?cái)?shù)據(jù)的本地訓(xùn)練，云端會(huì)發(fā)布相應(yīng)的初始模型，并聯(lián)合各方由本地發(fā)起訓(xùn)練，共同完成模型構(gòu)建過(guò)程。
提到聯(lián)邦學(xué)習(xí)的優(yōu)勢(shì)，大致可分為四點(diǎn)：
第一點(diǎn)是數(shù)據(jù)本地化，數(shù)據(jù)不會(huì)泄露到外部，滿足用戶隱私保護(hù)和安全的需求。
第二點(diǎn)是算力下沉，有助于物聯(lián)網(wǎng)、邊緣計(jì)算與人工智能的有機(jī)結(jié)合。
第三點(diǎn)是聯(lián)合建模過(guò)程以加解密機(jī)制實(shí)時(shí)進(jìn)行參數(shù)交換，符合政策法規(guī)。
第四點(diǎn)是參與各方的身份和地位相同，成功實(shí)現(xiàn)了共同富裕的目標(biāo)。
我重點(diǎn)講一下聯(lián)邦數(shù)據(jù)部落。我們提到的聯(lián)邦數(shù)據(jù)部落，是要把每一個(gè)數(shù)據(jù)孤島部落化，以此納入聯(lián)邦智能生態(tài)中來(lái)。
對(duì)于整個(gè)數(shù)據(jù)部落來(lái)說(shuō)，例如個(gè)人手機(jī)數(shù)據(jù)、IoT數(shù)據(jù)、醫(yī)療數(shù)據(jù)等，這些原始數(shù)據(jù)實(shí)際上互不相通，沒(méi)有任何數(shù)據(jù)流轉(zhuǎn)通道。
其中，我們會(huì)對(duì)各方間的數(shù)據(jù)獲取渠道進(jìn)行加鎖設(shè)置。當(dāng)數(shù)據(jù)合作方加入到部落中后，我們會(huì)進(jìn)行一些必要工作。
首先會(huì)提供一些相關(guān)的標(biāo)準(zhǔn)化工具，在原始不交換的基礎(chǔ)上，對(duì)來(lái)自個(gè)人或企業(yè)終端的本地?cái)?shù)據(jù)進(jìn)行處理，比如針對(duì)缺失數(shù)據(jù)、重復(fù)數(shù)據(jù)、偏離數(shù)據(jù)的數(shù)據(jù)清洗、數(shù)據(jù)降噪等工作。
實(shí)際上，我們的目標(biāo)是在大家達(dá)成協(xié)議的基礎(chǔ)上，能夠選擇聯(lián)合終端中的高質(zhì)量數(shù)據(jù)進(jìn)行去中心化的本地訓(xùn)練。
接著，為了使用與某項(xiàng)業(yè)務(wù)場(chǎng)景相關(guān)的數(shù)據(jù)，我們會(huì)進(jìn)行特征化處理，包括數(shù)據(jù)分類、特征標(biāo)記、數(shù)據(jù)聚合等方式，使其有針對(duì)性的發(fā)起訓(xùn)練。
最后，我們會(huì)對(duì)聯(lián)邦數(shù)據(jù)部落中的數(shù)據(jù)進(jìn)行質(zhì)量評(píng)估，這也是聯(lián)邦激勵(lì)機(jī)制評(píng)價(jià)的重要一環(huán)。
我們搭建的聯(lián)邦數(shù)據(jù)部落，會(huì)依據(jù)數(shù)據(jù)量級(jí)、數(shù)據(jù)有效性、數(shù)據(jù)信息密度、數(shù)據(jù)真實(shí)性等評(píng)價(jià)指標(biāo)，對(duì)參與聯(lián)邦學(xué)習(xí)訓(xùn)練的數(shù)據(jù)進(jìn)行質(zhì)量評(píng)估，同時(shí)也起到了數(shù)據(jù)監(jiān)測(cè)與評(píng)估量化的作用。
聯(lián)邦推理方面，我們希望模型在應(yīng)用環(huán)節(jié)也能起到保護(hù)數(shù)據(jù)隱私的作用。
以聲紋識(shí)別為例，它屬于生物特征的一種，并在一定程度上是極其重要的個(gè)人隱私信息。聲紋語(yǔ)音特征具有抗時(shí)變性，短期內(nèi)它不會(huì)隨著年齡的增長(zhǎng)而發(fā)改變。
在傳統(tǒng)的聲紋推理模式中，服務(wù)會(huì)將用戶端輸入的語(yǔ)音直接傳送至云端的聲紋平臺(tái)與引擎中，經(jīng)過(guò)前置的語(yǔ)音預(yù)處理，如靜音消除、截幅檢測(cè)等，由i-Vector/d-Vector/x-Vector聲紋模型提取出高維的特征向量，再根據(jù)PLDA打分與兩兩比對(duì)，最終完成說(shuō)話人身份確認(rèn)。
比較典型的應(yīng)用包括：聲紋門禁、聲紋鎖、電話平臺(tái)聲紋核身。另外，還包括1：N情況下的聲紋識(shí)別，即說(shuō)話人辨別。
以上是以聲紋為例的傳統(tǒng)推理過(guò)程。
如果我們不上傳本地語(yǔ)音數(shù)據(jù)將如何實(shí)現(xiàn)這一推理過(guò)程？
實(shí)際上，我們會(huì)在本地用戶端內(nèi)置一個(gè)自主開(kāi)發(fā)的蜂巢系統(tǒng)插件，它會(huì)在保留原始聲紋信息的基礎(chǔ)上，利用混沌算法對(duì)語(yǔ)音信號(hào)進(jìn)行加密，并形成類似白噪聲的密文流信號(hào)。
在經(jīng)過(guò)一系列處理后，插件會(huì)生成公鑰，并連同處理語(yǔ)音一同傳送至云端。這個(gè)公鑰的作用是什么？是為了確保在云端推理過(guò)程中數(shù)據(jù)始終保持隱私性。
最后，我們會(huì)將推理加密結(jié)果返回至邊端，由邊端解密后直接獲取到真實(shí)結(jié)果。
整個(gè)推理過(guò)程，是一個(gè)隱私與安全的鏈路過(guò)程，我們的原始語(yǔ)音與信息始終沒(méi)有泄露。
聯(lián)邦激勵(lì)機(jī)制方面，它的核心是一個(gè)遵循基本準(zhǔn)則的「閉環(huán)」學(xué)習(xí)機(jī)制，通過(guò)聯(lián)合建模協(xié)議達(dá)成、企業(yè)貢獻(xiàn)度評(píng)估、依據(jù)貢獻(xiàn)度劃定激勵(lì)資金池、企業(yè)激勵(lì)收益及業(yè)務(wù)場(chǎng)景獲益、吸引外部企業(yè)加入、更新聯(lián)邦智能生態(tài)，再回歸到聯(lián)合建模的協(xié)議達(dá)成，最終形成一種有效地閉環(huán)激勵(lì)模式。
在激勵(lì)過(guò)程中，我們首先會(huì)利用特征工程評(píng)判數(shù)據(jù)質(zhì)量，比如飽和度、稀疏性、相似度等來(lái)綜合衡量數(shù)據(jù)集特征，這里我們也會(huì)引入AutoFL進(jìn)行自動(dòng)化評(píng)估，綜合輸出參與方數(shù)據(jù)的平均質(zhì)量向量。
其中，當(dāng)其質(zhì)量小于閾值界限會(huì)被剔除激勵(lì)考量的行列。在此基礎(chǔ)上，從聯(lián)邦費(fèi)用總額中確定激勵(lì)資金池的深度。
接著，我們采用聯(lián)邦邊際效用評(píng)判各個(gè)參與方的數(shù)據(jù)貢獻(xiàn)，然后各個(gè)參與方根據(jù)占比進(jìn)行分成。同時(shí)，我們考慮到參與方在訓(xùn)練中產(chǎn)生的計(jì)算和通信消耗產(chǎn)生的第二成本，建立了最低保障機(jī)制。
在這個(gè)機(jī)制里，我們?cè)u(píng)判這個(gè)第二成本和激勵(lì)分成，選取最優(yōu)的那個(gè)作為最終的激勵(lì)。
下面，我將分享一下我們自主研發(fā)的聯(lián)邦智能平臺(tái)——蜂巢聯(lián)邦智能平臺(tái)。
在整個(gè)平臺(tái)中，蜂巢依托平安集團(tuán)這一綜合性集團(tuán)背景，能夠提供智慧金融、智慧城市、智慧醫(yī)療商用級(jí)的一站式解決方案，希望能夠以此激活數(shù)據(jù)價(jià)值，這也是我們整個(gè)平臺(tái)的使命。
平臺(tái)是構(gòu)建圍繞聯(lián)邦學(xué)習(xí)、聯(lián)邦數(shù)據(jù)部落、聯(lián)邦推理、聯(lián)邦激勵(lì)機(jī)制為核心的聯(lián)邦智能生態(tài)。產(chǎn)品適用范圍包括像訓(xùn)練隱私、敏感數(shù)據(jù)，同時(shí)借鑒了我們之前在自動(dòng)化機(jī)器學(xué)習(xí)上的一些經(jīng)驗(yàn)，在底層進(jìn)行加速，包括在底層通訊層的優(yōu)化等等，也包括現(xiàn)在我們?cè)诩咏饷苓@一塊的嘗試，希望這個(gè)平臺(tái)能同時(shí)滿足B端和C端的需求。
這是蜂巢聯(lián)邦智能平臺(tái)的設(shè)計(jì)架構(gòu)。在聯(lián)邦數(shù)據(jù)部落里面，包括數(shù)據(jù)預(yù)處理、數(shù)據(jù)特征化、數(shù)據(jù)質(zhì)量評(píng)估等，這些我們?cè)诩夹g(shù)上都做了一些實(shí)現(xiàn)。
平臺(tái)支持傳統(tǒng)的機(jī)器學(xué)習(xí)以及深度學(xué)習(xí)模型，比如邏輯回歸、線性回歸、樹(shù)模型等，以及包括前面提到的AutoFL技術(shù)底座。
在整個(gè)模型訓(xùn)練過(guò)程中，我們會(huì)對(duì)梯度進(jìn)行非對(duì)稱加密，整合梯度和參數(shù)優(yōu)化、更新模型。
在推理這一塊，我們會(huì)把原始的傳輸?shù)臄?shù)據(jù)進(jìn)行加密，最終實(shí)現(xiàn)推理結(jié)果。
而加密方式中，我們涵蓋同態(tài)加密、差分隱私以及國(guó)密SM2&4等多種加密方式。
整個(gè)蜂巢聯(lián)邦學(xué)習(xí)平臺(tái)，從2018年開(kāi)始，由研發(fā)到投產(chǎn)至今已經(jīng)有兩年多的時(shí)間，我們的產(chǎn)品定位是服務(wù)于營(yíng)銷、獲客、定價(jià)、風(fēng)控、智慧城市和智慧醫(yī)療。同時(shí)，整個(gè)團(tuán)隊(duì)在聯(lián)邦智能技術(shù)上也有諸多包括專利、論文在內(nèi)的科研成果，以及最新評(píng)選上的國(guó)家級(jí)獎(jiǎng)項(xiàng)。
最后一部分，我將針對(duì)智慧城市分享一下“聯(lián)邦智能+”會(huì)帶來(lái)怎樣的解決方案，這部分我們也做了大量的工作，沉淀出很多思考和經(jīng)驗(yàn)。
智慧樓宇。在《關(guān)于促進(jìn)智慧城市健康發(fā)展的指導(dǎo)意見(jiàn)》中，智能樓宇被定位成國(guó)家智慧城市戰(zhàn)略方針的重要核心。在該場(chǎng)景下，聯(lián)邦智能可以提供怎樣的解決方案？
在智慧樓宇場(chǎng)景中，有些特定區(qū)域往往存在危險(xiǎn)隱患，從而使得危險(xiǎn)預(yù)報(bào)檢測(cè)十分關(guān)鍵。如辦公區(qū)域禁止火源，樓宇施工過(guò)程需要安全帽防護(hù)，化工研究場(chǎng)所需要穿著防護(hù)服等等。
針對(duì)目標(biāo)識(shí)別問(wèn)題，可采用訓(xùn)練參數(shù)更少、計(jì)算量更小的SlimYOLOv3作為對(duì)象檢測(cè)模型，面向不同識(shí)別對(duì)象的防控模型可統(tǒng)一封裝成引擎調(diào)用，用于實(shí)時(shí)監(jiān)測(cè)與識(shí)別預(yù)警。
為了共同提升模型性能，打破各樓宇間數(shù)據(jù)孤島的問(wèn)題，有相同需求的各個(gè)樓宇可加入聯(lián)邦智能——蜂巢平臺(tái)中進(jìn)行聯(lián)合訓(xùn)練，依靠彼此多維度的數(shù)據(jù)特征進(jìn)行訓(xùn)練和模型提升，從而推進(jìn)智慧樓宇建設(shè)進(jìn)程。
這張流程圖我們可以看到，當(dāng)合作方將自己的數(shù)據(jù)集計(jì)入聯(lián)邦數(shù)據(jù)部落后，會(huì)加入蜂巢平臺(tái)的蜂巢模型層，開(kāi)始進(jìn)入聯(lián)邦學(xué)習(xí)過(guò)程。
接下來(lái)，通過(guò)蜂巢平臺(tái)提供的加密算法加密所傳輸?shù)哪Ｐ托畔?，傳輸?shù)铰?lián)邦服務(wù)平臺(tái)的核心算法部分—聯(lián)邦建模，聚合發(fā)生后產(chǎn)生更新的模型信息，并向參與方反饋模型更新參數(shù)。
此外，鏈路中涵蓋前面所提到的激勵(lì)機(jī)制，目的是吸引、鼓勵(lì)更多的合作方加入到聯(lián)邦學(xué)習(xí)的生態(tài)中。
智慧金融。智能金融可以說(shuō)是智慧城市中的一個(gè)門類，舉個(gè)例子，銀保監(jiān)會(huì)和證監(jiān)會(huì)的數(shù)據(jù)是絕對(duì)不能打通的。所以對(duì)于傳統(tǒng)的數(shù)據(jù)，如圖左邊所示，比如出本地聯(lián)合建模，這種方式可以在實(shí)驗(yàn)環(huán)境做一做，但在真實(shí)數(shù)據(jù)上，這種方法行不通，因?yàn)檎叻ㄒ?guī)是不允許的。我們用聯(lián)邦學(xué)習(xí)建模方式做了對(duì)比實(shí)驗(yàn)，發(fā)現(xiàn)聯(lián)邦學(xué)習(xí)可以提升模型效果。
車聯(lián)網(wǎng)。在智慧城市的車聯(lián)網(wǎng)場(chǎng)景下，汽車行駛記錄會(huì)保存在不同的系統(tǒng)中，比如車聯(lián)網(wǎng)運(yùn)營(yíng)方、車企、交管局、車輛相關(guān)的個(gè)人APP等，包括行車路況、車險(xiǎn)記錄、導(dǎo)航記錄等。
假設(shè)為了更精準(zhǔn)的預(yù)測(cè)行駛過(guò)程中的路況信息，以及滿足市場(chǎng)二手車交易中的信用評(píng)級(jí)需求，各車企鼓勵(lì)用戶將本地行車數(shù)據(jù)上傳到企業(yè)提供的云端，每個(gè)車企根據(jù)用戶提供的數(shù)據(jù)，為不同系列的車輛訓(xùn)練不同的模型。
在聯(lián)邦智能生態(tài)中，車企之間可進(jìn)行聯(lián)合訓(xùn)練，以提高模型評(píng)估效果。每個(gè)合作方會(huì)向聚合服務(wù)器提供本地模型參數(shù)與初始配置信息，聚合服務(wù)器會(huì)向參與方發(fā)送更新后的模型。
由于各參與方數(shù)據(jù)和模型量級(jí)可能存在差異，為了避免負(fù)載分配不均衡的情況，聚合服務(wù)器可實(shí)現(xiàn)服務(wù)器與參與方之間的負(fù)載分發(fā)平衡。
此外，本方案允許參與方同時(shí)訓(xùn)練多個(gè)模型，因此會(huì)提供任務(wù)管理服務(wù)，協(xié)調(diào)車企之間的并發(fā)響應(yīng)機(jī)制。因此，車聯(lián)網(wǎng)下的聯(lián)邦學(xué)習(xí)解決方案可以有效提升車聯(lián)網(wǎng)投產(chǎn)落地速度，減少迭代周期。
聯(lián)邦機(jī)器人。我們目前已經(jīng)研發(fā)有全球首臺(tái)聯(lián)邦智能機(jī)器人。我們以聯(lián)邦學(xué)習(xí)的方式，在數(shù)據(jù)不共享的情況下，定期結(jié)合銀行本地的相關(guān)的客戶數(shù)據(jù)、客戶信息，發(fā)起一些增量的訓(xùn)練，提升模型應(yīng)用效果，比如個(gè)性化推薦、精準(zhǔn)導(dǎo)航等等。同理，由銀行場(chǎng)景延伸，在保險(xiǎn)行業(yè)、智能家居等場(chǎng)景下同樣適用。
最后，在智慧城市+聯(lián)邦智能方面，聯(lián)邦智能作為樞紐，將會(huì)為智慧安防的未來(lái)提供更多新的機(jī)會(huì)。
像食品安全、藥品、防疫等方方面面，是需要通過(guò)聯(lián)邦將數(shù)據(jù)孤島進(jìn)行有效“連通”，這里指的“連通”即是通過(guò)技術(shù)手段實(shí)現(xiàn)的互通。
同時(shí)，隨著公民的隱私安全意識(shí)的加深，為了更好地為公眾帶來(lái)高品質(zhì)的個(gè)性化服務(wù)，且服務(wù)標(biāo)準(zhǔn)、規(guī)范，改變粗放式服務(wù)模式，聯(lián)邦智能可以在規(guī)避隱私安全問(wèn)題的紅線，同時(shí)助力智慧城市建設(shè)與數(shù)據(jù)應(yīng)用間的平衡，提升諸如個(gè)性化推薦等服務(wù)質(zhì)量。
同時(shí)，我們的目標(biāo)是能夠?qū)崿F(xiàn)精細(xì)化的智慧城市發(fā)展，在當(dāng)前新基建的背景下，立足于數(shù)據(jù)，依托聯(lián)邦智能生態(tài)，加速精細(xì)化服務(wù)時(shí)代的到來(lái)，這也是聯(lián)邦智能的機(jī)會(huì)！
謝謝大家！雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
