<mark id="oztn4"></mark>
0
| 本文作者： 我在思考中 | 2022-01-17 10:37 |
作者 | 維克多
2021年12月17日，浙江大學(xué)求是講席教授、ACM Fellow、IEEE Fellow、浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)、計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院副院長(zhǎng)任奎在CNCC 2021 “迎接數(shù)字化轉(zhuǎn)型的安全挑戰(zhàn)”論壇中做了《隱私計(jì)算：向?qū)嵱没~進(jìn)》的報(bào)告。
在報(bào)告中，任奎圍繞數(shù)據(jù)脫敏、差分隱私、安全多方計(jì)算三個(gè)方向，討論了隱私計(jì)算的前沿進(jìn)展，提出不同技術(shù)可以在數(shù)據(jù)全生命周期的不同階段發(fā)揮作用。
以下是演講全文，AI科技評(píng)論做了不改變?cè)獾膭h改和整理：
今天分享浙江大學(xué)網(wǎng)絡(luò)安全學(xué)院在隱私計(jì)算方面的思考和研究，題目是《隱私計(jì)算：向?qū)嵱没~進(jìn)》。
目前，隨著大數(shù)據(jù)時(shí)代的到來(lái)，隱私數(shù)據(jù)泄露問(wèn)題日益突出，例如國(guó)內(nèi)互聯(lián)網(wǎng)大企業(yè)由于嚴(yán)重違法違規(guī)收集使用個(gè)人信息被勒令下架整改，國(guó)外的擁有億級(jí)用戶的互聯(lián)網(wǎng)大企業(yè)的個(gè)人隱私數(shù)據(jù)被泄露。因此，無(wú)論在哪個(gè)國(guó)家、科技公司還是傳統(tǒng)行業(yè)，都在面臨數(shù)據(jù)和隱私泄露問(wèn)題。
在這種背景下，世界上各個(gè)國(guó)家對(duì)監(jiān)管與合規(guī)的要求都變得越來(lái)越嚴(yán)格。從中國(guó)角度，2012年第十一屆全國(guó)人民代表大會(huì)常務(wù)委員會(huì)就通過(guò)了《關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》；2016年通過(guò)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》，這部代表性的法律也體現(xiàn)了中國(guó)對(duì)數(shù)據(jù)安全隱私的重視；尤其近兩年，國(guó)家部門也從各個(gè)角度頒布相關(guān)法律，形成了比較完善的法律體系。例如《數(shù)據(jù)安全法》《個(gè)人隱私保護(hù)法》等等，其具體抓手也越來(lái)越明確。
從世界范圍內(nèi)來(lái)看，歐盟在《通用數(shù)據(jù)保護(hù)條例》（GDPR）落地之后，開了很多大額罰單，這既體現(xiàn)了日益嚴(yán)重的數(shù)據(jù)隱私泄露問(wèn)題，也體現(xiàn)了越來(lái)越嚴(yán)格的監(jiān)管合規(guī)要求，同時(shí)也給研究領(lǐng)域和產(chǎn)業(yè)領(lǐng)域帶來(lái)了很多機(jī)會(huì)。
Gartner 在2021年對(duì)數(shù)據(jù)隱私保護(hù)戰(zhàn)略做了預(yù)測(cè)：到2023年底，全球75%的人口的個(gè)人數(shù)據(jù)將受到現(xiàn)代隱私法規(guī)的保護(hù)；到2023年底之前，全球超過(guò)80%的公司將面臨至少一項(xiàng)以隱私為重點(diǎn)的數(shù)據(jù)保護(hù)法規(guī)；到2024年，全球隱私驅(qū)動(dòng)的數(shù)據(jù)保護(hù)和合規(guī)技術(shù)支出將突破150億美元。因此，挑戰(zhàn)和機(jī)遇并存，困難與希望并存。
日益嚴(yán)格的法律法規(guī)，也提醒我們回顧一下廣義上隱私計(jì)算的涵蓋范圍與發(fā)展。廣義上的隱私計(jì)算指 “兩個(gè)或者多個(gè)參與方在不泄露各自數(shù)據(jù)的前提下，通過(guò)協(xié)作對(duì)數(shù)據(jù)進(jìn)行聯(lián)合計(jì)算處理。”
其實(shí)，這里隱含“安全性”和“高效性”兩個(gè)關(guān)鍵詞。從1982年安全多方計(jì)算、1983年可信計(jì)算、1985年零知識(shí)證明、2006年差分隱私到2016年聯(lián)邦學(xué)習(xí)，相關(guān)技術(shù)在不斷發(fā)展，都在圍繞安全與效率而做努力。
安全多方計(jì)算是密碼學(xué)研究的一個(gè)重要分支，通俗定義是：為解決一組互不信任的參與方之間在保護(hù)隱私信息以及沒(méi)有可信第三方的前提下協(xié)同計(jì)算問(wèn)題而提出的密碼協(xié)議與理論框架。
狹義的安全多方計(jì)算主要包括以下兩種實(shí)現(xiàn)方式：
1. 針對(duì)布爾電路以姚氏混淆電路方式實(shí)現(xiàn)的兩方協(xié)議；
2. 針對(duì)布爾電路或者代數(shù)電路以秘密分享方式實(shí)現(xiàn)的兩方或者多方協(xié)議。
在廣義上，全同態(tài)加密、可信硬件以及聯(lián)邦學(xué)習(xí)都可以看做安全多方計(jì)算的技術(shù)框架。
在應(yīng)用程度上，安全多方計(jì)算可以分為通用安全多方計(jì)算，可以支持大多數(shù)計(jì)算任務(wù)，實(shí)現(xiàn)常用基本計(jì)算算子協(xié)議，例如加、乘、比較、矩陣運(yùn)算，將具體計(jì)算任務(wù)分解到基本算子；專用安全多方計(jì)算，以“高效實(shí)現(xiàn)專用實(shí)用計(jì)算任務(wù)”為目標(biāo)，可以針對(duì)專用計(jì)算任務(wù)和應(yīng)用場(chǎng)景定制多方安全計(jì)算協(xié)議，常見的專用協(xié)議包括隱私保護(hù)求交集、隱匿查詢、零知識(shí)證明、聯(lián)合建模等等。
目前，業(yè)界針對(duì)安全多方計(jì)算開發(fā)出了各種產(chǎn)品，但如何進(jìn)行比較？我認(rèn)為可以通過(guò)安全假設(shè)、性能以及安全保障三個(gè)維度進(jìn)行評(píng)測(cè)。例如在安全假設(shè)中，采用的是同步、異步、半同步中的哪種網(wǎng)絡(luò)假設(shè)？敵手模型采用的是半誠(chéng)實(shí)、惡意還是隱匿作惡？
而在安全保障中，應(yīng)該考慮隱私性、正確性、公開可驗(yàn)證性、健壯性以及公平性等六個(gè)角度。此外，在“前提”和“保障”之間，技術(shù)產(chǎn)品實(shí)現(xiàn)的性能如何？例如參與方數(shù)據(jù)是否平衡、參與節(jié)點(diǎn)算力是否對(duì)稱等等。
國(guó)家也開始積極的探索，例如信通院提出《隱私計(jì)算多方安全計(jì)算產(chǎn)品性能要求和測(cè)試方法》，通過(guò)基礎(chǔ)運(yùn)算、聯(lián)合統(tǒng)計(jì)、盈利查詢、安全求交等等維度考慮產(chǎn)品性能。
目前在學(xué)術(shù)界，安全多方計(jì)算也在穩(wěn)步發(fā)展。在基于混淆電路的安全多方計(jì)算前沿協(xié)議層面，如上圖所示，針對(duì)參與方數(shù)量、門限、敵手模型以及入侵假設(shè)，都研究了對(duì)應(yīng)的“方法”。
在基于秘密分享的安全多方計(jì)算前沿協(xié)議層面，已經(jīng)有大量的開源安全多方計(jì)算框架，如CrypTFlow、 PySyft、 Rosetta等支持機(jī)器學(xué)習(xí)的框架；MP-SPDZ、 SCALE- MAMBA等通用框架。前者對(duì)性能要求更高，后者認(rèn)為安全是“第一要?jiǎng)?wù)”。
在零知識(shí)證明領(lǐng)域前沿協(xié)議層面的進(jìn)展如上圖所示，在加速、計(jì)算量、證明大小等方面各有千秋。
在隱匿查詢前沿協(xié)議層面，目前最好的技術(shù)屬于微軟和谷歌。它們完成百萬(wàn)級(jí)的查詢，大概只需要2秒~4秒。在安全求交前沿協(xié)議層面，考慮150Mbps帶寬的情況下，也能達(dá)到10秒~30秒的百萬(wàn)級(jí)查詢。
在聯(lián)合建模層面，Sp’17和PETS’20雖然在性能的表現(xiàn)不是最好，但是在安全層面卻是最嚴(yán)謹(jǐn)?shù)模寄鼙ＷC只泄露最終模型，不泄露中間結(jié)果。
目前，浙江大學(xué)也在安全多方計(jì)算領(lǐng)域開展了一些工作。例如研究統(tǒng)一MPC隱私性度量標(biāo)準(zhǔn)；研究統(tǒng)一安全假設(shè)的評(píng)分標(biāo)準(zhǔn)與各維度的權(quán)重；研究統(tǒng)一安全保障的評(píng)分標(biāo)準(zhǔn)與各維度的權(quán)重；研發(fā)安全多方計(jì)算靶場(chǎng)；完善安全多方計(jì)算性能測(cè)評(píng)標(biāo)準(zhǔn)與平臺(tái)等等。
差分隱私和密碼學(xué)不太相關(guān)，是較新的概念。其思想和工作原理大致可以理解為：在數(shù)據(jù)中加入噪音，使得統(tǒng)計(jì)學(xué)相關(guān)的查詢既能得到有效的數(shù)據(jù)，又能保證安全。學(xué)術(shù)上的定義是：通過(guò)建模單個(gè)參與者對(duì)數(shù)據(jù)造成影響，實(shí)現(xiàn)對(duì)隱私保護(hù)（泄露）程度的量化。
目前，該方法可以分為兩種：全局差分隱私，可信的數(shù)據(jù)管理者收集數(shù)據(jù)并在數(shù)據(jù)集的統(tǒng)計(jì)結(jié)果上添加擾動(dòng)；本地差分隱私，用戶在本地對(duì)數(shù)據(jù)添加擾動(dòng)后，發(fā)送給非可信的數(shù)據(jù)管理者。
從計(jì)算角度看，差分隱私能在一定的程度上解決“密碼學(xué)手段開銷過(guò)大”的缺點(diǎn)。對(duì)比加密方法解決數(shù)據(jù)計(jì)算過(guò)程中的隱私泄露，而差分隱私方法解決計(jì)算結(jié)果的隱私泄露。目前，差分隱私的部署和使用大多為政府機(jī)構(gòu)與互聯(lián)網(wǎng)巨頭。
例如，2016年蘋果在WWDC大會(huì)上宣布使用基于CM- Sketch和阿達(dá)馬變換的本地化差分隱私技術(shù)來(lái)保護(hù)IOS、MAC用戶隱私。相比于布隆過(guò)濾器， Count- Min Sketch更適用于頻率統(tǒng)計(jì)任務(wù)；阿達(dá)馬變換也能有效降低通信開銷。但有研究人員認(rèn)為蘋果在實(shí)際應(yīng)用中設(shè)置的隱私預(yù)算參數(shù)超出了可接受的范圍，隱私保護(hù)能力不夠強(qiáng)。
微軟也有相應(yīng)的動(dòng)作，并在2017年將差分隱私方案部署到了win 10系統(tǒng)中。此外微軟和哈佛大學(xué)合作推出了 OpenDP開源差分隱私平臺(tái)，希望降低中小開發(fā)者應(yīng)用差分隱私的門檻。
阿里巴巴也在 Datatrust隱私增強(qiáng)計(jì)算平臺(tái)中部署落地差分隱私保護(hù)的聯(lián)邦學(xué)習(xí)決策樹訓(xùn)練。
差分隱私之所以受到關(guān)注，主要是它有嚴(yán)謹(jǐn)?shù)睦碚撃Ｐ停峁┝丝沈?yàn)證的量化隱私保護(hù)機(jī)制；提供了傳統(tǒng)密碼學(xué)無(wú)法提供的隱私保護(hù)手段，具有更輕量級(jí)的計(jì)算負(fù)載，提高了隱私保護(hù)效率。
但也存在理論和應(yīng)用上的挑戰(zhàn)。例如在理論層面，數(shù)據(jù)可用性較差：差分隱私在查詢結(jié)果中加入隨機(jī)化，導(dǎo)致數(shù)據(jù)可用性下降；數(shù)據(jù)類型有限：缺乏針對(duì)復(fù)雜數(shù)據(jù)類型的有效差分隱私保護(hù)方法。
在應(yīng)用層面，差分隱私不適用于單一樣本的確切信息查詢；復(fù)雜應(yīng)用場(chǎng)景下差分隱私得到的結(jié)果誤差較大；并且，目前還缺乏測(cè)試算法（乃至自動(dòng)測(cè)試算法）是否符合差分隱私的方法。
如今，學(xué)術(shù)界針對(duì)差分隱私的機(jī)制優(yōu)化有了一些進(jìn)展。例如上圖所示的最優(yōu)機(jī)制設(shè)計(jì)、機(jī)制后處理、最優(yōu)機(jī)制搜尋等工作。
相應(yīng)地，Shuffle機(jī)制、Subsample機(jī)制的提出增添了差分隱私放大機(jī)制的研究。
針對(duì)應(yīng)用難題，學(xué)界也提出了差分隱私正確性測(cè)試方法，包括多輪采樣與概率論技巧相結(jié)合的方法、程序分析的方法等等。
數(shù)據(jù)脫敏（ Data Masking）是根據(jù)制定的脫敏規(guī)則，針對(duì)敏感信息進(jìn)行數(shù)據(jù)變形或形成遮蔽，降低數(shù)據(jù)的敏感級(jí)別，擴(kuò)大數(shù)據(jù)可共享和被使用的范圍，達(dá)到保護(hù)隱私數(shù)據(jù)安全的目的。
根據(jù)是否脫離生產(chǎn)環(huán)境，數(shù)據(jù)脫敏可以分為動(dòng)態(tài)數(shù)據(jù)脫敏和靜態(tài)數(shù)據(jù)脫敏。前者對(duì)敏感數(shù)據(jù)的查詢和調(diào)用結(jié)果進(jìn)行實(shí)時(shí)脫敏。在訪問(wèn)敏感數(shù)據(jù)的同時(shí)實(shí)時(shí)進(jìn)行脫敏處理，可以為不同角色、不同權(quán)限、不同數(shù)據(jù)類型執(zhí)行不同的脫敏方案，從而確保可用而安全。
后者（靜態(tài)數(shù)據(jù)脫敏）是指數(shù)據(jù)脫敏后分發(fā)至測(cè)試、開發(fā)、數(shù)據(jù)分析等場(chǎng)景。是數(shù)據(jù)的“搬移并仿真替換”。將數(shù)據(jù)脫敏處理后，下發(fā)給下游環(huán)節(jié)取用和讀寫。脫敏后數(shù)據(jù)與生產(chǎn)環(huán)境相隔離，滿足業(yè)務(wù)需求的同時(shí)保障生產(chǎn)數(shù)據(jù)庫(kù)的安全。
如上圖所示，數(shù)據(jù)脫敏有很多方式。例如數(shù)據(jù)一致性脫敏、遮蔽脫敏、保持?jǐn)?shù)據(jù)格式脫敏、泛化脫敏、保持?jǐn)?shù)據(jù)特征脫敏等等。
作為數(shù)據(jù)安全防護(hù)工作的重要一環(huán)，數(shù)據(jù)脫敏技術(shù)和產(chǎn)品已作為常規(guī)手段，而敏感信息依賴于實(shí)際業(yè)務(wù)場(chǎng)景和安全維度，識(shí)別和梳理具體業(yè)務(wù)場(chǎng)景的敏感字段迫在眉睫。同時(shí)，目前市場(chǎng)上的數(shù)據(jù)脫敏供給商可分為信息安全服務(wù)服務(wù)商、自研自用企業(yè)以及通用數(shù)據(jù)脫敏工具開發(fā)商三類。但在全球范圍內(nèi)尚未形成脫敏的具體標(biāo)準(zhǔn)。
目前，浙江大學(xué)與阿里巴巴合作開發(fā)了DMS數(shù)據(jù)管理系統(tǒng)，包含了40萬(wàn)個(gè)實(shí)例、400萬(wàn)數(shù)據(jù)庫(kù)、10億張表，能夠?qū)崿F(xiàn)根據(jù)敏感數(shù)據(jù)自動(dòng)分級(jí)分類、異常訪問(wèn)風(fēng)險(xiǎn)識(shí)別等等功能。
數(shù)據(jù)脫敏的應(yīng)用非常廣泛，但也存在一些難點(diǎn)。例如如何確定數(shù)據(jù)脫敏的目標(biāo)字段？當(dāng)前選擇脫敏數(shù)據(jù)目標(biāo)字段主要依賴于人工標(biāo)記，在準(zhǔn)確性、安全性和高效性上仍有較大缺陷 。
如何保證數(shù)據(jù)脫敏過(guò)程的安全性? 當(dāng)前主流算法的脫敏過(guò)程仍不完善，有泄露和被取擊的風(fēng)險(xiǎn)。
如何評(píng)判數(shù)據(jù)脫敏結(jié)果的脫敏程度？目前市場(chǎng)上有許多種類的脫敏工具和算法技術(shù)，但是沒(méi)有一種統(tǒng)一的標(biāo)準(zhǔn)來(lái)量化和衡量脫敏結(jié)果的好壞。
總結(jié)一下，數(shù)據(jù)市場(chǎng)依托隱私計(jì)算打破數(shù)據(jù)孤島非常重要。從數(shù)據(jù)脫敏、數(shù)據(jù)溯源到數(shù)據(jù)融合，再到數(shù)據(jù)確權(quán)、數(shù)據(jù)定價(jià)，隱私計(jì)算已經(jīng)發(fā)展出了非常有潛力的技術(shù)，它在未來(lái)數(shù)據(jù)要素化資產(chǎn)市場(chǎng)配置過(guò)程中也會(huì)起到底座作用。
綜上所述，隨著數(shù)據(jù)安全監(jiān)管與合規(guī)要求的日益嚴(yán)格，隱私計(jì)算技術(shù)所面臨的機(jī)遇與挑戰(zhàn)、困難與希望并存，是未來(lái)迎接數(shù)字化轉(zhuǎn)型的重要安全問(wèn)題之一。
2021-12-18
2021-12-23
2021-12-17
雷峰網(wǎng)雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
