<mark id="oztn4"></mark>
0
| 本文作者： 宗仁 | 2017-03-17 11:25 |
雷鋒網(wǎng)【AI科技評(píng)論】按：昨晚的央視315晚會(huì)上，人臉識(shí)別技術(shù)被曝存在安全隱患。不少觀眾看到主持人在現(xiàn)場(chǎng)技術(shù)人員支持下，僅憑兩部手機(jī)、一張隨機(jī)正面照片及一個(gè)換臉APP，分別就一張”眨眨眼”的照片和一段”活體檢測(cè)”場(chǎng)景模擬，成功“攻破”人臉識(shí)別系統(tǒng)。
一般業(yè)內(nèi)人士看到的是主持人手里所持人臉識(shí)別App的技術(shù)漏洞；但對(duì)于普通觀眾來(lái)說(shuō)，他們看到的是一個(gè)不甚熟悉的高科技技術(shù)應(yīng)用背后的“巨大風(fēng)險(xiǎn)”——人臉識(shí)別怎么會(huì)被破解？為什么一個(gè)換臉App軟件就能輕松換臉？它會(huì)不會(huì)分分鐘“掏空”我的賬戶……經(jīng)由央視這個(gè)2C平臺(tái)一放大，即使只是出于提醒消費(fèi)者的出發(fā)點(diǎn)，以百度，曠視，云從，商湯為首的這些被影響的企業(yè)，從昨晚開(kāi)始，就開(kāi)始紛紛對(duì)此做出回應(yīng)。
節(jié)目結(jié)束僅僅5分鐘，百度深度學(xué)習(xí)實(shí)驗(yàn)室主任林元慶便被邀請(qǐng)?jiān)诎俣瓤萍紙@的人臉識(shí)別閘機(jī)做一次親身驗(yàn)證，看百度人臉識(shí)別系統(tǒng)究竟能否被一段視頻“騙過(guò)”。以下是視頻回放：
從視頻中，我們可以看到，檢測(cè)結(jié)果是：林元慶首先對(duì)手機(jī)錄制了一段包括眨眼、轉(zhuǎn)頭等動(dòng)作的真人視頻，然后手持手機(jī)，將該視頻在人臉識(shí)別閘機(jī)的攝像頭前播放，以模擬晚會(huì)的場(chǎng)景后，百度人臉閘機(jī)顯示“禁止通過(guò)”。
Face++相關(guān)人員一早就在跟AI科技評(píng)論討論這個(gè)事，后面他們也以視頻的形式，來(lái)“介紹”了央視現(xiàn)場(chǎng)的攻擊原理與防攻擊要點(diǎn)：
從攻擊內(nèi)容上，主持人將自己的臉換成現(xiàn)場(chǎng)一名觀眾微博照片里的臉，這是一個(gè)基于軟件合成的換臉攻擊，又可叫虛擬人臉攻擊，這種攻擊不可避免的會(huì)留下圖像修改痕跡。Face++ 通過(guò)機(jī)器學(xué)習(xí)算法提取被修改后圖像特有局部與全局視覺(jué)特征，并對(duì)潛在的攻擊模式進(jìn)行在線歸檔與分類，從而實(shí)現(xiàn)對(duì)這類攻擊的防御。
2. 從攻擊介質(zhì)上， 主持人將自己的手機(jī)對(duì)準(zhǔn)大屏這是一個(gè)屏幕翻拍攻擊。而屏幕翻拍在底層視覺(jué)特征、環(huán)境圖像特征等方面均與真人實(shí)拍有顯著差異。對(duì)此，曠視專門研發(fā)了基于屏幕翻拍綜合檢查的防范技術(shù)，實(shí)現(xiàn)對(duì)此類攻擊的隔離。
緊接著曠視的防攻擊小組也第一時(shí)間復(fù)現(xiàn)了場(chǎng)景，讓兩位工作人員通過(guò)換臉工具進(jìn)行攻擊：
相對(duì)于百度和Face++的視頻回?fù)?，云從科技用的?jiǎn)單的文字形式，在他們的微信上他們重點(diǎn)闡述到：
做過(guò)安全的人都知道，絕對(duì)的安全等于無(wú)限的成本。AES加密也能被很快破解，但商用256位足夠了，花費(fèi)破解的成本比破解后的利益還大。
首先，人臉識(shí)別在金融身份核驗(yàn)的用途上，通常是作為交叉驗(yàn)證增強(qiáng)安全性，只會(huì)比以往單用密碼更安全，并且還存在其他驗(yàn)證手段與人臉識(shí)別形成多重驗(yàn)證。其次，從face2face的技術(shù)原理來(lái)講，需要收集很多的被模仿人的人臉數(shù)據(jù)，再加上比較先進(jìn)的人臉識(shí)別技術(shù)支撐，才可以模仿該人臉。
從防范攻擊上來(lái)講，被模擬的視頻需要通過(guò)非常高的技術(shù)手段才能夠傳輸?shù)綉?yīng)用軟件里面去，有這種技術(shù)力量，任何系統(tǒng)都存在風(fēng)險(xiǎn)；而直接通過(guò)視頻或者圖片攻擊，完全可以被現(xiàn)在的紅外或者一些動(dòng)作判斷的活體手段所識(shí)別出來(lái)。
商湯-從“犯罪”線索角度進(jìn)行回應(yīng)
商湯科技沒(méi)有拍視頻，也沒(méi)有撰寫(xiě)新的聲明，不過(guò)他們扒出來(lái)之前一篇技術(shù)背后秘密的核心闡述，重點(diǎn)從“犯罪”線索角度進(jìn)行了回?fù)簟?/span>
跟您聊聊技術(shù)后面的秘密：傳統(tǒng)的人臉?lè)纻畏椒ㄒ话阃ㄟ^(guò)用戶的動(dòng)作，例如：眨眼、張嘴、點(diǎn)頭、搖頭、微笑、眼動(dòng)等，作為防偽線索，即我們常說(shuō)的活體檢測(cè)。這種方法會(huì)有一個(gè)漏洞，就是難以防住真人視頻或者合成的視頻（例如3D模型或者換臉?biāo)惴ǎ?/span>
而當(dāng)（比）前（如）優(yōu)（商）秀（湯）的人臉?lè)纻危ɑ铙w檢測(cè)）會(huì)采用全新的方法，它與傳統(tǒng)方法的最大不同點(diǎn)就在于更加關(guān)注偽造內(nèi)容本身的介質(zhì)屬性，以及合成的視頻/圖像與自然視頻/圖像的差異。
由于真人視頻或者合成的視頻，必然需要通過(guò)屏幕進(jìn)行顯示，然后使用采集端進(jìn)行翻拍。雖然視頻本身可能做到看起來(lái)非常真實(shí)，但是翻拍的過(guò)程中，必然會(huì)暴露出“犯罪”線索，例如：顯示器邊緣，屏幕反光，摩爾紋，像素點(diǎn)紋理，鏡頭畸變等。有些線索可能會(huì)很細(xì)微，以至人眼常常難以察覺(jué)，而計(jì)算機(jī)可以察覺(jué)在hack過(guò)程中這些的細(xì)微的線索。
整個(gè)315晚會(huì)人臉識(shí)別隱患事件，經(jīng)過(guò)一天的發(fā)酵后，業(yè)內(nèi)人士其實(shí)都開(kāi)始冷靜和客觀下來(lái)了。比如，
山世光博士在今天表示：
這肯定會(huì)是一場(chǎng)曠日持久的攻防博弈游戲。
第四范式的戴文淵則表示：
在這個(gè)場(chǎng)景里，人臉識(shí)別本質(zhì)上是一種反欺詐技術(shù)，無(wú)論做多少改進(jìn)，欺詐團(tuán)伙一定不會(huì)束手就擒，會(huì)開(kāi)發(fā)更多欺詐手段。欺詐與反欺詐永遠(yuǎn)都是博弈的過(guò)程，反欺詐技術(shù)也不應(yīng)該局限于人臉識(shí)別。更完美的解決方案是閉環(huán)的強(qiáng)化學(xué)習(xí)反欺詐方案。
云從的周曦在之前AI科技評(píng)論所做的公開(kāi)課里，被問(wèn)到”云從最近在雙創(chuàng)周展示了“1秒刷臉支付”，但近日也爆出最新木馬Acecard 可以刷用戶照片盜取權(quán)限進(jìn)行惡意操作，怎么從技術(shù)上防止這類問(wèn)題？“這種人臉識(shí)別在實(shí)際應(yīng)用場(chǎng)景的問(wèn)題中。則用實(shí)際行業(yè)經(jīng)驗(yàn)表示：
銀行對(duì)于安全的要求是非常極致的。我們的方法是對(duì)人臉采集系統(tǒng)采集的人臉，均用云從研究的圖片加密方式對(duì)人臉圖片進(jìn)行了隱式的水印加密處理。云從的人臉識(shí)別系統(tǒng)后端進(jìn)行識(shí)別時(shí)，會(huì)判斷人臉圖片是否為云從采集并且加密的人臉圖片。且這種加密方式需要的加密模板和加密參數(shù)很復(fù)雜，一般無(wú)法破解。
包括這次315晚會(huì)背后的換臉App提供者，360人工智能研究院，其院長(zhǎng)顏水成也在事后的采訪中建議：
相關(guān)技術(shù)廠商不僅要關(guān)注人臉比對(duì)的準(zhǔn)確率，還應(yīng)關(guān)注活體檢測(cè)及人臉識(shí)別系統(tǒng)的使用場(chǎng)景，提高研發(fā)能力，在涉及隱私、支付等場(chǎng)景使用時(shí)，應(yīng)當(dāng)將人臉與聲紋、指紋、虹膜及其他生物認(rèn)證信號(hào)相融合，多個(gè)方面同時(shí)發(fā)力，從而提高安全門檻，保障用戶安全。
從技術(shù)的角度上，人臉識(shí)別同以往任何一個(gè)服務(wù)于安全領(lǐng)域的技術(shù)一樣，有其門檻和局限性；但從實(shí)際應(yīng)用的角度上，各個(gè)廠商在和客戶深入合作的過(guò)程中，一般會(huì)比觀眾更早遇到晚會(huì)里大家擔(dān)心的問(wèn)題。就算他們自己不自覺(jué)，他們的客戶也會(huì)提醒他們潛藏在暗處的欺詐團(tuán)隊(duì)們的各種手段和隱憂，務(wù)必要求技術(shù)提供方在保證一定用戶體驗(yàn)的同時(shí)，盡量將人臉與聲紋、指紋、虹膜及其他生物認(rèn)證信號(hào)相融合來(lái)提高安全門檻。
套用云從科技比較老練的說(shuō)法：
“做過(guò)安全的人都知道，絕對(duì)的安全等于無(wú)限的成本。AES加密也能被很快破解，但商用的256位足夠了，花費(fèi)破解的成本比破解后的利益還大?！覀円婵创舜?15事件，輿論上的熱點(diǎn)讓主要面向B端的人臉識(shí)別廠家有機(jī)會(huì)做一次科普：攻擊和被攻擊本來(lái)就是一個(gè)矛和盾的過(guò)程，一直在相互博弈，使技術(shù)往更好的方向去發(fā)展?！?/span>
人臉識(shí)別的安全跟安全行業(yè)以往任何一個(gè)領(lǐng)域的性質(zhì)一樣，這是一場(chǎng)持久的攻堅(jiān)戰(zhàn)。就像大家非常熟悉的銀行卡安全問(wèn)題，5年前我們都用著招商銀行普通的磁條卡，今天基本上都被換成了芯片卡，最近又加了一個(gè)人臉識(shí)別，如果單說(shuō)安全加密手段，銀行方面的升級(jí)就從來(lái)沒(méi)有停止過(guò)，因?yàn)槠浔旧韽膩?lái)都沒(méi)有”絕對(duì)安全”這一說(shuō)法。
文章由雷鋒網(wǎng)【AI科技評(píng)論】獨(dú)家整理，未經(jīng)雷鋒網(wǎng)雷鋒網(wǎng)【AI科技評(píng)論】授權(quán)，拒絕轉(zhuǎn)載。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
