<mark id="oztn4"></mark>
0
| 本文作者： 李帥飛 | 2020-06-10 01:00 |
美國(guó)人越來越反感人臉識(shí)別了。
具體來說，黑人 George Floyd 之死，也讓美國(guó)社會(huì)繼續(xù)反思警察執(zhí)法問題，并由此引申到警察在執(zhí)法中所采用的技術(shù)——其中最被嚴(yán)重詬病的，就是人臉識(shí)別。
在人臉識(shí)別再次成為眾矢之的的情況下，科技行業(yè)也有了一些動(dòng)靜。
6 月 8 日，"藍(lán)色巨人" IBM 宣布：IBM 將不再提供任何人臉識(shí)別和人臉分析軟件——這是美國(guó)科技巨頭第一次旗幟鮮明地放棄人臉識(shí)別業(yè)務(wù)。
不僅如此，IBM 也將不會(huì)再就這項(xiàng)技術(shù)進(jìn)行研究和開發(fā)。
IBM 宣布放棄人臉識(shí)別，來自于 IBM CEO Arind Krishna 提交給幾位美國(guó)參議員和眾議員的一封信。
從信中的內(nèi)容來看，放棄人臉識(shí)別業(yè)務(wù)的舉動(dòng)，是 IBM 因 George Floyd 之死而反對(duì)種族主義（Recism）的種種舉措的其中一個(gè)。
在信中，Arind Krishna 表示：
IBM 堅(jiān)定反對(duì)使用任何技術(shù)，包括其他供應(yīng)商提供的人臉識(shí)別技術(shù)，來監(jiān)視大眾、種族定性、侵犯基本人權(quán)和自由、以及從事任何與我們價(jià)值觀及原則不一致的事情。
當(dāng)然，Arind Krishna 也肯定了 AI 的作用，表示人工智能是幫助執(zhí)法部門保護(hù)公民安全的有力工具。
但他也強(qiáng)調(diào)，AI 系統(tǒng)的供應(yīng)商和用戶有共同的責(zé)任確保對(duì) AI 進(jìn)行偏見測(cè)試（Tested For Bias），特別是在執(zhí)法中使用時(shí)，并確保對(duì)此類偏見測(cè)試進(jìn)行審計(jì)和報(bào)告。
最后，Arind Krishna 還強(qiáng)調(diào)稱，國(guó)家的政策還應(yīng)鼓勵(lì)和促進(jìn)使用特定技術(shù)，來提高警務(wù)透明度和問責(zé)制，如人體攝像機(jī)和現(xiàn)代數(shù)據(jù)分析技術(shù)。
總體來看，IBM 的這封信，是一個(gè)議政屬性較強(qiáng)的信件。它除了談到對(duì)相關(guān)技術(shù)的措施和態(tài)度，還呼吁國(guó)會(huì)通過相應(yīng)的議案和政策來推動(dòng)警務(wù)透明、人員就業(yè)等問題。
顯然，IBM 放棄人臉識(shí)別，有政治正確的因素。
但 IBM 方面告訴外媒 AXIOS，它做出這個(gè)決策并不是心血來潮，而是經(jīng)過了數(shù)個(gè)月的討論，并與客戶進(jìn)行了持續(xù)溝通。另外，盡管 IBM 不再宣傳、推銷和更新這些產(chǎn)品，但它依舊會(huì)在有需求之時(shí)對(duì)現(xiàn)有的客戶進(jìn)行支持。
當(dāng)然，在政治正確因素之外，IBM 還有別的考量。
據(jù)美國(guó) CNBC 報(bào)道稱，一位知情人士承認(rèn)，IBM 此舉的確是踩中了當(dāng)前美國(guó)社會(huì)對(duì)警察改革和種族不平等強(qiáng)烈關(guān)注的重要時(shí)機(jī)，但同時(shí)，IBM 也有商業(yè)考量。
該人士表示，實(shí)際上人臉識(shí)別業(yè)務(wù)并沒有為 IBM 帶來重大的營(yíng)收——換句話說，棄之并不可惜。
但同時(shí)，該人士也承認(rèn)，考慮到美國(guó)政府一直是 IBM 的主要客戶，因此這個(gè)決定還是存在潛在影響的——但總之，這同時(shí)是一個(gè)商業(yè)和道德決策。
值得一提的是，Arind Krshna 是一位印度裔美國(guó)公民，他在兩個(gè)月前，也就是 2020 年 4 月 6 日，正式就任 IBM CEO 一職。
在就任 CEO 之初，Arind Krshna 表示，IBM 將專注于混合云和人工智能兩大戰(zhàn)略；尤其是在云計(jì)算方面，他強(qiáng)調(diào)稱，IBM 和 Red Hat 要把 Linux、容器和 Kunbernetes 建立為新的混合云標(biāo)準(zhǔn)。
顯然，在 Arind Krshna 的領(lǐng)導(dǎo)之下，IBM 更為專注的是與微軟和亞馬遜等對(duì)手在云計(jì)算領(lǐng)域的戰(zhàn)爭(zhēng)——人臉識(shí)別技術(shù)自然也不值一提了。
雷鋒網(wǎng)了解到，在人臉技術(shù)方面，IBM 雖然并不是特別突出，但也頗有一些作為。
比如說在 2019 年 1 月，IBM 曾經(jīng)發(fā)布一個(gè)名為 Diversity in Faces（DiF）的臉部多樣性數(shù)據(jù)集；其目標(biāo)是加速公平且準(zhǔn)確的人臉識(shí)別系統(tǒng)研究，減少對(duì)深色人種的辨識(shí)度偏差——該數(shù)據(jù)集包含 100 萬張已標(biāo)注的人臉圖像。
當(dāng)時(shí)，IBM 表示，DiF 的目標(biāo)就是為研究人員打造無偏見人臉識(shí)別技術(shù)；相比過去，DiF 數(shù)據(jù)集提供了更分布更平均且廣泛的人臉圖像，也能夠讓研究人員跟進(jìn)一步理解人臉特別。
但現(xiàn)在，IBM 卻決定直接撂挑子了。
IBM 這次的決定，對(duì)美國(guó)社會(huì)普遍反對(duì)人臉識(shí)別的情緒，也是一種迎合。
因?yàn)槊绹?guó)人實(shí)在是太不待見人臉識(shí)別技術(shù)了。
這背后的一個(gè)首要因素是美國(guó)的種族問題。2018 年的一個(gè)調(diào)查顯示，人臉識(shí)別針對(duì)黑人女性的錯(cuò)誤率高達(dá) 21%-35%，而針對(duì)白人男性的錯(cuò)誤率則低于 1%——這在美國(guó)可以說是非常政治不正確的。
其次是準(zhǔn)確率問題：據(jù)報(bào)道，亞馬遜的圖像識(shí)別 AI 系統(tǒng) “Rekognition” 曾將 28 名美國(guó)國(guó)會(huì)議員識(shí)別成了罪犯，讓美國(guó)社會(huì)一片嘩然。
另外，美國(guó)社會(huì)隱私至上的理念深入人心，這也讓美國(guó)民眾擔(dān)任人臉識(shí)別導(dǎo)致的安全和隱私問題，以及對(duì)于 “被監(jiān)控” 本身的反感和憂慮。
為此，美國(guó)公民自由聯(lián)盟（American Civil Liberties Union，ACLU）稱人臉識(shí)別為 “可能是有史以來最危險(xiǎn)的監(jiān)視技術(shù)”，并多次上書美國(guó)政府：要求亞馬遜停止向警方提供其旗下的 Rekognition 人臉識(shí)別技術(shù)。
就連舊金山市政府，也宣布禁止使用這一技術(shù)。
盡管如此，技術(shù)帶來的便利依然不容抹殺。亞馬遜等公司有用技術(shù)賺錢的需求，而美國(guó)警察也有實(shí)用技術(shù)的需求，因此包括俄勒岡州在內(nèi)的眾多美國(guó)州立政府，成為 Rekognition 的客戶。
值得一提的是，2019 年，亞馬遜在股東會(huì)議上就 "停止向政府機(jī)構(gòu)銷售人臉識(shí)別技術(shù)" 進(jìn)行投票，結(jié)果顯示，只有 2.4% 的股東同意這一銷售禁令，所以投票沒有通過。
后來在一次采訪中，亞馬遜 CTO Werner Vogels 稱，技術(shù)無罪，我們無責(zé)任。
不過，對(duì)于亞馬遜的說法，美國(guó)民眾顯然不會(huì)買賬。
雷鋒網(wǎng)觀察到，在 George Floyd 之死引發(fā)的游行中，亞馬遜位于西雅圖市區(qū)的 Amazon Go 無人商店也遭到游行者的毀壞。
當(dāng)時(shí)，亞馬遜也在 Twitter 賬號(hào)表示對(duì)黑人的支持，結(jié)果有美國(guó)民眾質(zhì)疑稱：與其說一些好聽的話，不如好好支付員工的工資；也有人質(zhì)疑亞馬遜能否停止向警方提供人臉識(shí)別監(jiān)控技術(shù)。
在 Twitter 上，也有一位名為 Ananya Chakravarti 的美國(guó)網(wǎng)友說：
也許今天最大的勝利是很多人不會(huì)意識(shí)到的。但是，IBM 終止其面部識(shí)別技術(shù)業(yè)務(wù)，將比解散一個(gè)城市部門更能動(dòng)搖全球嚴(yán)厲執(zhí)法的基礎(chǔ)。亞馬遜，你的時(shí)間到了。
George Floyd 之死，引發(fā)的不僅僅是美國(guó)在政治和社會(huì)層面的問題；考慮到技術(shù)與人之間的密切關(guān)系，它也將影響到技術(shù)發(fā)展的未來。
IBM 禁用人臉識(shí)別，就是其中一個(gè)案例。
一個(gè)社會(huì)群體對(duì)于技術(shù)的接納和融入，并不一定都是一帆風(fēng)順的，甚至有可能根本無法接受；對(duì)于美國(guó)這樣注重政治正確和隱私至上的國(guó)家來說，George Floyd 之死，也許會(huì)讓人臉識(shí)別技術(shù)的應(yīng)用更是面臨越來越嚴(yán)重的被動(dòng)和尷尬局面。
IBM CEO Arind Krishna 說：
我們認(rèn)為，現(xiàn)在是時(shí)候就（美國(guó)）國(guó)內(nèi)執(zhí)法機(jī)構(gòu)是否可以使用面部識(shí)別，以及如何使用面部識(shí)別技術(shù)展開全國(guó)對(duì)話了。
對(duì)于這個(gè)問題，IBM 已經(jīng)用行動(dòng)給出了自己的答案，但美國(guó)政府和人臉識(shí)別技術(shù)的供應(yīng)商恐怕不會(huì)那么容易就范。
最后一問：
IBM 此舉，會(huì)最終導(dǎo)致美國(guó)政府停用人臉識(shí)別技術(shù)嗎？
本文參考資料：
https://venturebeat.com/2018/07/26/amazons-rekognition-misidentified-28-members-of-congress-as-criminals/
https://www.ibm.com/blogs/policy/facial-recognition-susset-racial-justice-reforms/
https://www.cnbc.com/2020/06/08/ibm-gets-out-of-facial-recognition-business-calls-on-congress-to-advance-policies-tackling-racial-injustice.html?__source=sharebar
https://www.theverge.com/2020/6/8/21284683/ibm-no-longer-general-purpose-facial-recognition-analysis-software
https://www.axios.com/ibm-is-exiting-the-face-recognition-business-62e79f09-34a2-4f1d-a541-caba112415c6.html
http://www.zaocj.com/news/201905/G0d9vZykEJsevQ9p.html
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
