<mark id="oztn4"></mark>
0
雷鋒網(wǎng)10月18日消息，亞馬遜的面部識別工具Rekognition由于與美國警方開展合作，正受到內(nèi)部員工的反對。一員工在Medium平臺匿名發(fā)布了公開信，對公司與警方的合作表示擔(dān)憂。
事情的起源是15日，亞馬遜CEO貝佐斯在Wired會議上為美國國防部JEDI云合同辯護(hù)時，強(qiáng)調(diào)了“做出可能不受歡迎的決定（如與軍方合作）是商業(yè)領(lǐng)袖工作的一部分”。僅僅一天之后，這份員工公開信就在各大媒體傳開了。
這封公開信中這樣描述：
我們知道貝佐斯意識到了這些擔(dān)憂，現(xiàn)在正在進(jìn)行全行業(yè)的對話。在舞臺上，他承認(rèn)高科技的產(chǎn)品可能被濫用，甚至被獨裁者剝削。但不是有意義的解釋，亞馬遜將采取行動以防止自己的技術(shù)被濫用，貝佐斯建議我們等待社會的“免疫反應(yīng)”。
如果亞馬遜等待，我們認(rèn)為傷害將很難撤消。
起底Rekognition項目
雷鋒網(wǎng)進(jìn)一步探究了這個“Rekognition”項目。
根據(jù)公開資料顯示，Rekognition是一個強(qiáng)大的實時面部識別系統(tǒng)，可以利用警察身體上的攝像頭和市政監(jiān)控系統(tǒng)，追蹤逃犯、被販賣人口等對象。這項技術(shù)是亞馬遜在2017年11月正式推出的。
其主要功能是：實時分析流視頻、人物識別和跟蹤、面孔識別、面孔分析、對象場景和活動檢測、視頻檢測、名人識別等。
圖為：Rekognition在社交媒體上查找失蹤人口
查詢了當(dāng)時發(fā)布Rekognition的新聞稿時，雷鋒網(wǎng)摘取了上面的描述文字：
“現(xiàn)在可以對具有數(shù)千萬個面孔的集合執(zhí)行實時面部搜索。這表示搜索延遲減少了5-10倍，同時允許可以存儲比以前多10-20倍的面部的集合。對于公共安全應(yīng)用程序而言，此更新有助于實時識別數(shù)百萬個面孔的集合，從而實現(xiàn)需要立即響應(yīng)的判斷和舉動。”
當(dāng)前，這款技術(shù)主要在幫助Marinus Analytics公司打擊人口販運（雷鋒網(wǎng)注：Marinus Analytics是美國一家向執(zhí)法部門授權(quán)技術(shù)的創(chuàng)業(yè)公司）。借助Amazon Rekognition，使用Marinus Analytics的調(diào)查人員可以在幾秒鐘內(nèi)搜索數(shù)百萬條記錄，以便找到受害者，從而采取快速有效的行動。
簡而言之，執(zhí)法人員可以使用失蹤兒童的照片、社交媒體照片或社會工作者的照片，并將其與 Traffic Jam 的數(shù)據(jù)庫中的其他人員進(jìn)行匹配，如果他們的照片被用來在網(wǎng)上作為交易等廣告信息發(fā)布，將會通過匹配照片幫助執(zhí)法人員找到受害者。
但是，這項技術(shù)有被“擴(kuò)大化利用”的風(fēng)險。
根據(jù)此前華盛頓郵報的進(jìn)一步報道，華盛頓的一位警長每月支付6至12美元用于訪問Rekognition，這使得該部門能夠根據(jù)實時鏡頭掃描追蹤對象的大頭照。據(jù)悉，Rekognition能夠在整個城市的攝像機(jī)網(wǎng)絡(luò)上運行實時面部識別。
Rekognition項目總監(jiān)Ranju Das透漏，整個奧蘭多市都有經(jīng)過授權(quán)的攝像機(jī)。這些攝像機(jī)將數(shù)據(jù)流式傳輸?shù)終inesis視頻流，亞馬遜再實時分析這些數(shù)據(jù)并搜索他們擁有的面部集合。也許當(dāng)警方想確定這個城市的市長是否在某一個地方，或者他們想要跟蹤的某個其他人，這都可以實現(xiàn)。
公民自由引發(fā)社會聯(lián)盟關(guān)切
對于ACLU（美國公民自由聯(lián)盟）而言，這種能力引發(fā)了重大的公民自由關(guān)注。該組織在一份聲明中說：“通過自動化大規(guī)模監(jiān)視，像Rekognition這樣的面部識別系統(tǒng)威脅到公民自由，對當(dāng)前政治氣候中已被不公正對待的社區(qū)構(gòu)成特殊威脅。人們應(yīng)該在沒有被政府監(jiān)視的情況下自由走在街上。
此前的2018年5月22日，ACLU寫給貝佐斯的信中也闡述了這種關(guān)切。
圖為：2018年5月22日，ACLU寫給貝佐斯的信
可見，剛剛在員工漲薪問題上引發(fā)部分員工抵觸情緒的亞馬遜，又因為員工的反對遇到了一件麻煩事。
但據(jù)雷鋒網(wǎng)了解，這是技術(shù)員工在不到一周的時間內(nèi)發(fā)出的第二封匿名信。上一封，來自微軟。
上周五，一名微軟員工也同樣是在Medium上表達(dá)了對該公司參與100億美元JEDI國防部云合同的擔(dān)憂。
“這是一個秘密的100億美元項目，目標(biāo)是打造特朗普政府監(jiān)管的‘更致命的’軍事力量。谷歌員工對這一點看得很清楚，于是發(fā)起抗議并最終迫使公司退出投標(biāo)，而我們看得也很清楚。”
在美國的科技大公司里，鼓勵員工表達(dá)意見一直是傳統(tǒng)。雷鋒網(wǎng)也梳理了近些年因為“員工反對”而被迫中止的一些項目或計劃：
谷歌: 員工聯(lián)名反對谷歌參與國防部AI項目“Maven”，導(dǎo)致谷歌放棄續(xù)簽；員工反對谷歌參與中國審查版的搜索引擎的開發(fā)，高管離職抗議并爆料；員工反對谷歌參與JEDI國防部云計算合同，谷歌只能宣布退出競標(biāo)。
微軟：員工反對微軟競標(biāo)IEDI云合同，稱不符合AI倫理原則；員工反對公司向ICE提供服務(wù)。（雷鋒網(wǎng)注：ICE是美國移民海關(guān)執(zhí)法部門）
Salesforce：參與移民政策，最終在員工反對與批評聲中與美國海關(guān)和邊境保護(hù)局中斷了技術(shù)合作。
蘋果：因為保密措施極其嚴(yán)格，甚至影響員工正常生活，也曾遭遇員工抱怨。2017年，蘋果共計抓到“29名泄密者”，其中有12名已被逮捕。
Facebook：由于Facebook一位全球政策高管Kaplan支持最高法院大法官提名人，并出席了其提名聽證會，數(shù)百名Facebook員工表示了憤怒。員工認(rèn)為企業(yè)遭政治綁架，隨后，Kaplan在一個內(nèi)部論壇上為自己唐突出席聽證會道歉。
…
雷鋒網(wǎng)點評
可見，在美國的大型科技公司中，“員工問責(zé)制”正形成巨大的影響力，或超過媒體影響力，推動者公司在不斷的調(diào)整決策。即便他們的CEO都是全球性的商業(yè)領(lǐng)袖，也沒辦法忽視這些意見。
而眼下，當(dāng)亞馬遜員工堅持“不作惡”的理念繼續(xù)走下去的時候，我們并不確定Rekognition是否會接著運行。相比國內(nèi)，與警方、軍方的合作則顯得是非常重大且具有戰(zhàn)略意義，因為政府的采購是強(qiáng)有力的背書，對技術(shù)和流程有著十分嚴(yán)格的程序，重要的一點是，這種項目一般都是大單子，動輒上千萬，甚至上億。在國內(nèi)企業(yè)趨之若鶩的追求軍事合同當(dāng)下，我們旁觀者其實更應(yīng)該多一些清醒思考的空間。
公開信全文：
《我是亞馬遜員工。我的公司不應(yīng)該向警察出售面部識別技術(shù)》
10月17日
當(dāng)一個公司把新技術(shù)引進(jìn)世界時，它有責(zé)任思考后果。我工作的亞馬遜公司目前允許全國各地的警察部門購買它的面部識別產(chǎn)品“Rekognition”，我和其他員工要求我們立即停止。
幾個星期前，我的同事給杰夫·貝佐斯和其他高管寫了一封信，上面有450多名員工簽名。這封信還包含要求將Palantir公司踢出AWS，并規(guī)定對員工進(jìn)行道德監(jiān)督。Palantir是ICE的大部分遣返和追蹤程序的軟件公司。
我們知道貝佐斯意識到了這些擔(dān)憂，現(xiàn)在正在進(jìn)行全行業(yè)的對話。在舞臺上，他承認(rèn)高科技的產(chǎn)品可能被濫用，甚至被獨裁者剝削。但不是有意義的解釋，亞馬遜將采取行動以防止自己的技術(shù)被濫用，貝佐斯建議我們等待社會的“免疫反應(yīng)”。
如果亞馬遜等待，我們認(rèn)為傷害將很難撤消。
畢竟，我們關(guān)注的不是其它公司將來可能造成的危害，而是亞馬遜目前正在設(shè)計、營銷和銷售的一套用于危險、大規(guī)模監(jiān)控的系統(tǒng)：Rekognition。亞馬遜網(wǎng)站吹噓說，該系統(tǒng)可以一次性存儲和搜索數(shù)千萬張人臉。執(zhí)法部門已經(jīng)開始使用亞馬遜的這項面部識別技術(shù)，但幾乎沒有任何公眾監(jiān)督，也沒有對此進(jìn)行公開辯論，或有所限制。佛羅里達(dá)州奧蘭多市正在通過遍布全市的監(jiān)控攝像頭的實時視頻信號來測試Rekognition。俄勒岡州的一個警察部門目前正在利用Rekognition，讓現(xiàn)場的警官將照片與數(shù)據(jù)庫的面部照片進(jìn)行比對。這已不再是一個假設(shè)的情況。
如果我們想要領(lǐng)導(dǎo)，我們需要在人與利潤之間做出選擇。
歷史告訴我們，新的強(qiáng)大的監(jiān)控工具仍然掌握在國家手中，將用于針對沒有做錯事的人；在美國，由于缺乏公共問責(zé)制，已經(jīng)導(dǎo)致了對有色人種、移民和行使第一修正案權(quán)利的人進(jìn)行過度干擾和過度監(jiān)管。在向政府和執(zhí)法機(jī)構(gòu)提供強(qiáng)大技術(shù)的同時，忽視這些緊迫問題是危險的和不負(fù)責(zé)任的。
這就是為什么當(dāng)AWS全球公共部門副總裁Teresa Carlson最近表示亞馬遜“堅定的支持”執(zhí)法、國防和情報客戶時，我們失望的原因，即使我們不知道他們實際上是利用一切的工具做什么。
亞馬遜甚至建議，為警官隨身相機(jī)提供Rekognition功能，這將把本來作為警察問責(zé)的工具變成針對公眾的移動監(jiān)控設(shè)備。我們?yōu)槭裁匆@樣做？
我們都有權(quán)利去生活，而不被政府不斷監(jiān)控。像我們這樣的公司不應(yīng)該參與促進(jìn)威權(quán)監(jiān)督。不是現(xiàn)在，也不是以后。但Rekognition支持通過從一幀視頻中提取幾十個面部標(biāo)識，并將它們存儲起來供以后使用，或者立即將它們與有數(shù)百萬張圖片的數(shù)據(jù)庫進(jìn)行比對。
出售這個系統(tǒng)與亞馬遜的價值觀背道而馳。我們把自己作為一個以客戶為中心的公司。貝佐斯也直接反對不道德的政府政策、穆斯林的禁令。
我們不能以犧牲公眾利益為代價，從那些擁有強(qiáng)大權(quán)力的客戶群體中獲利；我們不能忽視我們業(yè)務(wù)對公眾利益的損害。我們銷售的Rekognition系統(tǒng)是一種有缺陷的技術(shù)，它強(qiáng)化了美國現(xiàn)有的偏見。研究表明，面部識別技術(shù)更容易誤認(rèn)擁有深色皮膚的人。這一點在最近對Rekognition的測試中得到了明確的證明。這項調(diào)查將美國國會議員的照片與數(shù)據(jù)庫的一些臉部照片逐一比對，結(jié)果出現(xiàn)了28項錯誤匹配，而在有色人種中不正確結(jié)果比例特別高。但即使這些錯誤被修正了，允許執(zhí)法部門使用這種軟件仍然是不負(fù)責(zé)任、危險和不道德的。現(xiàn)在，產(chǎn)生這種偏見的根源存在于美國更廣泛的社會和司法系統(tǒng)中。面部識別技術(shù)的使用只會復(fù)制和放大美國現(xiàn)有的這種偏見。
美國目前的政治環(huán)境使得向政府出售面部識別產(chǎn)品的想法更加令人反感。美國警方加大了對黑人活動人士的監(jiān)視力度，特朗普政府也在繼續(xù)全力打擊移民。我們不希望以任何方式為美國政府的超級監(jiān)視系統(tǒng)做出貢獻(xiàn)。亞馬遜表示已要求Rekognition的客戶遵守法律，但這只是一種為這項技術(shù)的負(fù)面使用逃避責(zé)任的方式。
谷歌員工公開反對公司與美國國防部的Maven合同，微軟員工公開反對公司與美國國防部的云計算合同JEDJEDI，我們將跟隨他們的步伐。不管我們對美國軍方的觀點如何，任何人都不應(yīng)該從“增加軍隊的殺傷力”中獲利。
亞馬遜談?wù)摿撕芏嚓P(guān)于領(lǐng)導(dǎo)力的價值觀問題。如果我們想要擁有領(lǐng)導(dǎo)力，我們需要在人類利益與利潤之間做出選擇。我們可以把危險的監(jiān)視系統(tǒng)賣給執(zhí)法部門，或者我們可以維護(hù)正義。但我們不能兩者兼得。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
