<mark id="oztn4"></mark>
1
也許讀者還能記得，不久前一個人工智能少女之死。她的名字叫“Tay.ai“，是微軟的人工智能研究成果。Tay在推特上有一個自己的賬號，用戶只要發推艾特她一下，就能收到她的即時回復。
Tay初初以一個清新可愛的少女形象出現，但是由于她的算法設定是通過學習網友的對話來豐富自己的語料庫，很快她被網友充斥著激烈偏見的話語”帶壞“，變成了一個徹底的仇視少數族裔、仇視女性、沒有任何同情心的種族主義者。她成了這個社會一切偏見的集合體。
最終，為了平息公眾的憤怒，微軟選擇把她”殺“死。
因為機器學習的目的本來就是理解人、模仿人，發展的過程中必定會帶有人類社會里不那么光明的一面。可以說，在機器學習中存在著很多人類社會帶來的偏見影響，然而并不是所有的都像Tay這么明顯罷了。
最近，谷歌的一款數據庫中，就被人發現了其微妙的”性別歧視“現象。
事情要回到兩年前，谷歌的幾個研究員啟動了一個神經網絡項目，目標是找出單詞相鄰組合的各種模式，而所要使用的語料庫來自谷歌新聞文本中的300萬個單詞。
最終得出的研究結果很復雜，但團隊人員發現可以用向量空間圖來展示這些模式，其中大約有300個維度。
在向量空間中，具有相似意義的單詞會占據同一塊位置，而單詞間的關系，可以通過簡單的向量代數來捕捉。例如，“男人與國王就相當于女人與王后”，可以使用符號表示為“男人：國王：：女人：王后”。相似的例子有，“姐妹：女人：：兄弟：男人”等等。這種單詞之間的關系被稱為”單詞嵌入“。
最后，蘊含了諸多單詞嵌入的數據庫被稱為 Word2vec，非常強大。大量研究人員開始使用它幫助自己的工作，比如機器翻譯和智能網頁搜索。這個數據庫就這么被用了好幾年。
但是有一天，波士頓大學的 Tolga Bolukbasi的和幾位來自微軟研究院的人員發現，這個數據庫存在一個很大的問題：露骨的性別歧視。
他們出具了很多證據。如果你在數據庫里詢問”巴黎：法國：：東京：x“，那么系統給你的答案是 x=日本。但是，如果問題變為”父親：醫生：：母親：x“時，給出的答案是 x=護士。再比如問題”男人：程序員：：女人：x“，答案為 x=主婦。
這是非常可怕的性別歧視了。出現這個現象的原因是Word2vec語料庫里的文本本身帶有性別偏見，之后的向量空間圖隨之也受到影響。 Bolukbasi不無失望地說道：”我們原以為來自谷歌新聞的單詞嵌入會較少有性別偏見，因為這些文章都是由專業的新聞記者撰寫的。”
要知道，谷歌的這個數據庫已經被各行各業的研究開發人員使用，比如網頁搜索引擎。在原本的Word2vec 中，“程序員”這個單詞與男人的關系比女人的關系更強，那么如果雇主在尋找人才時輸入“程序員簡歷”，搜索結果里顯示的男性簡歷就要遠遠排在女性簡歷的前面，而這顯然極為不公平。而這一切都在不知不覺中發生。就像Bolukbasi所說的：“單詞嵌入不僅僅反映了現有的偏見現象，而且還進一步放大了偏見。”
Bolukbasi 和他的同事們給出了一個方案：理論上，可以把性別歧視看作是這個向量空間的一種彎曲變形，找出導致這種變形的源頭，糾正它，同時保持整個系統的完整性。
在實際操作中，最困難的部分就是找出這種變形，本質上指的是哪些單詞嵌入關系？
他們采取的方法是，在數據庫里找出與“她：他 ”這兩個單詞產生關系的一系列單詞，由此產生一幅巨大的性別類比的列表。比如：助產士：醫生 、縫紉：木工、 專業護士：物理學家、 妓女：懦夫、美發師：理發師、裸體：赤膊、 巨乳：屁股、咯咯笑：咧嘴笑、保姆：司機等等。
接下來，他們需要回答的問題是，這些類比是恰當的還是不恰當的。這樣海量的判斷任務擺在面前，研究人員遂采取了“眾包”--在亞馬遜土耳其機器人（Amazon’s Mechanical Turk）的平臺上發布任務。亞馬遜土耳其機器人是一個人工智能類的眾包平臺，研究機構在上面發布任務，普通人上這個平臺攬活并賺取一定的報酬，比如調查問卷這種任務就比較常見。
Bolukbasi 團隊將每一個類比，比如“她：他 ：：助產士：醫生”交給10個任務者，讓他們來判定這個關系是否是恰當的。如果超過半數的人認為該關系存在偏見，那么就認定這個類比關系不恰當，需要修改。
由此，研究人員繪制了一個完整的性別偏見單詞關系數據集，他們弄清楚這些數據是如何影響了向量空間的形狀，以及通過移除這個變形，最終向量空間的形狀會發生怎樣的改變。 他們把這個過程稱為“硬去偏”（ hard de-biasing）。
改善的最終結果令人滿意。研究人員使用經過修繕的向量空間，測試產生了一系列新的跟”她：他“有關的類比，得出的結果有母雞：公雞、女孩們：男孩們、女兒：兒子等。這個向量空間的性別偏見大大減少了。
研究結果如下圖所示，綠色線條顯示經過“硬去偏”之后的帶有偏見的單詞關系數量顯著減少。
Bolukbasi 說：”通過實證評估，我們的的算法顯著降低了無論是直接的還是間接的性別偏見，同時保留了單詞嵌入的有效性。“
有一種觀點認為，單詞嵌入僅僅反映了社會中已存的偏見，因此人們應該試圖去糾正社會而不是糾正單詞嵌入。 Bolukbasi和他的同事們認為自己的行為恰好蘊含在糾正整個社會的過程之中。“如今的計算機系統越來越依賴于單詞嵌入，我們在單詞嵌入上的小小努力最終希望能改善整個社會的性別偏見現象。”
這是非常可敬的目標。就像他們團隊最終總結的，“至少，機器學習不應該被用于放大這些偏見，即使是無心的。”
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
