<mark id="oztn4"></mark>
0
編者按：作者Vasant Dhar博士是紐約大學數據科學中心和Stern商學院教授。本文中，Dhar博士討論了我們如何理解人工智能系統所學到的知識，并隨著技術的不斷進步預估可能發生的最差的情況。
今年三月，當微軟發布的Tay聊天機器人被玩壞后迅速下線，這引發了關于人工智能的廣泛討論。同樣引發人們激烈討論人工智能的，是今年2月谷歌無人車引發的事故。我們是否應該設計最小化不良行為的智能學習機器呢？
雖然剛才提到的兩項意外相對來說都是小事故，我們從中看到了一個大問題：在復雜環境中，要控制適應性學習機器是非常難的。著名的控制論專家Norbert Wiener在50年前就已經警告過我們這是個麻煩事：“如果我們為了自己的目的，要使用一種我們沒法有效干涉其內在運行機制的機械代理…我們最好確認再確認，機器所設定的目標真的是我們最初想要達到的目標，而不只是我們最初目標的近似模擬。”
學習機器的問題在于，他們基于自己所見到的數據進行自我訓練，“訓練數據”沒法完全代表未來將要遇到的情景。有一種情況叫做“邊緣案例”或者“Rumsfeldian未知數”，因為它們事先是無法預知的。人類通常在面對這種“邊緣案例”的時候，表現得都還不錯，不需要進行事先“訓練”，例如通過應用常識、尋找類比或者研究樣本等方式。
目前來說，這些讓人頭痛的問題還沒有解決之道。但是，系統的設計者很有必要評估一下每一項應用在未來邊緣案例中的風險，系統可能發生的最壞的情況。
首先，訓練中的錯誤分析是很有必要的，可以幫助我們理解系統所學到的是什么。這不是小事。舉個例子，在一個最近的項目中，研究人員評估了一天中不同時間段的電視觀眾，發現系統的預測在某一些時段、某一些區域內錯得特別離譜。
一項錯誤的細節分析顯示，系統不知道在某些時段、某些地區有特殊的體育節目。通過加入此項信息并對系統進行重新訓練，系統在問題案例中的表現大大改善，而在其他案例中的表現沒有變化。這說明系統學會了在之前出錯的案例中運用新的知識。雖然這不能解決整個問題，但這是一個改善系統的例子。
另一種策略是利用互聯網上可以獲得的人類智能，來創造出機器有可能范錯的邊緣案例。眾籌是一種常用的獲得、處理邊緣案例的方法。我的一些同事設立了一個叫做“超越機器”的系統，人類被要求指出機器預測將會出錯的地方。每一次人類都能成功指出錯誤案例，機器可以更好地學習這些案例，從而在未來正確應對類似案例。
還有其他的方法，有一些是自動化的方法，這為學習過程增添了難度，難度是為了誘導機器出錯。舉個例子，我們可以人為地創造難度案例，只要稍微調整一下真實訓練案例，目標就是為了誘導機器犯錯。在系統對于自己的預測非常自信的時候，這樣的方法尤其有用，因為機器無法區分真實的案例和經過調整的案例。這說明機器的學習效果還不夠強，我們還不該放心地將其用于自動化應用。此類策略的目標是引入目前數據中沒有的新案例，有時候新案例甚至會有些奇怪，從而訓練系統更加完善和強大。
另外，我們還需要評估最差情況下的犯錯成本。這在金融行業的風險評估中是一個很大的專業領域，使用嚴重性概念和頻率來將風險量化為金錢或其他類似的單位。要使用這種框架，我們需要梳理各種結果可能有的損失分布，包括邊緣案例在內，即便是我們沒法預先預計這些事件。如果這些分布沒法可靠地進行評估，我們可能應該判斷認為，目前系統還沒準備好進行自動化功能應用。
Via TechCrunch
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
