特斯拉把機槍送給了猴子

本文作者：霍炬

2016-07-04 10:36

導語：荒唐的是發生了這種事情之后，特斯拉的粉絲把這起事故看作“對科學的獻身”

雷鋒網按：本文作者霍炬，來自公號“歪理邪說”，雷鋒網已獲得授權。

特斯拉把機槍送給了猴子

5月份特斯拉的“自動駕駛“系統導致的車主死亡事件，因為6月30日美國國家公路交通安全管理局（NHTSA）調查而不得不被披露出來，這起事故終于成了全球新聞熱點。我相信大家都在各處看到了事故介紹和一些技術問題，這里不重復各種媒體已經報道過的事情。只想說說我對這件事的看法，這個事故并不是只涉及一家公司和一項技術，它還涉及了科技和人的關系，以及企業和社會責任。

我要先聲明一下，做為一個懶得開車的人，我對于自動駕駛技術并沒什么偏見，甚至還挺期待的。但從技術和邏輯上，我不認為短期能出現應用到家庭車輛上的自動駕駛系統。另外提醒對于部分狂熱的特斯拉以及Elon musk粉絲，本文會引起你一定程度的不適，可以考慮現在直接關閉頁面，然后退訂本帳號。

特斯拉采用了幾種技術，攝像頭部分來自以色列公司Mobileye，它們研制的技術確切的說法是“輔助駕駛”，而不是“自動駕駛”。Mobileye的公司介紹是這樣的：“Mobileye是視覺信息處理領域的算法和芯片系統領先者，面向駕駛員輔助系統（DAS）市場。”，以及“Mobileye技術讓路上的旅客更安全，減少交通事故，挽救生命，同時具有通過自主駕駛重塑駕駛體驗的潛力。”這說明了什么？說明了Mobileye對于自己技術水平是有確切認知的，即，它是人類駕駛員的輔助，不是自動駕駛。他們雖然表示了未來有全自動駕駛的可能性，但也明確表示了現在不是這樣。

Mobileye提供的技術是特斯拉使用的“自動駕駛”相關技術中最先進的一部分。其他毫米波雷達，傳感器，都不是什么新鮮東西，最近5年買過中等價格車的話，如果選了比較好的配置包，利用雷達來這些防止碰撞，防止追尾，甚至自動趴車之類的功能都應該是標配了。

把這幾種東西放在一起能產生革命性技術革新嗎？它們確實能提供一些方便，但是距離產生真正的革新還差得太遠了。Mobileye的系統幾乎和各大汽車廠商都在合作，從寶馬豐田到通用，都有比較成熟的系統。按照Mobileye自己介紹的數據，他們的芯片EyeQ從2007年開始商用第一代產品，到2014年3月份已經安裝在了330萬輛汽車上，涉及160個車型和18個汽車制造商。這完全不是一個新東西，只是其他廠商不敢把這種東西叫做Autopilot罷了。

如果我們不算1920年出現的無線電導航自動行駛汽車，就從80年代，卡內基梅隆大學（CMU）和國防部一起開發基于計算機視覺的自動駕駛技術開始算起，這也有30年歷史了。下面是兩段歷史視頻（點擊回原文可看），分別是CMU的Navlab 1984-1994年的成果，以及1997年的實驗。在1997年這段視頻里面，你可以看到他們的車輛已經完全自主的在高速公路上行駛了，跟今天看起來沒什么區別。這些年的技術發展對于這類技術發展是有幫助的，大致就是訓練數據的增加，以及高性能芯片和GPU的小型化。這些變化確實可以讓技術普及和提升效果，像Mobileye這些年的成績主要是小型化和廉價化這些系統，這都是很好的商業項目，但要非說科學上有突破，還是太樂觀了。

特斯拉本身其實也多次強調這只是輔助駕駛系統，但是擋不住媒體和粉絲們熱烈追捧，儼然把這種技術的應用看成了科技革命。幾年前馮大輝諷刺過圈內對幾位名人的追捧和崇拜現象，發明了一個詞叫“喬凱穆貝”，其中穆指的就是“鋼鐵俠·穆斯克”。現在這種奇怪的崇拜現象已經蔓延到了普通用戶身上了，因為對特斯拉和穆斯克的盲目崇拜，車主們似乎真的相信特斯拉掌握著目前最先進的自動駕駛技術，而且這種技術完全可用，比人駕駛錯誤率更低，于是他們就真的開始不管方向盤讓這套系統自己駕駛了。在Youtube上可以看到很多熱心車主的所謂“測試”視頻，他們雙手離開方向盤，吃東西，刮胡子，甚至在手機上玩游戲。特斯拉明確知道這種狀況要出問題，也曾經試圖升級系統，讓給他們的自動駕駛模式增加一系列限制，比如最高速度限制在45MPH之類，但最后在車主的抗議、甚至威脅去訴訟的強烈反對中作罷。很可能這又是一個企業被用戶綁架的例子。

如果對計算機視覺和機器學習有一點基本認知，就會明白為什么這些系統只能是輔助作用。我們可以用前一段AlphaGO和李世石的圍棋大戰來做個例子幫助理解，這兩者有一些區別，不算特別準確的對比，但大致可以說明問題。在那場大戰中，計算機的輸入和輸出仍然是人管理的，有人替AlphaGo落子，并且把結果輸入回系統。使得AlphaGo處在一個無干擾的環境中，有明確且準確的數據輸入，系統穩定性也就很高。但在汽車上，輸入是攝像頭、雷達和傳感器。我們先不討論人工智能系統的準確度，僅談計算機視覺，即使在相對穩定的測試環境下，有充足的計算資源和時間，準確度仍然達不到100%。何況是在汽車上，計算能力受限、時間要求極高，并且路上的情況千變萬化，這樣的準確度就下降更多了。無論毫米波還是激光雷達各有其工作限制，受到天氣、雨雪、落葉、塵土等等影響，也不可能總是正確。

再說數據處理這部分，算法雖然各自一些區別，但歸根結底原理都是差不多的，這些年流行的基本是深度學習相關的技術。同樣的技術也被應用于AlphaGo的對戰中，如果你還記得那場AlphaGo輸掉的對戰，應該還記得那時候的感覺，當時圍觀者直接的感受是“AlphaGo的水平突然下降，從超越九段的高手瞬間變成了圍棋愛好者水平，連出錯誤“。是的，在這樣的系統里面，一定會在某些時候出現這種情況。從圖像輸入到計算出來結果，其中每一個環節都有可能導致這樣狀況。所以如果是對相關技術有比較清醒的認知，應該現在是不敢開著所謂“自動駕駛”的特斯拉，自己去刮胡子的。

程序不像人，一旦出問題，它的錯誤反映的會更加激烈和明確。在最終直觀的表現上，就是它在99.9%的時間可能工作很正常，但那0.1%不正常的時候，會突然變得連基本功能都完成不了，而且難以修正，并不是像人那樣水平下降比較平緩，一個正常人很難出現到瞬間從天才變成白癡這樣的異常情況。更糟糕的是，這種錯誤會同時存在在所有同一版本的軟件上，完全能重現。100個人類司機不會犯一樣的錯誤，但100臺裝了同樣版本系統的車輛，會在同樣的情況下出同樣的問題，影響會非常大。

媒體們說”人類司機和攝像頭都沒能識別白色的貨車”，這個形容對這起事故過于美化了。這個案例中，人類司機并沒認真駕駛車輛，他當然沒能識別到白色的貨車。但一個正常駕駛的司機能不能識別這種情況呢？事發時候正在白天，能見度很好，通常應該是能的，就算確實沒能提前看到它，到附近的時候仍然有機會減速，或者通過改變方向撞向隔離帶之類不致命的地方，不至于和自動駕駛系統漏檢之后一樣，完全不減速撞向貨車，穿過貨車之后司機已經死亡，車輛還停不下來繼續往前開了幾百米。

除了算法和技術本身的問題，只要寫過幾天程序的人，應該都會理解“軟件一定存在Bug“。從算法到最終商品實現之間還有漫長的距離，還需要大量的包裝和產品化工作，這些工作都會帶來Bug，而且這些系統最終基于的現有其他技術，比如操作系統和其他標準庫，也一樣會出現Bug。當Bug出現的時候，軟件能正確處理好當前的情況嗎？恐怕也很不樂觀。

目前的交通系統是以人類為中心建立的一種高容錯度系統。一個新手，只需熟悉基本交通規則，通過考試就可以上路行駛，路上的其他人會根據他的駕駛情況適應你的存在。對于新手人們可能會禮讓一些，對于其他地方車牌的車輛也會禮讓一些，這樣的規則是長期車輛行駛中建立的文化，并不是硬性規則。還記得那個笑話嗎？“如果大晴天旁邊的車雨刷突然動了一下，這應該就是一個想打燈右轉的新手司機。”人類低水平的駕駛行為甚至暫時判斷失誤，通常是可以被道路上其他參與者預測和感知到的，不至于導致太糟糕結果。這樣的高容錯系統中混入大量自動駕駛車輛很可能是一種災難，因為后者一旦出現錯誤，行為就變得非常詭異，就算是有經驗的人類司機也難以預測它。盡管自動駕駛車輛能99%準確遵守交通規則，仍然會產生各種難以預料的情況。要解決這個問題，大概只能把人類司機徹底排除在交通系統之外，100%靠自動駕駛。但這在法律和政治上毫無疑問是不可行的。

綜合這些情況，可以有一個比較確切的結論：在現在這個階段，人/機之間的關系仍然是互相補充，互相發現對方的Bug。更可靠的辦法是把輔助駕駛技術做為一種應急備份，用來在人失敗的情況下的最后一次補救，而不應該反過來，讓人去彌補機器的錯誤。因為人從放松到緊張的狀態切換不那么容易，如果以機器為主導，人長時間出于放松狀態，等到機器出問題的瞬間，幾乎不可能指望人能有及時而正確的反映。

特斯拉在這方面的行為，無論是用“Autopilot（自動駕駛）“替代”ADAS（高級駕駛輔助系統）”，還是長期對社區以及Youtube上用戶瘋狂行為的縱容甚至暗示和鼓勵，都是非常不負責任的。出了事情很多人會把問題推給用戶，說廠商明確告知了風險，但沒出事的時候所有人都在推波助瀾，夸獎這個技術多么酷炫。相信廠商也明白，這樣一套系統一旦到了對背景知識毫無了解的用戶手里，這些用戶是不會在乎這種風險提示的。Autopilot這個名字就影響了用戶的認知，再加上社區和媒體的推波助瀾，真是擋也擋不住。如果陰謀論一點的話，廠商甚至是有意默許此事，以獲得更多的自動駕駛里程數據，在此事之前，媒體都喜歡說“特斯拉的自動駕駛里程迅速上升，已經超過了Google好幾年的成果”…這種行為就如同把機槍送給猴子，天知道他們會作出什么事情來。這起事件的最終影響還不知道，要等待美國國家公路交通安全管理局的調查結果，最糟糕的情況下，很可能影響整個行業的發展。

更荒唐的是發生了這種事情之后，特斯拉的粉絲把這起事故看作“對科學的獻身”。這種美化非常無趣，他是媒體渲染的狂熱氣氛以及粉絲社區互相暗示的犧牲者，和科學本身是沒關系的。這種雙手離開方向盤干各種事情的“測試”視頻，對于科學毫無幫助，只是少部分人的個人炫耀而已。

道路交通是一個非常微妙的行為，它牽扯到了參與交通所有人共同的默契。目前這種技術條件下的技術駕駛大規模應用到普通車輛上，不僅僅是對車主本人的風險，對于路上其他人并不公平。我按照交通規則開車，認為所有人都會遵守跟我差不多的規則，誰會想到旁邊有個自動駕駛的車輛出了bug？如果是專業人員測試，會加倍小心預防各種意外情況，這倒不太可怕。但普通用戶不會這樣，他們把道路上所有人都牽扯進了這場危險的游戲。這恰恰是其他傳統汽車廠商不敢干這件事的原因，無論豐田通用還是寶馬，都在駕駛輔助系統上投入巨大，也有成熟的產品，但以他們廣泛的車輛保有量，如果把這種系統送到用戶手里，風險就不是這級別了。

媒體還喜歡宣傳的一個口徑是“自動駕駛比人類駕駛的事故率更低”。在駕駛這個問題上，比較這種平均數意義并不大。人類駕駛事故導致的死亡，有相當比例是酒駕、駕駛注意力不集中、超速和不系安全帶造成的。以我所在的安大略省為例，2014年全省十萬人口機動車事故死亡率3.52人，在北美算相當低水平，這里人們駕駛習慣很好很規范，但這幾個因素仍然占相當比例，在2014年安省致死的機動車事故數據中，酒駕占24.9%，駕駛注意力不集中17.9%，超速17.0%，不系安全帶12.5%，其他交通違章情況沒統計在內。美國因為這些問題影響的比例更大，所以如果不做這些違法事情的話，一個人類司機的事故率遠沒有媒體渲染的那么高。

更何況，人類個體差異相當大，有人20年一張罰單都沒有，有人經常出各種事故，這兩者怎么能平均起來統計成人類的事故率去和自動駕駛比較呢？在這種情況下，個體的意義大于整體統計數字，而一些輔助系統，比如安全帶警報系統、或者給有酗酒歷史的司機安裝的車內酒精含量檢測系統都可以避免很多潛在事故，從而救了更多的人。甚至嚴格交通法律，增加執法力度，給予更多培訓都是非常有用的辦法。如果只從降低事故率考慮，它們遠比試圖用自動駕駛取代人類司機有效。

考慮到無人駕駛的道德問題，也就是在某些特定情況下，讓車上的人類受傷還是讓對面的司機受傷，或者讓周圍的行人死亡，形成的道德困境，那些純自動，車上沒有人，用來運算貨物或者特殊用途的無人駕駛系統似乎更可行一些。

這種車上沒有人，遇到危險情況自己撞下懸巖也只不過是損失了一輛車和貨物，不會讓其他人受傷或者死亡。人機混合在一起的，以機器為主導的自動駕駛系統面對這個道德困境很難有好的解決方案。

在這起事件之后，各國應該會逐步制訂規范無人駕駛的法規，比如至少這樣的車輛應該有明確的標記，讓其他人知道它存在無人駕駛的可能性，路上的其他人類司機有權利知道這件事，并且采用自己的防御或者規避策略。或者車輛之間的通訊系統會被制訂成規范，無論是自動車還是人類駕駛的車都會安裝，從而讓車輛了解周圍其他車輛的情況。這種聯網系統如果不考慮隱私的話，應該會對交通情況有很大幫助，但它跟自動價值并不直接相關，人類駕駛也需要這樣的系統。

我想，綜合這些因素，在短期內，有嚴格限制的更高級的駕駛輔助系統，以及少量的純自動的專業用途車輛，這兩個方向都是有可能實現的，但讓車輛自己駕駛，同時人坐在駕駛座上刮胡子、吃飯，這種情況應該很難被普及。到目前為止，敢宣稱未來能做到這種完全不需要人類監控的自動駕駛的廠商只有沃爾沃一家（2020年以后），對此我仍然持懷疑態度。

人類總是陷入這樣的狀況，一個歷史時期內對于技術非常低估，等到下一個周期又對技術進步過于高估，我們現在就是位于這樣的高估周期內，上一個這樣的時候大概是80年代吧，一個證據是那時候的科幻小說都是以2000年為背景，認為20年后人類已經可以在火星建立殖民地了…...實際上到2000年我們連移動互聯網還沒有呢。

參考備注：