<mark id="oztn4"></mark>
0
| 本文作者： 周翔 | 2017-01-29 18:00 |
雷鋒網(wǎng)按：在2015年的DRAPA（美國國防先進(jìn)研究項(xiàng)目局）機(jī)器人挑戰(zhàn)賽結(jié)束之后，Gill Pratt推動(dòng)了豐田研究所（Toyota Research Insititue，簡稱TRI）在美國的成立。這個(gè)研究所將在未來五年的時(shí)間里投入10億美元，用來研究機(jī)器人和人工智能。
如同外界預(yù)期的那樣，TRI將主攻自動(dòng)駕駛技術(shù)：豐田與其他汽車廠商一樣，對如何利用自動(dòng)系統(tǒng)讓汽車變得更安全、更高效以及更舒適非常感興趣。
IEEE Spectrum在CES期間采訪了Gill Pratt，探討了以下話題：
沒有哪家廠商的自動(dòng)駕駛技術(shù)接近Level 5；
對自動(dòng)駕駛技術(shù)過度信任的兩難困境；
怎樣的自動(dòng)駕駛汽車才算足夠好？
機(jī)器學(xué)習(xí)以及“The Car Can Explain”項(xiàng)目；
模擬人類司機(jī)可能會做出的瘋狂行為；
計(jì)算機(jī)硬件需要一場革命；
人和機(jī)器：到底誰該守衛(wèi)誰？
雷鋒網(wǎng)對采訪內(nèi)容做了不改變愿意的編譯。
問：在豐田新聞發(fā)布會上，您說Level 5級別（SAE）的自動(dòng)駕駛“只是一個(gè)美好的目標(biāo)，不管是汽車界還是IT界，沒有哪家公司的自動(dòng)駕駛技術(shù)接近這一級別。”這和我們在展會上聽到和看到的完全不一樣，更不用說我們最近看到的各種宣傳演示視頻。
Pratt：最重要的是要理解并不是所有的路況都相同。大多數(shù)時(shí)候，我們的路況并不復(fù)雜，因此現(xiàn)在的自動(dòng)駕駛技術(shù)能夠讓我們時(shí)不時(shí)打個(gè)盹，走走神或者聊聊天。但有些路況可能很復(fù)雜，現(xiàn)有的技術(shù)應(yīng)付不了。
我們需要關(guān)注的是：這種情況出現(xiàn)的概率——能否確保汽車在給定的路線上，全程自主操控而沒有任何問題。Level 5要求汽車在任何情況下都不需要人類介入。
因此當(dāng)一家公司說，“我們可以在這片繪制的區(qū)域?qū)崿F(xiàn)全自動(dòng)駕駛，我們幾乎為每一個(gè)區(qū)域都繪制了地圖”，這并不意味著Level 5。實(shí)際上，這是Level 4。如果碰到這樣的情況，我會繼續(xù)追問，“不論白天、晚上，不論什么天氣，不論什么交通狀況嗎？”
你會發(fā)現(xiàn)這個(gè)分級概念有點(diǎn)模糊，并沒有很清晰的界定。Level 4或者“完全自動(dòng)駕駛”這樣措辭的問題在于，它概念特別寬泛。
比如，我的車能夠在一條專屬車道上實(shí)現(xiàn)全自動(dòng)駕駛，這與火車在軌道上行駛并沒有太大差別。而雨天在羅馬混亂的馬路上行駛則是一件完全不同的事，因?yàn)檫@要難得多。
“完全自動(dòng)駕駛”這個(gè)詞匯的意義太過寬泛，你必須問清楚，“真正的意思是什么？什么才是實(shí)際情況？”通常你會發(fā)現(xiàn)他口中的“完全自動(dòng)駕駛”有諸多限制，比如車流、天氣、白天還是夜晚等等。
問：這些信息給消費(fèi)者帶來了期望值的問題，他們每天都聽到這些新詞匯、新概念，卻不知道它們到底意味著什么。
Pratt：你說的很對。作為消費(fèi)者，我們喜歡自己在腦海里建立一個(gè)模型，來預(yù)測這種自動(dòng)駕駛技術(shù)到底有多好。這種模型往往是帶個(gè)人感情的：我們只會關(guān)注某些事情，而自動(dòng)駕駛技術(shù)的不完善可能會被選擇性地忽視，這讓我們要么過度信任，要么低估自動(dòng)駕駛的能力。
豐田認(rèn)為，對消費(fèi)者進(jìn)行教育，并讓他們真正了解技術(shù)的局限性非常重要。整個(gè)業(yè)界需要共同努力，從客戶的角度出發(fā)，確保他們真正了解自動(dòng)駕駛汽車的好處，以及它能做什么、不能做什么。這樣消費(fèi)者就不會盲目信任自動(dòng)駕駛。
過度信任是另一個(gè)大問題，一旦你將車銷售給消費(fèi)者，當(dāng)后者在適宜環(huán)境下體會到自動(dòng)駕駛的種種好處，你就很難再影響他們。
隨著自動(dòng)駕駛汽車技術(shù)的提升，需要人類介入的情況會越來越少，這將加劇過度信任的問題。因?yàn)橛脩魰@樣說，“它之前不需要我接手，現(xiàn)在也不需要，未來也沒有這個(gè)必要。”
從某些方面來說，最糟糕的情況是：一輛自動(dòng)駕駛汽車每行駛20萬英里才需要人類接手一次，而一個(gè)平均行駛里程為10萬英里的普通司機(jī)則很難遇到需要自己接管的情況。但有時(shí)，當(dāng)汽車突然發(fā)出預(yù)警，提示需要司機(jī)接手，對于一個(gè)已經(jīng)很久沒有碰到過這種情況的司機(jī)來說，可能會因?yàn)橥耆湃纹嚕栌跍?zhǔn)備。
因此，我們也擔(dān)心：我們做得越好，過度信任帶來的問題就會越大。
問：你認(rèn)為Level 5級別的全自動(dòng)駕駛現(xiàn)實(shí)嗎？或者說可能嗎？
Pratt：我認(rèn)為是可能的，目前我們的標(biāo)準(zhǔn)參考的是人類司機(jī)的標(biāo)準(zhǔn)。
我在發(fā)布會上也提出了這個(gè)問題：“我們應(yīng)該使用怎樣的標(biāo)準(zhǔn)來判斷這個(gè)系統(tǒng)要達(dá)到什么水平？”我認(rèn)為這是非常重要的，但現(xiàn)在還沒有答案。目前，自動(dòng)駕駛汽車離“完美”還需要很長時(shí)間，因此不可能完全避免事故的發(fā)生。
如果自動(dòng)駕駛系統(tǒng)的駕駛水平比人類好10%，社會能接受嗎？還是說要好10倍才會被社會接受？我不知道。
老實(shí)說，作為技術(shù)工作者，我們并不能告訴大眾這個(gè)問題的答案，這個(gè)角色是屬于政府、屬于每一個(gè)將會被影響的人。“能夠拯救一個(gè)生命才算足夠好。”或者說，“只有當(dāng)它比人類駕駛好10倍時(shí)，我們才會接受它。”我不確定。但我認(rèn)為，在有答案之前，我們必須非常謹(jǐn)慎：不要引入不符合社會預(yù)期的技術(shù)。
在談到自動(dòng)駕駛汽車安全時(shí)，我有時(shí)也會和別人一樣，試圖證明“就算自動(dòng)駕駛汽車將安全系數(shù)提高了1%，我們也應(yīng)該推廣它。”從理性的角度來看，這是正確的，但也是一件感性的事情。
人類并不理性：如果將空難作為類比，毫無疑問，飛機(jī)是最安全的旅行方式，你應(yīng)該永遠(yuǎn)不需要擔(dān)心空難。但飛機(jī)也可能會失事。當(dāng)看過空難之后，我們的恐懼會被放大，然后開始擔(dān)心自己搭乘的飛機(jī)是否也會失事。
理性地說，這種擔(dān)憂毫無意義：汽車的事故率要比飛機(jī)高得多，但是只要飛機(jī)失事就會被占據(jù)新聞?lì)^條，最后，我們開始擔(dān)憂飛機(jī)而不是汽車。
對于人類駕駛造成的事故，我們可能會想，“這可能發(fā)生在我身上，我也可能犯這樣的錯(cuò)。”如果是一臺機(jī)器，我擔(dān)心人們并不會因此產(chǎn)生同理心，因?yàn)樗麄冎粫Ｍ@臺機(jī)器是完美、不會出錯(cuò)的。我們知道，AI系統(tǒng)，特別是基于機(jī)器學(xué)習(xí)的AI系統(tǒng)，并不是十全十美、毫無缺點(diǎn)的。
由于通過傳感器獲取的外部信息維度太大，汽車會接收以前從未訓(xùn)練過的信息，我們期望它能夠根據(jù)這些信息對周圍環(huán)境做出合理認(rèn)知。
每隔一段時(shí)間，當(dāng)我們?nèi)〉眯逻M(jìn)展時(shí)，就可能因?yàn)檎J(rèn)知系統(tǒng)的錯(cuò)誤，導(dǎo)致事故發(fā)生。當(dāng)事故發(fā)生后，我們能夠說什么？我們又要責(zé)怪誰？我們不知道這個(gè)答案，但這是一個(gè)非常重要的問題。
問：前谷歌自動(dòng)駕駛汽車負(fù)責(zé)人、現(xiàn)TRI CTO James Kuffner在CES上談到了云機(jī)器人。自動(dòng)駕駛汽車不可能完全避免事故，但是每當(dāng)事故發(fā)生之后，汽車廠商能否查出事故的原因，并及時(shí)給推送軟件更新，防止此類事故再次發(fā)生？
Pratt：我認(rèn)為這是很有可能的。
實(shí)際上，如果做不到這一點(diǎn)才會讓人驚訝。我們有非常詳細(xì)的駕駛?cè)罩荆瑏碛涗涇嚨湑r(shí)的情況。你問了一個(gè)很有趣的問題：我們能夠找到真正的事故原因嗎？
為什么說有趣呢？因?yàn)闄C(jī)器學(xué)習(xí)系統(tǒng)，特別是深度學(xué)習(xí)，雖然有很強(qiáng)悍的性能表現(xiàn)，但實(shí)際上它并不會通過分析得出答案，也正是如此，才讓尋找事故的原因變得非常困難。
我們在MIT以及其他地方都有研究，希望能夠在這方面取得進(jìn)展。目前我們資助MIT教授Gerald Sussman的一個(gè)項(xiàng)目——“The Car Can Explain”，就在做這一方面的研究。
日志就在那里，但是誰才應(yīng)該為錯(cuò)誤負(fù)責(zé)？這是一個(gè)更難的問題。我們能做些什么來確保這種錯(cuò)誤不會再次發(fā)生？“我今天修補(bǔ)了這個(gè)漏洞，明天又修補(bǔ)了另一個(gè)漏洞......”但是這個(gè)系統(tǒng)太過龐大，很多地方都可能會出現(xiàn)問題。
事實(shí)證明，測試、測試、測試是最重要的事情。在全球范圍內(nèi)，汽車行駛的總里程約為10萬億公里。因此，如果你只測試幾百公里，它很難覆蓋到所有情況。你需要通過另一種方式來提升它的能力，解決這個(gè)問題——加速模擬測試就是其中關(guān)鍵一環(huán)。我們不會模擬那種完美情況：風(fēng)和日麗、交通順暢，我們要模擬的是惡劣的天氣和環(huán)境。
Rod Brooks有句話說的很對：“模擬是通往成功的必經(jīng)之路”。同時(shí)，我們很清楚模擬的種種缺陷，因此我們也做了很多路測來驗(yàn)證模擬的結(jié)果。我們也會使用模擬器測試一些不屬于常規(guī)測試的項(xiàng)目，這些項(xiàng)目很可能是事故發(fā)生的原因。
比如，當(dāng)一輛自動(dòng)駕駛汽車碰到路怒癥司機(jī)，就算那個(gè)司機(jī)不遵守規(guī)則，不按常理出牌，自動(dòng)駕駛系統(tǒng)也需要做出正確的決策。
我們不會在現(xiàn)實(shí)中反復(fù)測試這種情況，因?yàn)榇蠖鄶?shù)時(shí)候都是以撞車而收場。我們會隔一段時(shí)間測一次，同時(shí)，通過模擬來增強(qiáng)自動(dòng)駕駛系統(tǒng)的性能，不過這個(gè)模擬的過程非常困難。最終，這將我們帶到了另一個(gè)領(lǐng)域：形式化方法（formal methods，適合于軟件和硬件系統(tǒng)的描述、開發(fā)和驗(yàn)證）。
我們希望將模擬和形式化方法結(jié)合起來，但最終還是需要路測。深度學(xué)習(xí)是很了不起的方法，但是它并不能保證所有輸入和決策行為都是正確的，想要確保它們都正確也是一件非常困難的事情。
問：不論是什么級別的自動(dòng)駕駛汽車，對于它們來說，人類都是最不可控的因素。每次路測，都會遇到各種人類行為，你們是如何模擬這些只有人類才會做的瘋狂的事情？
Pratt：其實(shí)這和我們模擬天氣或交通狀況類似。想要完全模擬人類的行為很難，因?yàn)槊總€(gè)人都不一樣，存在太多可能性，但我們認(rèn)為這在某種程度上是可行的。
作為一個(gè)司機(jī)，我們可以利用心智理論（一種能夠理解自己以及周圍人類心理狀態(tài)的能力）想象其他司機(jī)駕駛時(shí)的行為。
首先，在自己的頭腦里模擬一遍，比如當(dāng)我們碰到“four way stop”（每個(gè)方向都有停車標(biāo)志的十字路口）時(shí)，假如我是司機(jī)，會怎么做？心智理論意味著模擬是一件可能的事情，因?yàn)槲覀兡軌蛲ㄟ^建立統(tǒng)計(jì)模型來預(yù)測其他人會有怎樣的行為。
問：有時(shí)候，人類作出的反應(yīng)并不一定就是安全的行為。你們?nèi)绾谓桃惠v汽車在這樣的環(huán)境下做決策？
Pratt：這是一個(gè)很有趣的問題。
當(dāng)你在高速公路上行駛時(shí)，如果最高限速是55英里/小時(shí)，你是會開到55英里/小時(shí)？還是和周圍司機(jī)差不多的速度？什么才是最安全的？
我不想給出一個(gè)官方回答，但這是一個(gè)難題，我們也與豐田法務(wù)部門探討過這個(gè)問題。他們也認(rèn)為很難給出一個(gè)確定答案。
問：在新聞發(fā)布會之后，您提到了一些關(guān)于如何為電動(dòng)汽車中的車載計(jì)算機(jī)供電以及如何散熱是一個(gè)大難題。我們一直專注于自動(dòng)駕駛汽車在決策制定方面遇到的困難，但還有哪些方面也是需要我們弄清楚的？
Pratt：我喜歡這個(gè)領(lǐng)域，是因?yàn)槲疑砗笥幸恢９ビ布年?duì)伍。
過去，我研究過神經(jīng)生理學(xué)。計(jì)算效率非常重要，我們大腦的功耗只有50瓦，然而大部分的自動(dòng)駕駛系統(tǒng)功耗高達(dá)幾千瓦。我們大腦不止在處理駕駛這一件事情，而是會同時(shí)思考其他事情。或許，真正分配給駕駛的也就10瓦。
目前我們還不知道給自動(dòng)駕駛汽車配備多高的計(jì)算性能才算是合適的。很有可能，我們將計(jì)算性能提高10倍，自動(dòng)駕駛系統(tǒng)的性能并不會提升10倍，而只是有明顯改善。如果我們將計(jì)算性能提高100倍，或許自動(dòng)駕駛系統(tǒng)仍然有提升空間，并有所改善。
自動(dòng)駕駛系統(tǒng)的性能會持續(xù)提升，但我不知道這會是一條怎樣的增長曲線。因此，除了軟件、測試等工作，我們還需要重新設(shè)計(jì)計(jì)算機(jī)硬件，讓它變得和我們的大腦一樣高效。
至于你提到的其他需要解決的問題，我認(rèn)為傳感器還有很大的發(fā)展空間。
激光雷達(dá)確實(shí)很不錯(cuò)，但是還有很大的改善空間。比如，采樣密度仍然較低，在探測遠(yuǎn)處的汽車時(shí)，并不能和人類視覺相提并論。又比如，對于Level 3級別的自動(dòng)駕駛汽車來說，需要預(yù)留時(shí)間讓司機(jī)作出反應(yīng)——除非你的傳感器能夠探測到并理解遠(yuǎn)方發(fā)生的事情，否則不可能提前提醒你。
此外，傳感器還需要便宜、防震，并且能夠持續(xù)工作10到20年。大多數(shù)人認(rèn)為汽車的質(zhì)量不高，實(shí)際上是非常高的。我曾經(jīng)在DRAPA做過很多軍用規(guī)格的產(chǎn)品，但是想要達(dá)到與汽車相當(dāng)?shù)馁|(zhì)量是非常困難的。
比如攝像頭，汽車可能需要在沙漠或者阿拉斯加等不同的環(huán)境中行駛，那么就會有鹽、銹等腐蝕性物質(zhì)，甚至屏幕被灰塵覆蓋等各種情況。因此想要保證汽車傳感器在不同的環(huán)境下持續(xù)正常工作，這是相當(dāng)困難的。
我認(rèn)為，這個(gè)領(lǐng)域的技術(shù)人員普遍有一個(gè)共同的愿望，那就是媒體、特別是公眾能夠更好地被教育，真正理解這個(gè)行業(yè)正在發(fā)生的事情。比如像“完全自動(dòng)駕駛”這種措辭就很容易被誤解。“完全”意味著什么？其實(shí)有很多意思。
因此最好不要說，“因?yàn)槲覀兿胍炀壬晕覀冃枰詣?dòng)駕駛汽車”。其實(shí)還有很多輔助人類司機(jī)的方法。大多數(shù)時(shí)候這些輔助系統(tǒng)不會被激活，只會偶爾給個(gè)警告或提示，如果有必要的話，再從司機(jī)那里接管汽車。這種系統(tǒng)不需要所有情況都能勝任，只需要能處理最壞的情況就可以了。
問：目前機(jī)器擅長的往往是人類不擅長的，比如需要時(shí)刻集中精神，注意前方的車輛，或者車道。這種說法對嗎？
Pratt：很正確，人和機(jī)器是互補(bǔ)的：機(jī)器能夠一直保持警惕，不會疲倦，人類則擅長處理復(fù)雜的情況，這正是機(jī)器的弱點(diǎn)。那么，我們怎樣才能讓這兩者互補(bǔ)，而不是互相沖突？換一種思考方式就是：到底誰該扮演守護(hù)者的角色？是自動(dòng)駕駛系統(tǒng)，還是人類？
目前想要讓機(jī)器守護(hù)人類需要達(dá)到的標(biāo)準(zhǔn)還很高，我們的目標(biāo)是讓人類最終并不需要再擔(dān)憂什么，把一切交給AI就好。這也是為什么豐田會采取齊頭并進(jìn)的模式。
很多公司來CES參展其實(shí)都是來賣車、賣技術(shù)的，但豐田并不需要推銷，我們希望利用這個(gè)機(jī)會來教育用戶。
問：目前NHTSA（美國國家公路交通安全管理局）只劃分了4個(gè)等級，對嗎？
Pratt：是的。NHTSA只有4個(gè)等級，但是SAE（Society of Automotive Engineers，美國汽車工程師學(xué)會）非常聰明，他們將Level 4進(jìn)一步劃分成Level 4和Level 5。Level 5在何時(shí)何地都不需要人類接管，而Level 4在某些情況下需要人類接管。除此之外，他們在本質(zhì)上是相同的。
雖然SAE的劃分沒什么問題，但一直被大眾誤解。目前，很多Level 2都被稱作Level 3，這其實(shí)是錯(cuò)誤的。而Level 3的關(guān)鍵在于不需要人類一直監(jiān)管。
問：當(dāng)司機(jī)不能接管時(shí)，是否有備用計(jì)劃（Plan B）？我記得Freightliner在介紹他們的自動(dòng)駕駛卡車時(shí)說：如果司機(jī)不接管，就會直接停在高速公路上，因?yàn)樗恢涝撛趺醋觥?/strong>
Pratt：在SAE的分類里，并沒有提及備用計(jì)劃，比如當(dāng)車必須停下來時(shí)，應(yīng)該停靠在哪里。我在新澤西州長大，那里的很多高速公路都沒有可以停靠的地方，那么你要怎么做？這也是難點(diǎn)之一。
此前，有人建議說可以通過遠(yuǎn)程操控來解決：當(dāng)自動(dòng)駕駛汽車陷入困境的時(shí)候，它就會自動(dòng)轉(zhuǎn)接到某個(gè)呼叫中心的遠(yuǎn)程司機(jī)，讓他接管。首先，這必須要有足夠快速、穩(wěn)定的網(wǎng)絡(luò)，還要沒有黑客，沒有自然災(zāi)害。最重要的是，一個(gè)在呼叫中心的工作人員能夠瞬間作出反應(yīng)，接管并處理問題嗎？人類不可能一直保持警惕，這是人類的弱點(diǎn)。人類也不擅長及時(shí)并正確地處理突發(fā)事件。
我并不是說這完全不可能，而是這個(gè)過程可能非常困難。
雷鋒網(wǎng)推薦閱讀：
對于全自動(dòng)駕駛，豐田研究所負(fù)責(zé)人是這么評價(jià)的
本文參考資料：
【招聘】雷鋒網(wǎng)堅(jiān)持在人工智能、無人駕駛、VR/AR、Fintech、未來醫(yī)療等領(lǐng)域第一時(shí)間提供海外科技動(dòng)態(tài)與資訊。我們需要若干關(guān)注國際新聞、具有一定的科技新聞選題能力，翻譯及寫作能力優(yōu)良的外翻編輯加入。
簡歷投遞至 wudexin@leiphone.com，工作地 北京。
