<mark id="oztn4"></mark>
0
| 本文作者： 楊曉凡 | 2017-11-29 19:25 |
雷鋒網 AI 科技評論按：普通大眾對“人工智能的智力超越人類，最終統治世界、滅絕人類”這件事充滿了擔憂，而實際上許多已經在從事人工智能相關工作的研究者也免不了有類似的擔憂。樂觀的人都很想告訴悲觀的人為什么“人工智能大爆發”不會發生，但往往沒有好的論據和理論體系。
近日，著名的機器學習研究者、Keras的作者 Fran?ois Chollet 就在 Medium 上發出一篇長文，詳細解釋了智力的本質、迭代發展是怎么回事，最終表明“人工智能大爆發”是不會發生的。雷鋒網 AI 科技評論把這篇文章全文翻譯如下。
1965年，英國數學家、圖靈曾經的同事、后來還擔任了「2001太空漫游」的科學顧問的 I. J. Good 首次提出了“智力爆發”的想法，這和人工智能（AI）有著密切關聯：
假定有一種機器，無論多聰明的人做出的智力活動都可以被它超越，我們就把它稱作“超級智能”。由于機器的設計也是這些智力活動中的一種，一個超級智能就能比人類設計出更好的機器；那么毫無疑問地，接下來就會迎來“智力爆炸”，人類的智力會被遠遠甩開。這樣以來，第一臺擁有超級智能的機器就會是人類歷史上的最后一項發明，我們也只能希望超級智能足夠溫順體貼，能告訴人類一些辦法避免完全脫節。
幾十年后，“智力爆炸”的想法在人工智能領域已經落地生根，關于“超級人工智能”和人類會最終滅絕的擔憂一直縈繞在人們心中。許多知名公司的負責人都認為這是一個重大風險，甚至比核戰爭和氣候變化的風險還要大。機器學習專業的畢業生也大都贊同這種擔憂。在2015年的一項面向人工智能研究者的電子郵件調查中，29%的參與者認為人工智能大爆炸是“很可能”和“極有可能”的；還有21%認為認為這事有相當的可能性。
人工智能大爆炸的基本假設是這樣的：在不遠的將來，人們首先創造出一個“種子AI”，它具有稍微高過人類一點點的通用問題解決能力。然后這個AI就會開始設計出更好的AI，從而啟動一個循環往復的自我升級過程，在短時間內以數量級的優勢超過人類，最終將會讓人類智能顯得不值一提。這種理論的支持者把人工智能看作是一種強權力量，它的擁有者隨之也有擁有了可以改變環境、改變世界的超自然力量，就像2014年的科幻電影「超驗駭客（Transcendence）」里那樣。超級人工智能幾乎是全能的，也就會對人類社會產生實實在在的威脅。
關于人工智能的風險以及如何管控它們的公眾辯論有很強的誤導性，這些科幻電影更是火上澆油。在這篇文章中，我會闡述我的觀點：人工智能大爆炸是不可能的，這種“智力爆炸”的想法完全是來自于對智力的本質和迭代自我增強系統這兩個方面的深遠的誤解。我會根據對智能系統和迭代系統的實際觀察給出我的論點。
“智力爆炸”背后的推理過程就和上個世紀六十七年代產生的早期AI理論一樣，是有些詭辯的：它把“智力”看作是一件完全抽象的概念，從它的內容中剝離開，而且忽略了已有的關于智能系統和迭代自我增強系統兩個方面的已有證據。但智力并不一定是這樣的。說到底，人類就生存在一個充滿了智能系統（包括我們）和自我增強系統的星球上，所以我們就可以直接觀察它們、從它們身上尋找現有問題的答案，而不是完全脫離證據地做循環論證。
為了討論智力和它可能的自我增強的屬性，我們需要先介紹一些必要的背景知識和語境。當我們討論智力的時候，我們到底討論的是什么？即便“精確地定義智力”這件事本身就有不小的困難。關于智力爆炸的論述把“智力”等同于“每個獨立的智能體身上體現出的解決通用問題的能力”，它可以來自人類大腦，也可以來自未來的電子大腦。但這并不是一個完整的回答，所以我們從上面這個定義出發，開始拓展它。
我在“智力爆炸”理論里發現的第一個問題就是它沒有意識到智力其實是一個更廣闊的系統的一部分，有一種關于智力的觀點“缸中之腦”就認為智力可以獨立于它的場景存在。大腦僅僅是一塊生物組織，本質上來講它沒什么好智能的。而除了大腦之外，你的身體和感知（感覺到運動的功能）也是大腦中的一個基礎部分。人類所處的環境是大腦中的一個基礎部分，人類文化是大腦中的一個基礎部分。這些都是人類思維的來源。對智力的考量不能把它從它用來表達自己的內容中脫離出來。
具體來說，“通用人工智能”這種東西是不存在的。先從抽象角度來講，我們都知道“沒有免費的午餐”定理，它是說對于所有可能的問題來說，沒有什么問題解決方法能夠比隨機選擇的效果更好。如果智力的表現是一種解決問題的算法，它只有在某個具體問題的條件下才能夠被人類理解。更實際地講，可以看到現在我們構建出的各種智能系統都是高度專用化的?，F在我們構建出的AI的智力都是高度專用的，專門用來解決非常細分的問題，比如下圍棋，或者把圖像分到一萬個已知的類別中。這就好像，一只章魚的智力是專門用來解決“如何做一只章魚”這個問題的。人類的智力同樣是專門用來解決如何做一個人類的。
如果我們把一個全新的人類大腦放在章魚的身體里，然后讓它生活在海底，那會怎么樣？它能學會如何控制這個有著8只腿的身體嗎？它能堅持個幾天嗎？我們做不了這樣的實驗，但是根據已有研究中發現的人類固有的基礎行為和早期學習模式來說，很有可能這個章魚中的人類大腦展現不出任何智慧行為，而且會很快死掉。怎么樣，大腦現在就不怎么聰明了吧？
如果我們把一個人類（大腦和身體一起）放到一個完全沒有我們熟知的人類文化的環境中呢？一個被狼群養大的狼孩，長大以后會比他的被人類養大的雙胞胎兄弟更聰明嗎？如果我們把這個狼孩和年幼的愛因斯坦換一換，他會不會有機會借助教育的力量，最終同樣發現關于宇宙的理論呢？可供借鑒的經驗性證據非常少，但是從我們現有的知識中可以看到，在人類文化環境之外長大的小孩最高也只能發展出基本的、動物一樣的生存行為，當他們長成大人以后都還學不會任何語言。
如果像我們剛才說的這樣，智力在本質上是取決于具體的感知模式、具體的環境、具體的養育方式、具體的需要解決的問題的，那我們就不能指望只依靠調節“大腦”，就能任意地提高一個智能體的智力水平，就像不能只靠調節工廠里流水線的速度來提高整個工廠的產量。想要智力爆發，那么大腦本身、感知模式和環境都需要跟著進化。如果我們大腦的組成結構是我們問題解決能力的決定性因素，那么那些IQ遠超正常人類范圍的人也就會以遠超過普通人的方式生活，解決各種以前人們認為解決不了的問題，甚至最終通知世界，就像有的人害怕超過人類智力的AI會做出這些事一樣。然而實際上，具有超常的認知能力的人多數都過著異常乏味的生活，幾乎沒幾個人做出了什么值得紀念的事情；另一方面，如果我們看看那些嘗試統治世界的人，我們幾乎看不到其中有誰是特別聰明的。
對于那些在真正的難題上做出了真正的突破的人，他們之所以能做出成果是環境境遇、性格、教育背景、智力因素組合的結果，而且他們也是在前人的工作之上一點點做出改進，從而形成突破?！?strong>成功”，這種智力的外在表現，是一種在合適的時間遇到一個好的問題的能力。許多解決了重大問題的杰出人物甚至都不一定有多聰明，他們的技能是專門用于某個特定領域的，他們在自己的主攻領域之外也并不見得就比普通人表現更好。有一些人做出了更多的成就是因為他們的團隊協作能力更好，或者更有勇氣、工作中有更高的道德、有更好的想象力。也有一些人只不過碰巧就在對的場景里、在對的時間講了對的話。本質上來說，智力是取決于場景的。
智力并不是某種超強力量；超常的智力僅憑它自己并不能給某個人帶來同樣比例的額外的力量，從而改善他自己的處境。不過，有充足的研究表明智力的高低（以IQ值衡量，不過這也有待討論）跟整個社會的分布中最接近平均值的一部分的社會成就有關系。一個IQ為130的人從統計意義上來講更有可能比IQ為80的人獲得成功的人生；對單個個體來講其實變數也是很多的，這種關聯只在統計學意義上有效，但它在超過某個點之后還是會失效。沒有任何證據可以表明一個IQ為220的人能比IQ為130的人能在某個領域做出更大的貢獻。這是為什么呢？
這種狀況指向了一個非常直觀的事實：做出高的成就需要有足夠的認知能力，要高出某個閾值，然而接下來在解決問題、在“智力的外在表現”時遇到的瓶頸就并不是隱含的認知能力自己了。這個瓶頸是人類自己的處境。我們所在的環境決定了我們的智力是如何呈現出來的，它給我們能憑借大腦做到的事情加上了一個不可逾越的上限：環境決定了我們長大以后能變得多聰明、決定了我們能以何種效率利用我們培養出的智力，以及決定了我們能解決什么樣的問題。所有的證據都表明，我們現在的生存環境很大程度上就和人類歷史上過去的二十萬年里的、甚至更早時候的生存環境一樣，始終不足以讓高智慧的個體完全發展、完全運用他們的認知潛能。一個一萬年前的具有很高潛力的人類基本上是在一個復雜度相當低的環境中長大的，很可能只會說一種詞匯量不到5000個單詞的語言、從來都沒有閱讀或者寫作過、只接觸到了非常有限的知識、遇到了寥寥幾個認知挑戰。對于多數的現代人類來說狀況是要好一些了，但是沒有任何跡象可以表明我們現在在環境中遇到的機遇和挑戰增加得比我們的認知潛能更快。
“從某種程度上說，我對愛因斯坦大腦中的權重和卷積的興趣，并不比幾乎一定存在的、具有同樣天分的、在棉花田和工廠流水線里生活死去的人更多。” —?Stephen Jay Gould
一個聰明的人類如果在森林中長大，那他只不過是一只沒有毛的猴子。類似地，一個具有超越人類的大腦的AI，如果以人類的身體在現代世界里生活，也不見得會比一個聰明的現代人學到更多更強的本事。駕駛它能的話，那么那些已知的具有高IQ的人類就肯定已經做出了與IQ成正比的超人般的個人成就；他們對自己的環境的控制力將是普通的人類無可比擬的，也將會解決深遠、重大的問題。然而這一切現在也并沒有發生。
決定我們的大腦會發展出什么水平的智力的，并不僅僅是我們的身體、感知和環境，這里的重點是，人類的生物學上的大腦僅僅是人類總體智力的一小部分。我們身邊充滿了認知意義上的“假肢”，它們連接到我們的大腦中，拓展了大腦解決問題的能力。比如你的手機、你的電腦、谷歌搜索、在學校遇到的認知工具、書籍、別的人、數學符號、編程，等等。所有認知意義上的假肢中最最基礎的當然就是語言本身，它可以說是認知活動用的操作系統，如果沒有它我們就沒辦法做深入的思考。這些東西就不僅僅是喂到大腦中然后被它使用的知識，它們是真正的外部認知過程，用非生物化的方法執行思維路徑和解決問題的算法；它們超越了時間、空間，而且更重要的是，超越了我們每個個體。這些認知假肢并不是我們大腦的任何一部分，但卻是我們大多數認知能力的棲息之處。
我們人類就是由我們使用的工具塑造出來的。單獨的一個人幾乎什么都做不了；這話可以再說一遍，人類只不過是兩只腳走路的猴子而已。讓人類脫離了動物本能的，是人類集體的知識和外部系統在數千年間的積累，我們也把這個過程稱作“文明的建立”。當科學家做出了突破性發現的時候，他們大腦中運轉著的思維過程僅僅是整個方程的很小一部分，問題解決過程中的絕大部分的工作量都是由電腦、別的研究者、紙筆記錄、數學符號等等完成的，他們能夠成功的原因也都是因為他們站在巨人的肩膀上：他們自己的研究成果只不過是一個延續了幾十年的、有幾千個獨立的個體參與的問題解決過程中的最后一個子程序而已。作為單獨的個體，他們自己的認知成果對于整個流程來說并不見得就比計算機芯片中的一個晶體管起到的作用更大。
有多到數不清的證據都指向了這個簡單的事實：單獨一個人類大腦，只靠它自己，是不足以設計出超越自己的智慧存在的。這完全是一個實證得到的結論：在這地球上出現過、滅亡了的幾十億個人類大腦中，沒有一個做到了這件事。這件事很明顯，單獨一個人的智力，花了一生的時間也設計不出更高的智力存在；假如能的話，在這樣的幾十億次嘗試之后，是肯定要能發生的。
然而，這幾十億個大腦，在數千年間積累了知識、發展出了外部的智慧流程、實現了這個“文明”系統，最終有可能就會帶來智力高于單個人類個體的人工大腦。能創造出超越人類的AI的，不是你，不是我，不是任何單獨的人類個體，而是作為一個整體的人類文明。這個過程中有無數的人類參與、花費的時間我們無法想象；這個過程對書本、計算機、數學、自然科學、網絡等等外部智力的需求要遠高于生物智力。從個體的層次講，我們都只是人類文明中的一個個向量，從前人的工作上開始，向下傳遞我們自己的發現。如果人類文明對應的這個解決問題的算法運行在電腦上，我們就只是短暫參與其中的晶體管而已。
經過幾個世紀的時間、人類集體開發出的超越人類的未來人工智能，會有可能有能力創造出比它們自己更強大的AI嗎？不會的，就像我們人類也不知道如何開發出超越自己的人工智能一樣。如果你回答“會”的話，就又和我們知道的一切沖突了。請記住，沒有任何人類，也沒有任何我們知道的具有智力的實體能開發出任何比自己更聰明的東西。我們人類要做的是，逐步地、共同地構建比我們自己更強大的外部的問題解決系統。
不過，未來的AI就會和人類以及其它人類創造出的智慧系統一樣，給人類文明添磚加瓦；而人類文明，反過來也就會不斷拓展它創造出的AI的能力。從這種意義上說，人工智能就和計算機、書本或者語言一樣，是一種給人類文明帶來更強大力量的科學技術，超級人工智能所代表的技術奇點也就會和計算機的發明、書本的發明、語言的發明所代表的奇點一樣。人類文明會創造出AI，然后繼續向前進步。人類文明最終會超越我們現在的存在形式，就像現在的人類文明超越了一萬年前的人類一樣。這是一個逐步發生的過程，而不是一個突然的轉變。
智力爆炸的基本假設，一個“種子AI”會出現，憑借比人類更強的問題解決能力，走向突然的、迭代的、不受控制的智力發展循環，是錯誤的。我們人類的問題解決能力（具體來說，我們設計人工智能的能力）本來就一直在提高，因為這些能力大部分并不是存儲在我們的生物學大腦中的，而是蘊含在人類身體外部的所有工具中。這個迭代進化的循環已經運轉了很長時間了，“更好的大腦”的出現也不會對它造成什么實質性影響，不會比任何以往的智力增強技術影響更多。人類的大腦從來都不是人工智能設計過程中的重大瓶頸。
說到這里你可能會問，人類文明本身難道就不是一個可能失控的、能自我增強的大腦嗎？我們的文明所代表的智力會爆炸嗎？不是，也不會。這里的關鍵是，人類文明這個級別上的智力增強循環，只為人類帶來了隨著時間線性增加的問題解決能力。這樣是沒辦法爆炸的?？墒菫槭裁茨?？從數學上迭代增加X不就會帶來X的指數性增大嗎？不是的。簡單來說，沒有哪個現實世界中的復雜系統可以被 “X(t + 1) = X(t) * a, a > 1”這樣的模型描述。這樣的系統在真空中不存在，尤其也不會在智力和人類文明中存在。
當一個智能系統開始優化自己的智力的時候，我們其實都不需要猜測會不會出現智力的“爆炸”。即便在這之前，多數的系統就都是能自我迭代增強的。我們的生活里充滿了這樣的系統，所以我們很清楚這樣的系統在各種不同的環境下、各種不同的時間尺度下都有哪些行為特點。你自己，就是一個迭代自我增強的系統：通過學習讓自己更聰明，反過來又能讓自己更高效地學習。類似地，人類文明也是自我迭代增強的，只不過是在長得多的時間尺度上。機電一體化也是一個自我迭代增強的過程：更好的工業機器人，就可以造出更好的工業機器人。軍事帝國也是自我迭代地擴張的：帝國越大，就有越多的軍事手段可以繼續擴張。個人投資也是自我迭代增強的，有更多的錢，就能掙更多的錢。不勝枚舉。
讓我們以軟件為例考慮一下，編寫軟件的過程很明顯能幫助寫出更好的軟件：首先，我們編寫出能“自動化編程”的編譯器，然后我們借助編譯器開發出新的程序語言，從而可以實現更強大的編程范式。借助這些語言，我們開發出了高級開發工具，debugger、IDE、bug預測器等等。未來，軟件甚至可以自己編程自己。
那么這個自我迭代增強過程的終局如何呢？同樣在你的電腦上，你今年能做的事情就會比去年翻一倍嗎？下一年還能再翻兩倍嗎？理性地說，軟件的功能是以線性的速度逐漸提高的，但同時我們卻投入了指數增加的精力在軟件開發中。軟件開發者的數量在過去的幾十年里一直都在指數級增長；同樣地，根據摩爾定律，運行軟件所用的芯片中的晶體管的數目也是指數級爆炸的。然而，我們的電腦只是小步地、小步地比2012年的、或者2002年的、或者1992年的電腦變得更有用那么一點。
為什么呢？主要原因是，軟件的功能根本上來講是受限于它的使用過程中處理的內容的，就像智力，一面可以被它用于表達自己的內容所定義，另一面也被用于表達自己的內容所限制。軟件也只不過是人類經濟、人類生活這樣的巨大過程中的一個螺絲釘而已，就像我們的大腦也只不過是人類文化這個巨大的過程中的一個螺絲釘。這些內容給軟件作用的最大潛能設置了上限，就像我們生存的環境給單個人的智力水平設置了上限一樣，即便這個人有天賜的超級大腦也沒用。
除了來自內容的硬性限制之外，即便系統的某一個部分有迭代自我增強的能力，系統里其它不能迭代自我增強的部分也不可避免地會成為整個系統表現的瓶頸。作為對迭代增強的反應，反向對抗的過程就會這樣出現，阻撓增強過程的繼續；以軟件的例子來說，功能的增強可能會帶來資源的消耗、特性更新緩慢、用戶體驗方面的問題等等。對于個人投資來說，你自己花錢的速度就是一個類似的對抗過程：你手里的錢越多，你花出去的錢也就越多。對于智力來說，系統之間的溝通就是對任何內部功能改進的阻礙。大腦如果遇到了更聰明的肢體，協調它們的時候就會遇到更多的問題；一個社會中的個體如果更聰明了，這個社會也就需要投入更多的資源在網絡和溝通上，等等。IQ非常高的人有更高的可能性患上某些精神疾病，這可能并不是什么巧合，歷史上的軍事帝國在超過了一定規模以后都會走向崩塌可能也并不是隨機事件。指數增長的過程，遇到了同樣指數增長的阻力。
有一個值得具體說說的例子是科學技術的發展，因為它從概念上很接近智力本身：科學技術，作為一個問題解決系統，距離一個可能失控的超級AI并沒有多遠?？茖W技術當然是一個自我迭代增強的系統，因為科學技術進步帶來的結果就是我們能制造出新的工具，給科學技術帶來更強的力量，不論是實驗設備（比如量子物理引出了激光的發現，而后讓許多新的量子物理的實驗得以進行）、思想工具（比如新的定理、新的理論）、認知工具（比如數學符號）、軟件工具、讓科學家們更好地合作的溝通流程（比如網絡），等等。
然而，現代科學技術的發展仍然是可見地線性發展的。2012年的時候我就寫過一篇關于這種現象的文章，標題是“奇點是不會來到的”。在1950到2000年之間，我們在物理方面做出的重大進步并不比1900到1950年之間的更多，那時候的科學家們做的就很棒了。如今數學的發展也并沒有比1920年的時候快到哪里去。幾十年來，醫學的發展從各個指標來看也只不過是線性的發展。而這還是我們在科學技術方面的投入以指數級別增加之后的結果，研究人員的數目大概每隔15到20年就會翻一番，同時這些研究員們也用著計算能力以指數級別增加的電腦來提高他們自己的產出能力。
原因是什么？減慢了科學技術自我迭代發展的重大瓶頸和對抗性的反作用力都是什么呢？因素太多了，根本數不過來。下面簡單列幾個吧。重要的是，以下的每一條都同樣適用于自我迭代增強的AI系統。
在某個領域做科學研究的難度會隨著時間指數增加。領域的創始人基本上摘走了所有伸手就能夠到的果實，之后的研究者想要達成可以相提并論的成就，就需要付出指數增加的精力。甚至在信息論領域中，沒有任何研究者做出的成果是可以和香農在1948年的論文中的成果相提并論的。
隨著一個領域變得越來越大，研究人員之間的信息共享與合作也變得指數級地困難。想要跟上最新的學術文章也變得越來越難。別忘了，一個有N個節點的網絡，節點間連線的數目是 N*(N-1)/2；連線增加得要比節點增加得快多了。
隨著科學技術知識越來越多，人們需要在教育和技術訓練中投入的時間精力越來越多，每個研究者自己所能探究的方向也越來越狹窄。
根據實際情況來說，系統的瓶頸、逐漸減少的回報和對抗性的反作用力，會讓我們身邊所有本來可以自我迭代增強的過程最終停滯。自我增強的確可以帶來提高，但是這種提高往往是線性的，甚至最高的情況也只是sigmoid函數那樣。你的第一個“種子美元”投資不見得就會帶來“財富爆發”；相反地，投資收益和逐漸增長的支出之間會達到平衡，你的財富往往只會是大概線性增長的而已。而這還只是在一個比自我增強的大腦簡單好幾個數量級的系統里的情況而已。
類似地，第一個超級AI的出現也只不過是可見的線性增長過程中的一步而已，而這個過程我們已經走了十分久了。
智力的拓展只能來自大腦（生物大腦或者數字大腦）、運動感知、環境和文化的共同進化，而不是單獨拿出來、僅靠調整缸中之腦的某些組成就能達到更高的智力。這樣的共同進化已經持續發生了不知道多久，而且會隨著智力的基礎逐漸轉為數字化的過程不斷地繼續進行下去。不會出現什么“智力大爆炸”，這個過程只能大致按照線性速度發展。
智力是取決于場景的，根本沒有“通用智能”這么一回事。我們的大腦是包括了我們的身體、環境、別的人類以及總體文化在內的一個更大的系統中的一部分而已。
沒有系統可以自己在真空中存在；每個單獨的智力存在都會同時被它存在的內容和環境所定義以及限制。目前來講，我們的所處的環境是我們智力發展的瓶頸，而不是我們的大腦。
人類智力在很大程度上是外部化的，它存在于人類文明中，而不是在人類自己的大腦里。我們就是被我們使用的工具定義的，我們的大腦就是一個遠遠大于我們自己的認知系統中的幾個模塊。這個大的認知系統就是能自我增強的，而且已經自我增強了很久了。
自我迭代增強的系統，在現實中由于各種瓶頸、逐漸減少的回報和來自它們存在的大環境的反作用因素，并不能真的達到指數級別的提升。根據以往經驗來講，它們往往只能展現出線性或者sigmoid的提升而已。尤其，科學研究的進展就是這樣的，而科學研究基本就是我們可觀察的系統里最接近自我迭代增強的AI的一個了。
迭代的智力增加一直都在進行著，跟著人類文明的發展一起。在AI時代它也會繼續進行下去，而它的發展也大概就是線性增加的。
（完）
via Medium.com/@francois.chollet，雷鋒網 AI 科技評論編譯
相關文章：
你以為人工智能很遙遠，但 Google 卻打算讓每個人都用上 AI
四大趨勢，九大方向：14位UC Berkeley人工智能專家眼中的未來人工智能系統
