<mark id="oztn4"></mark>
2
雷鋒網按：馬斯克不是一個沒有想象力的人，對于未來，他總是有自己獨一無二的看法，而且樂意下賭注，但硅谷最近快速奔向人工智能的動作卻嚇到了他，同時馬斯克認為大家對硅谷的動作也應該心存戒懼。于是馬斯克開始了自己的“十字軍東征”（創建 NeuraLink），并希望通過自己的行動將人們從機器人的統治中“解放”出來。通過這篇《名利場》的深度報道，我們能一窺硅谷鋼鐵俠在阻止 AI 毀滅人類上付出的努力和他對 AI 深深的恐懼。本文由雷鋒網編譯自 VanityFair。
作為一個末世論者，馬斯克擔心 AI 崛起，但憑借 AlphaGo 一戰成名的 DeepMind 創始人Demis Hassabis 則無疑是 AI 的支持者，兩人雖然意見相左，但多年前就是老相識了，關于人類未來命運的問題，他們也曾有過深入的交談。
這兩位大神級的人物雖然都崛起于硅谷，但他們并不在這居住。幾年前，Hassabis 曾造訪過洛杉磯郊外的 SpaceX 火箭工廠。在餐廳，兩人交談甚歡，從巨大的落地窗中，還能看到 SpaceX 引以為豪的巨型火箭。當時，馬斯克就闡述了自己創立 SpaceX 的終極目標：星際殖民。馬斯克也自豪地認為，這是世界上最重要的項目。
當時的 Hassabis 躊躇滿志，他也在做著另一項世界最重要項目：開發超級人工智能。馬斯克顯得有些不屑一顧，他認為如果不殖民火星，一旦 AI 崛起人類連躲的地方都沒有。Hassabis 則打趣稱，AI 會跟著人類去火星的。
Hassabis 的說法不但沒有化解馬斯克的焦慮，還讓他更加擔心了。
Hassabis 現年 40 歲，他非常謙遜但競爭力十足。在外界眼中，Hassabis 是 AI 界的梅林，這位魔術師將為世界召喚出無數 AI 子孫。
當然，AI 要走的路還很長，至少當下不應該成為讓馬斯克失眠的噩夢。眼下，Facebook 利用 AI 來做精準廣告投送、為照片貼標簽和策劃新聞；微軟和蘋果則用 AI 來驅動 Cortana 和Siri；谷歌則開始將 AI 當作整個搜索引擎的基礎。這一切都是未來“全知全能”AI 的預演。
在硅谷，Hassabis 出名原本是因為他棋藝高超，而且做過一款名為《邪惡天才》的游戲。但現在情況不同了，Hassabis 成了炙手可熱的超級大紅人，從著名投資人 Peter Thiel（硅谷唯一押寶特朗普的人）的小故事中，我們就能看出 Hassabis 的重要性。據悉，在 DeepMind 的一次會議上，一位投資人打趣道：“Hassabis 就應該就地槍斃，因為他是拯救人類最后的希望。”
三年前馬斯克就開始警告人類，稱 AI 可能變身殺人狂。就連 DeepMind 的投資人 Shane Legg 也表示：“我認為人類很有可能滅絕，而科技在其中將扮演重要角色。”
在 DeepMind 被并入谷歌之前（2014 年），馬斯克也是這家英國公司的投資人。不過，他投資 DeepMind 不是為了掙錢，而是為了時刻了解 AI 的發展軌跡。“我清楚的認識到，AI 的發展確實在加速，它比我們理解的要快得多。當然，這可能是因為平時大家看不到機器人走來走去。你家的 Roomba 也算是機器人的一種，但它們不會占領世界。”馬斯克說道。
雖然與硅谷大佬們都是好朋友，但馬斯克依然直言不諱的表示他們已經走上了自毀之路。在談到谷歌創始人拉里·佩奇時，馬斯克稱佩奇研發 AI 雖然是出于好心的，但依然有可能“在不經意間創造邪惡勢力，比如毀滅人類的人工智能機器人。”
在今年 2 月迪拜舉辦的的世界政府首腦會議上，馬斯克再次舊事重提，稱“一些科學家只是醉心于自己的工作，但他們并不了解自己的工作可能帶來的后果。”在馬斯克眼中，人類要想不被淘汰，“就必須實現生物智能與機器智能的融合。”這種曾出現在《星際迷航》的想法需要所謂的“神經織網”（neural lace），向人腦植入也許未來能夠上傳下載思想的微型電極。“我們其實已經是半機械人了。”馬斯克說道。“你的手機和電腦成了身體的外延，不過現在的交互需要通過效率低下的手指和語音來完成。”借助神經織網，你就能輕松與手上的設備交換數據，同時還能借助云端超強的運算能力。同時，馬斯克認為這種新型交互在四五年內就能成為現實。
三年前有了想法后，馬斯克在麻省理工的一次演講中將這些想法和盤托出，AI 成了他眼中“人類生存的最大威脅”。同時，馬斯克開始傾向于建立國家級或者世界級的監督機構，防止硅谷的科學家們“做傻事”。不過，在許多 AI 工程師的眼中，馬斯克的理論有些荒謬可笑，因此在回到實驗室后，他們經常會自嘲的說道：“走，我們去召喚惡魔吧。”
不過，馬斯克散播自己的理論可不是為了過嘴癮，他真的針對 AI 搞起了自己的“十字軍東征”。
在采訪馬斯克時，筆者告訴馬斯克，他已經是一個像安·蘭德（強調個人主義和理性的利己主義）一樣的英雄了。馬斯克笑笑說：“我以前聽過這種說法。她說話雖然有些極端，但觀點中很有料。”
不過，即使對個人奮斗看得很重，安·蘭德如果見過馬斯克肯定也會被震住，這樣努力的人居然眼睛依然熠熠放光，從外形來看也年輕依舊。同時，馬斯克的私生活也是精彩紛呈，他與自己第一人妻子共育有 5 個孩子，與第二任妻子 Talulah Riley 更是一起進了四次婚姻登記處（兩次結婚和離婚）。去年秋天當 Talulah Riley 在熱播劇《西部世界》中客串出演一個機器人角色后，馬斯克還在 Twitter 上隔空祝賀了一把。不過，即使馬斯克有心與自己愛的女人長相廝守，他也做不到，因為硅谷鋼鐵俠實在是個工作狂。
“我很想知道，男人每周到底應該花多少時間陪女人？”馬斯克問自己的傳記作家 Ashlee Vance（彭博社記者）。“十個小時夠不夠？這是不是已經是女人忍耐的極限了？”
馬斯克就是這樣的人，他非常理性，但又愛冒險。平時除了認真的工作，他還喜歡參加化妝舞會，有時還會玩玩翼裝飛行。扮演鋼鐵俠的小羅伯特·唐尼將他看作鋼鐵俠在現實中的化身，而三星美國分部首席市場營銷官則稱馬斯克是“喬布斯與儒勒·凡爾納（科幻小說家）的合體”。馬斯克首任妻子回憶稱：“在婚宴上，馬斯克說自己有大男子主義。”
馬斯克在科技界也是個異類，他并非人們傳統認知中那種弱不禁風，每天套著棒球帽衫探討圖片中的狗狗到底是什么品種的呆瓜極客。相反，馬斯克更像亨利·福特這樣的創業者，他甚至把自己公司火箭的零部件掛在了貝爾艾爾區豪宅的墻上。
馬斯克也特別擅長定大目標，借助 SpaceX 的火箭，他在不斷降低太空探索的成本，未來硅谷鋼鐵俠還要殖民火星。上個月，他還雄心勃勃的稱要送兩個游客繞月飛行，而且時間就定在明年。在能源領域，馬斯克則準備通過整合特斯拉和 SolarCity 完成自己的清潔能源之夢，而特斯拉電動車則憑借無懈可擊的性感設計成了許多人的夢中情人。不過，這還沒完，馬斯克還要做超級高鐵（Hyperloop），讓城際旅行不再浪費時間。去年夏天見了國防部長后，他又萌生了開發“飛行戰甲”的念頭，而體驗了賭成粥的洛杉磯交通后，馬斯克轉眼就萌生了挖地道的想法。
當然，天將降大任于是人也，必先苦其心志，勞其筋骨，餓其體膚，空伐其身行，行弗亂其所為，馬斯克可沒少受挫折。他的 SpaceX 火箭在發射臺上爆炸，自動駕駛狀態的特斯拉 Model S 還把駕駛員帶進了墳墓。
馬斯克對各種挫折不屑一顧，但對噩夢情節卻總是心有余悸。他的觀點可以用安·蘭德著作《阿特拉斯聳聳肩》中的格言解釋：“人類有能力充當自己的毀滅者，這樣的情節在歷史上反復上演。”馬斯克則認為：“人類是第一個擁有自我毀滅能力的物種。”
其實馬斯克的感覺我們大家都能感受到，當你享受著各種新技術帶來的便利時，有時也會感覺自己是實驗室里的小白鼠，一旦喪失了利用價值，馬上就會被淘汰。許多人已經接受了這樣的未來：人類能輕松活到 150 歲，但要接受機器的統治。
在去年的 Code Conference 上，馬斯克更是表示，人類可能已經生活在類似黑客帝國的世界，我們被更先進的文明統治，而硅谷的億萬富翁們正準備用算法讓我們逃出矩陣。
對許多愛好不斷解決問題的工程師來說，大多數時候他們都是在重復過去，頗有些宿命論的感覺，但偶爾也能來次大躍進，而年僅 31 歲的 Y Combinator 主席 Sam Altman 則相信，人類可能即將迎來巨大機遇。
“站在指數曲線上你就會發現，當你回看過去，一切都一馬平川，但你看向未來，則會看到一堵垂直的高墻。”馬斯克說道。“你很難搞清楚自己現在的位置，因為放眼四望，周邊環境幾乎沒有變化。”
眼下，馬斯克、霍金和蓋茨都在為 AI 威脅論搖旗吶喊，看起來 AI 對人類的威脅已經開始火燒眉毛了。不過，在很長一段時間里，宿命論一直籠罩在硅谷上空，馬斯克的努力被認為是徒勞的，有些人甚至認為他反對 AI 就像工業革命中的工人搗毀機器。
這里有一個悖論，那就是在許多科技獨裁者眼中，他們的所作所為是為了幫助人類，但事實上他們的仁慈宣言下，其實潛藏的是一條不歸路，就像蘋果聯合創始人沃茲尼亞克所說，人類正在成為家養寵物。
不過，馬斯克不信這個邪，他要打破人類宿命，于是他聯合 Altman 創立了 OpenAI——一家非贏利公司，目的是開發安全的 AI 技術。剛剛成立時，OpenAI 只有幾個年輕的工程師，就連辦公室都是公司 CTO 的個人房產，最近筆者回訪時發現 OpenAI 已經搬了家，這里不但通風，還有了其他科技公司都有的小零食，全職員工也達到了 50 人。據悉，還有 10-30 名員工即將加入 OpenAI。
在硅谷，所謂的午餐會并不一定要正襟危坐吃大餐，畢竟年輕的程序員都專注于各種算法，有時他們根本沒時間吃飯，午飯只是吃點 Soylent（粉末食品）了事，而一些年齡稍大的程序員則熱衷于吃健康食品配牛奶。
乍一看，OpenAI 簡直就是個羽量級的形象工程，一幫毛頭小伙子怎么可能管得住谷歌、Facebook 和其他世界頂級的 AI 專家。不過，馬斯克擅長以弱勝強，而且他能處理的非常得體，甚至派頭十足。
馬斯克根本不在乎什么 IPO 市值，解決舊金山無家可歸人群也不是他的任務，因為他的目光更為宏偉，比如解決全球變暖和登陸火星。
馬斯克十幾歲時就感受到了強烈的“生存危機”，他并非吃不上飯，而是擔心人類未來在宇宙中的命運。馬斯克表示是希區柯克的《銀河系漫游指南》讓他開了竅，在 Model S 的軟件中，馬斯克還植入了許多與這部神作有關的梗。當時，馬斯克也給自己設定了奮斗使命：“真正值得追求的是爭取更偉大的集體啟蒙。”
OpenAI 剛成立時使命還非常模糊，這不難理解，畢竟 AI 圈里的人都不知道這項技術未來會以什么樣的形式呈現、能完成什么任務和我們能做些什么。眼下，AI 還是無主之地，關于它的公共政策和監管還是個空白。FAA 負責監管無人機，證券交易委員會負責監管金融交易，而交通運輸部則將自動駕駛汽車納入了自己的監管范圍，但 AI 依然處于三不管狀態。
馬斯克并不反對 AI 發展，但他認為該技術研發成功后應該分發到世界各地，而不是隱藏和集中在科技與政府精英手中。“我曾多次與佩奇探討 AI 和機器人。”馬斯克說道。“不過，人們已經頭腦發熱，不只是佩奇，其他未來學家也認為機器人時代的來臨必可阻擋，而在這個時代，人類將扮演次要角色。有些宿命論者甚至成人類將成為‘生物引導裝載程序’（Boot-loader）。”
“當然，物質不能直接變成芯片。”馬斯克解釋道。“但它們可以變成生物實體并最終創造出芯片。”
馬斯克可不想變成生物引導裝載程序，也許佩奇的本意是好的，但馬斯克稱硅谷精英的善意可能會帶來極壞的結果。
“皇帝和皇帝不一樣，有時執政能力的微妙變化可能就會導致完全不同的結果。”馬斯克說道。
人工智能并不是什么新鮮名詞，上世紀 80 年代末，這項技術還遭遇過寒冬，當時它甚至在業內換來了“騙人的萬金油”的惡名。不過，現在 AI 重新成了硅谷的香餑餑。OpenAI 的 Greg Brockman 相信未來十年 AI 將占據絕對的主導地位，每個人都會花錢享用這個神奇的“咒語”。
微軟的計算機科學家 Jaron Lanier 是 VR 之父，他向筆者解釋了數字文人普遍將 AI 看作“科幻小說”的原因。這個原因讓人很無語，因為在外界看來，AI 技術人員就像上帝，他們可以創造生命，甚至改變現實。許多從業人員也被捧得忘記了自我，自戀的認為自己可以予取予奪，比教皇和總統能力都強，站上了世界的頂端。“這樣盲目的自信并不是第一次遇見，我在一個有關金色牛犢的故事中也讀到過。”
過去幾年，谷歌收購機器火力全開，幾乎把市場上所有有趣的機器人和機器學習公司都收歸門下。谷歌在收購戰中擊敗 Facebook，花 6.5 億美元買下 DeepMind，隨后它們又組建谷歌大腦團隊專攻 AI 技術的研究。同時，谷歌還挖來了英國人工神經網絡專家 Geoffrey Hinton 和古怪的未來學家 Ray Kurzweil，后者稱再有 28 年我們就能迎來“奇點”，到時能實現自我學習的超級人工智能將徹底超越人類智能，留給人類的唯一選擇就是與 AI 合為一體，創造出新的“全知全能”的混血新人類。
其實谷歌和拉里·佩奇從骨子里相信，走上 AI 之路是公司不可避免的命運。Ashlee Vance 甚至表示：“如果 AI 惹出什么事，我第一個就會想到谷歌。”如果谷歌能用電腦掌控整個搜索業務，那么它們就能讓電腦做成任何事。去年 3 月，來自 DeepMind 的 AlphaGo 用一盤圍棋震驚了全世界。Hassabis 表示 AlphaGo 簡直就是 AI 界的阿波羅計劃，戰勝李世石是個歷史性時刻，就連他自己都沒有想到 AlphaGo 能贏得如此迅速。“我一直希望 AI 能幫助我們在復雜的科學領域發掘全新思想。”Hassabis 今年 2 月份說道。“這次圍棋比賽讓我們第一次見識了 AI 的創造能力。”最近，AlphaGo 又在網上匿名狂虐各國圍棋高手，它甚至實現了 60-0 的完勝成績。此外，今年 1 月份 AI 還出山玩起了德州撲克，結果 AI 再次大勝而歸，絲毫不給人類面子。
彼得·蒂爾曾說起過他的一個朋友，那位朋友曾有個經典的論斷：人們能忍受硅谷，就是因為那里的呆子們雖然拿著大把錢卻過著毫無樂趣的生活，連日常嘿嘿嘿他們都享受不了。不過，一說到來自日本的性愛機器人，這些硅谷的極客們卻又來了興趣。這并不奇怪，畢竟這里是直男癌的聚居地，而且性騷擾和性別歧視幾乎是硅谷公司的通病。當筆者把這個事告訴馬斯克時，他居然也非常實誠的表示：“性愛機器人？這個可以有。”
三年前當谷歌收購 DeepMind 時，兩家公司共同建立了倫理委員會，無論是否出于真心，此舉都是彌足珍貴的探索，至少它表明 Hassabis 追求的是真正的 AI。去年 6 月，DeepMind 的研究者拿出了一份論文，為想象中的 AI 反叛設計了一個解決方案，一旦 AI 失控，人類只需按下那個“大紅按鈕”就能解決。
拉里·佩奇認為現在的系統大多都沒有處于最佳狀態，他相信一旦 AI 加入，人們的需求就能更好的被滿足，這樣一來“大家就能有更多時間陪家人或者追求自己的興趣愛好。”不過，這時可能你已經失業了。
馬斯克是佩奇的死黨，佩奇結婚時他受邀參加，有時到舊金山時他還會去佩奇的家中小住。“每個星期只住一兩個晚上，沒必要專門買房吧。”這話從一個大富豪口中說出可真是讓人驚訝。不過，對于死黨對 AI 的理解，馬斯克嘴上也從不留情，他認為佩奇在這個問題上太天真了。許多谷歌人看不慣馬斯克的指手畫腳，認為他每天掛在嘴邊的都是陳詞濫調。Alphabet 董事長埃里克·施密特表示：“人類制造機器人，政府武裝它們，邪惡統治者再讓機器人槍口對準人民，隨后人類滅亡，馬斯克這劇情簡直就是科幻電影。”
一些硅谷人則認為，馬斯克拯救世界為假，給自己貼金才是真，而且他用的還是老掉牙的劇情。此外，馬斯克用人機大戰的劇情也是為了吸引人才，其真正目的并非阻止 AI，而是阻止別人發展 AI。
馬斯克是個好的銷售人才，這點毋庸置疑，一個舉著人類保護著大旗的人賣給你自動駕駛的特斯拉你會不買嗎？百度前首席科學家吳恩達就曾稱馬斯克是“營銷天才”，“在經濟不景氣的時期，他都能說服美國政府幫他造了售價昂貴的電動跑車。”吳恩達不像馬斯克，他辦公室的椅子上就掛著一件刺繡有“相信機器人”字樣的服裝，他認為馬斯克憑借自己出格的言論很快就打進了 AI 圈。“我想他準確地看到了，AI將會創造巨大的價值。”吳恩達說道。
雖然 Ashlee Vance 曾稱馬斯克為“科幻版的馬戲團老板”，但他認為馬斯克的擔心是真實存在的，雖然馬斯克到底要拿什么對抗 AI 崛起還是未知數。“馬斯克的第一任妻子曾說，他們倆夜里很晚還會討論 AI 的問題。”Vance 說道。“馬斯克是個很重邏輯的人，他做每件事都像下棋，總是會深思熟慮，如果他覺得事情不妙，最后多半會以慘敗收場。”
加大伯克利分校機器智能研究所聯合創始人 Eliezer Yudkowsky 同意 Vance 的觀點。他表示：“他可是馬斯克，光這個名字就值老鼻子錢了。如果想博得關注，馬斯克根本不用談 AI，直接說移民火星的話題就好。”
一些人對馬斯克嗤之以鼻，覺得他想太多了，現在的時代你想讓打印機反叛它也沒那個能力。還有一波人則認為馬斯克有害怕錯過的心理：他的朋友佩奇在最新的領域有了新軟件，而且程序員的隊伍也不斷壯大。就像 Vance 說的，“馬斯克也想要佩奇手中的玩具，他們雖然是好朋友，但作為硅谷雙雄，兩者也有競爭關系。”這樣的心理其實很普遍，作為一個爭強好勝的人，馬斯克其實是不愿風頭被別人蓋過。
對 AI 潛在威脅的不同看法“確實影響了馬斯克與佩奇的友誼。”不過馬斯克稱“那件事已經過去，我們倆現在好著呢。”
雖然與佩奇私交甚好，但馬斯克與扎克伯格卻沒什么交集。小扎經常為自己設定目標并努力去完成，去年他的目標就與 AI 有關。
去年馬斯克宣布建立 OpenAI 僅僅三周，扎克伯格就在自己的 Facebook 上發布了新的年度挑戰任務，打造一個像賈維斯那樣的全能 AI 助手。
一位 Facebook 員工也提醒小扎，千萬別一不小心搞出了《終結者》里的天網。但扎克伯格并不擔心，他回復稱：“我認為 AI 能為我所用并良好的協助工作。有些人認為 AI 是個巨大的威脅，但對我來說，AI 的危險程度遠比不上疾病和暴力。”這明顯是在嗆聲馬斯克。在去年 4 月的 Facebook 開發者大會上，小扎還表示：“相對于恐懼，我更愿意選擇希望。”
在去年 11 月接受《連線》雜志采訪時，扎克伯格則表示，現在對于所謂審判日的擔心完全是科幻小說里的情節。“如果我們因為恐懼而放慢步伐，就會擋住進步的方向。”他認為現在人們對 AI 的恐懼與當年對飛機的恐懼無異，“在搞清楚如何讓飛機飛上天之前，弄那么多規定又有什么用呢？”扎克伯格說道。
在圣誕節前，扎克伯格的 AI 管家終于正式出爐了，他還找來了好萊塢影星摩根·弗里曼來配音。小扎的賈維斯雖然較為初級，但切個歌，開關個燈或者烤個吐司完全不在話下。對于扎克伯格的 AI 管家，馬斯克評論稱：“這種能自動完成家務活的東西根本算不上 AI，開關燈和調節溫度可不是什么復雜活。”對于馬斯克的評價，扎克伯格有些不屑一顧，稱他的話實在是有些可笑。
去年 9 月，SpaceX 的火箭在發射臺上爆炸，順帶毀了 Facebook 的衛星。對于此事，小扎只是冷冷的在 Facebook 主頁表示自己“實在是太失望了。”
馬斯克和其他給 AI 立 Flag 的人現在都被當作愛小題大作的人。去年 1 月，馬斯克贏得了盧德分子獎（反技術進步），評這個獎的是華盛頓一家技術政策智囊。不過，馬斯克不是一個人在戰斗，英國著名物理學家霍金堅定的站在他這邊。霍金表示：“我認為人工智能的發展可能會預示著人類的滅亡。”世界首富蓋茨對 AI 的未來也深表擔心，他認為一旦 AI 覺醒，其后果可能比核戰爭還要恐怖。牛津大學哲學教授 Nick Bostrom 在他 2014 年出版的《超級智能》一書中寫道：“一旦不友好的超級智能誕生，就會千方百計阻止我們替換它，那樣的話人類命運就堪憂了。”去年，就連美國前國務卿亨利·基辛格也大聲疾呼，稱智能機器人可能造成歷史的斷裂，甚至瓦解整個人類文明。
2015 年 1 月，馬斯克和一些業內專家齊聚波多黎各參加一次會議，此次會議的主持人是麻省理工物理學家 Max Tegmark。會后，Max Tegmark 問我：“你買房了嗎？家里安滅火系統沒？波多黎各的會議重點就是我們需要全套的滅火系統。當我們遭遇火災并深受其害時，人類發明了滅火器；當車禍帶走鮮活的生命，我們又發明了安全帶和氣囊，但在核武器和 AI 的問題上，我們可一次錯誤都不能犯，一旦犯了錯誤連吸取教訓的機會都沒了，因此我們必須未雨綢繆。”
波多黎各的會議過去半年后，馬斯克、霍金、Hassabis、沃茲尼亞克和 Stuart Russell（加大伯克利分校計算機科學教授）等 1000 多位業內知名人物簽署了一封聯名信，要求禁止進攻性自動武器。“過去的半個世紀以來，這 18 個月對 AI 界的未來是最為至關重要的。”Russel 說道。“AI 界終于蘇醒，并開始認真思考怎樣做才會有一個美好的未來。”去年 9 月，美國五大科技巨頭（谷歌、Facebook、亞馬遜、IBM、微軟）罕見的攜起手來成立了 AI 合作組織。而歐盟這開始探討有關機器人和 AI 的道德問題，如機器人有沒有“人格”或它們應不應該遵守人類的法律。
去年 1 月，Tegmark 再次主持了一次 AI 安全會議。這次會議的會址（加州阿西洛馬中心）也很特別，1975 年時，一眾科學家曾在這里簽署了限制基因實驗的協定。這次的安全會議佩奇也參加了，馬斯克表示，他們之間的談話不再劍拔弩張了。
會后，馬斯克稱我們還有很長的路要走，但他同時表示：“硅谷的頂級科學家們確實開始認真對待 AI 了，他們都意識到了這項技術的風險。”
沃茲尼亞克則認為：“人類與 AI 之間必須建立合作伙伴關系，在打造機器人之初我們就必須在它們大腦中植入一個觀念，那就是機器人與人類是好朋友。”
精明的彼得·蒂爾對馬斯克的“十字軍東征”則有不同看法，他覺得馬斯克聲勢浩大的“抵制”行為反而可能會加速 AI 的研究，因為他的末日論讓許多人都摩拳擦掌想要在 AI 領域一試身手。
“AI問題包括了人們對電腦時代的全部希望和恐懼”，蒂爾說道。“我認為極限情況下，人類的直覺會失靈，我們可能連 AI 是什么都不知道，想找到控制它們的方法就更難了。畢竟我們從來沒有在這個星球上處理過比人類更聰明的實體”。
為了搞清楚到底誰說得對，筆者專門去見了 Ray Kurzweil，Kurzweil 是《奇點迫近》（吳恩達也非常推薦這本書）的作者，這部烏托邦作品幫我們暢想了 AI 的未來。
Kurzweil 表示：“眼下計算機對人類思考貢獻頗大，而僅僅幾年前，AI 連貓狗之間有什么差別都分不清。”Kurzweil 是典型的“貓奴”，他在加州的家里養了 300 多只貓。這位 69 歲的作家想要長生不老，他每天只吃一些奇怪的健康食品，此外還要搭配 90 片亂七八糟的藥。同時，Kurzweil 還非常支持人與超級智能合二為一的想法，在描述這個想法時，他甚至都用到了“我們”一詞，而擁有同樣想法的馬斯克則謹慎的選擇了“它們”這個詞。
機器人學家 Hans Moravec 認為 Kurzweil 是個樂天派，他根本意識不到 AI 帶來的危險。不過，Kurzweil 可不同意，他表示自己對 AI 的威脅心知肚明。“危險和希望相互交織。就像火一樣，它能燒飯取暖，但用的不好也會燒掉你家的房子。此外，我們有類似生物科技指導原則的危險控制策略。”
Kurzweil 將人類對新技術的反應總結為三個層次：哇、哦和如果不繼續前進，我們還有別的選擇嗎？“想不被計算機淘汰，我們唯一能做的就是變得越來越聰明，而創造這些工具就是為了增強人類的能力。”
200 萬年前，人類大腦中進化出了新的皮質層，于是我們“發明了語言、科學、藝術和技術。”Kurzweil 認為，本世紀 30 年代，人類將進化成半機械人，通過神經系統直接就能進入 VR 和 AR 世界。“到時人人都是幽默大師、音樂造詣高超且智慧過人。”Kurzweil 說道。除了人人變成貝多芬和愛因斯坦，人體內植入的微型機器人還能治療疾病，讓我們延年益壽。
Kurzweil 認為馬斯克的設想可能會成真，AI 可能很友好，但也有可能黑化，如果它們要反叛，人類必須與之一戰，而打勝仗的關鍵是打造一個比反叛 AI 還聰明的 AI 同盟軍。
對于機器人替代人類的說法，Russell 不敢茍同，他認為如果機器人替代了人類，這世界上就沒有意識存在了，即使它們能創造更令人驚嘆的事情，對世界來說也是個巨大的悲劇。Nick Bostrom 則認為這樣的世界是“沒有孩子的迪士尼樂園”。
“許多人相信如果機器人在智力上超越了人類，就會占領地球并趕走人類。”Russell 說道。“另一撥人則認為人類可以將自己的思維上傳到機器體內，這樣就能進化成有意識的機器人。不過，我認為這種想法很難實現。”
同時，Russell 也反對 AI 大牛 Yann LeCun 的說法，后者認為《機械姬》或《終結者》中的場景都不會出現，因為機器人沒有人類的基本欲求，它們不會感到饑餓，也沒有生兒育女的需求，更沒有自我保護的本能。“機器人沒有自我保護本能的說法是錯誤的，這項本能無需程序員植入。舉例來說，如果你讓機器人拿杯咖啡過來，它肯定得保護自己，死掉的機器人是無法完成任務的。因此，要完成任務它就會自我保護，而如果你要阻礙它完成任務，機器人可能就會痛下殺手，這個道理很好理解。”
去年，微軟關停了自家 AI 聊天機器人 Tay。Tay 原本寄托了微軟的期望，但網友卻把 Tay 教壞了，這個“清純的小姑娘”把各種黃賭毒的詞語學了個遍。馬斯克發推表示：“看吧，讓聊天機器人變成希特勒，微軟只花了一天時間。”
特朗普當選總統后，馬斯克放低了姿態，開始小心行事。此外，他還當了兩面派，在公司層面特斯拉反對特朗普的移民法令，馬斯克自己還會發推文聲援被特朗普擋在門外的一名，但另一方面他又堅持任特朗普戰略和政策委員會的顧問（Uber CEO 就在壓力下退出了）。Ashlee Vance 表示：“這做派絕對是馬斯克特色。只要能做成自己想做的事，別人怎樣風言風語他都無所謂。如果需要，馬斯克會毫不猶豫的做一個機會主義者。”
筆者曾詢問馬斯克，與特朗普合作后到底有多少人向他開炮。回答這個問題時馬斯克顯得挺沮喪的，他表示：“在與總統談話時，屋里的氣氛還是比較有節制的，要知道會議室里有許多左派分子，他們聽不得相反的意見，這樣其實不好。”
Eliezer Yudkowsky 是一位年僅 37 歲的優秀研究人員，他試圖找出在現實中人類能否根據意愿指揮 AI。筆者在伯克利分校的一家日本餐廳訪問了他。
Yudkowsky 說話像連珠炮，我還沒問，他就拋出了一連串問題，“假如 AI 覺醒了，它會允許你在它身上安個關閉按鈕嗎？它會試圖弄掉這個按鈕嗎？它愿意讓你按下按鈕嗎？出問題時它會自己按下按鈕嗎？如果它能自行改變設置，它會愿意背著這個關閉按鈕嗎？”這問題筆者可回答不了。不過，這些問題就是 Yudkowsky 的研究方向，想得出正確答案確實不容易。
我拿許多科幻電影中的經典情節設問，Yudkowsky 托著頭耐心的回答我，他表示：“AI 想奪權根本不需要控制整個互聯網，也不需要無人機。AI 的危險不在于它們手上有槍，而在于它們比人類聰明。假設它們能預知解決 DNA 蛋白質結構信息的技術，只需發幾封郵件給實驗室，很快就能建立一個分子結構機器大軍。”
“如果你擔心 AI 奪權，也別馬上想起那些科幻電影中紅著眼睛的人形金屬機器人，真正的威脅其實來自那些看不到的合成細菌，它們會載著微型電腦進入每個人的血液。隨后只要這些機器人釋放攜帶的毒劑，地球上的人類瞬間就會滅絕。”Yudkowsky 說道。“當然，AI 是不是準備這樣消滅人類還不一定，畢竟它們智力已經超越人類，我們根本無法摸清它的脾氣。所以，當你制造一個比你還聰明的事物時，第一次嘗試就不能出任何差錯。”
馬斯克與 Yudkowsky 想法類似，他并不擔心殺戮機器人。“AI 的恐怖之處不在于它要化身為機器人，相反它會成為網絡上的算法，到時機器人就會變成終端效應器，無限的散播性是最難阻擋之處。”馬斯克說道。
Altman 則想得更遠，他表示：“一個能控制整個互聯網的 AI 算法可比控制機器人的 AI 算法要強大得多，畢竟我們的生活早已與互聯網密不可分。”
為了生動地說明這個問題，馬斯克還打了個比方：“假如你創建了一個可以自我升級的 AI 來摘草莓，這個 AI 可以干得越來越好，摘得越來越多。不過，這個系統想做的事情就是摘草莓，所以它可能會把全世界都變成草莓園，而且永遠都是草莓園，這樣一來人類就沒有生存空間了。”
在問到人類能否拿到那個”大紅按鈕“時，馬斯克表示：“我可不想當那個手持大紅按鈕的人，因為 AI 會第一個來殺掉我。”
Altman 繼續開玩笑的表示：“活著真好，因為未來十年里人類要么走向自我毀滅，要么就會進化成新物種殖民宇宙。”
“是的，如果你認為宇宙最終將徹底死亡，那么我們就正在走上這條路。”馬斯克補充道。一個如此關心人類命運的人居然拿滅絕來開玩笑，馬斯克也真是心大，就像 H. P. Lovecraft 的名言：“最恐怖的諷刺往往不會缺席。”
Via. VanityFair，雷鋒網編譯
