“機器人威脅論”塵囂甚上？DeepMind 研究要教機器人“服從人類”

以《機械公敵》為代表的科幻電影中，都表達(dá)了未來人類可能會被機器人掌管的擔(dān)憂。在耳渲目染下，不少人都堅信奇點（人工智能的智力超過人類）的存在，不過最新的研究報告可能舒緩這方面的擔(dān)憂。

來自 Google 的 DeepMind 人工智能實驗室的最新研究報告指出，大腦信號將自動告訴我們?nèi)祟惾绾稳谌肷鐣燃墶Ｔ谥圃熘腔坌蜋C器人過程中，這項研究將會產(chǎn)生巨大幫助，使其了解自身階級定位，從而讓人類始終具備主動權(quán)。

為摸清人類如何學(xué)習(xí)社會等級制度，來自 DeepMind 和倫敦大學(xué)學(xué)院的科研團隊利用 fMRI 腦掃描儀，邀請了 30 名健康的大學(xué)生執(zhí)行一項任務(wù)。這項任務(wù)就是假設(shè)自己畢業(yè)到想要的公司上班，如何才能盡快了解公司現(xiàn)有的權(quán)力架構(gòu)。

他們要求觀察兩名同事之間的「競爭」，并根據(jù)勝出結(jié)果來判斷兩者之間的權(quán)利大小。在完全了解公司的權(quán)力架構(gòu)后，繪制出這家公司的權(quán)利階級。而最終，他們不得不決定在公司內(nèi)應(yīng)該為哪個人工作。

「我們發(fā)現(xiàn)這種讓參與者了解團隊中個體權(quán)利大小的方式，是貝葉斯推理邏輯的最佳證明。」DeepMind 實驗室的科研專家 Dharshan Kumaran 說道：「基本上你需要評估每個人的權(quán)利等級，當(dāng)你接受到新的訊息（例如兩個人的競爭結(jié)果）時候就會自動更新。」

這意味著人們可以通過觀察不同人之間的交互結(jié)果并填補缺失部分，就能迅速形成對整個層級等級的理解。

舉例來說，當(dāng)有人觀察到「Jane」在同「Paul」的競賽中獲勝，又觀察到 Paul 戰(zhàn)勝了很多競賽者，那這樣就能讓他們預(yù)估 Jane 的權(quán)利有多大。這是因為有新的證據(jù)表明，Paul 盡管是第一場比賽的失敗者，但依然比我們想象中的更為強大。

「相比較作為旁觀者，當(dāng)身處于某個權(quán)利架構(gòu)中的時候，人類就會使用多種方式學(xué)習(xí)和展現(xiàn)社會階層。」Kumaran 說道：「人類的腦前額葉，是高度發(fā)達(dá)的區(qū)域。該項研究的參與者在了解自己所屬社會團體中人員權(quán)利組成的時候，明顯要比了解其他人的社會團體權(quán)利結(jié)構(gòu)更加的活躍。這也表明當(dāng)涉及自我信息的時候人類的特殊天然反應(yīng)。」

社會互動必須要區(qū)分我們的思想、目標(biāo)和偏好，而這正式人類所擅長的認(rèn)知功能。Kumaran 教授說道：「DeepMind 團隊從事神經(jīng)科學(xué)研究的部分原因是，我們的終極目標(biāo)是研發(fā)人工智能并將其應(yīng)用解決世界上最棘手的問題。」

「因此我們口中的『智能』的核心之一是，理解我們?nèi)祟愖约菏侨绾螌W(xué)習(xí)結(jié)構(gòu)化知識，因此這是我們研究的重點。」這項研究成果已經(jīng)在《Neuron》期刊上發(fā)表。

via dailymail

【招聘】雷鋒網(wǎng)堅持在人工智能、無人駕駛、VR/AR、Fintech、未來醫(yī)療等領(lǐng)域第一時間提供海外科技動態(tài)與資訊。我們需要若干關(guān)注國際新聞、具有一定的科技新聞選題能力，翻譯及寫作能力優(yōu)良的外翻編輯加入。

簡歷投遞至 guoyixin@leiphone.com，工作地 深圳；

或投遞至 wudexin@leiphone.com，工作地 北京。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。