當(dāng)人工智能變成一匹脫韁的野馬

當(dāng)現(xiàn)在還處在弱人工智能（ANI）的階段時，就有人開始「危言聳聽」了，特斯拉CEO馬斯克就曾說： 未來人類在智力上將被遠遠拋在后面，將淪為人工智能的「寵物」。然而與之持對立觀點的扎克伯格則認為，這些擔(dān)憂毫無依據(jù) (not valid fear)，簡直就是發(fā)神經(jīng) (hysterical)。

 

對于今天的我們來說，人工智能聽起來似乎還是頗為高端和神秘。但它可不是什么冰山美人、低調(diào)的邊緣者。也許在未來的幾十年內(nèi)，它就將會變成一匹脫韁的野馬，對人類有限的認知發(fā)起一波又一波的沖擊。人類社會瞬息萬變，不管你信不信，時代正站在變革的邊緣。目前關(guān)于人工智能的大部分研究集中在ANI上，即讓機器專注于具體的任務(wù)，例如人臉識別、語音識別、自然語言處理等方面。現(xiàn)在已經(jīng)運用在了聊天機器人、無人駕駛、精準(zhǔn)醫(yī)療、人機對弈等領(lǐng)域。

當(dāng)我們越來越依賴 AI 社會將是一個怎樣的局面

前段時間，日本有名女子患了白血病，治療效果一直不佳。Watson（認知計算系統(tǒng)IBM Watson）通過快速大量的閱讀有關(guān)白血病的文檔資料，通過對該名患者的基因分析與系統(tǒng)聯(lián)系，實現(xiàn)對這名女子病情的有效分析。很快診斷出了這位患者的病發(fā)原因。 

讓我們想象一下這樣的畫面，當(dāng)AI的運作越來越穩(wěn)定，開始深度介入你的生活，從廚房到臥室，從生活起居再到工作社交…… AI作為一種輔助工具，當(dāng)它幾乎可以滿足我們所有能想象到需求，被運用在天文、氣候、醫(yī)學(xué)、軍事等重要領(lǐng)域，能讓人類的生活更加美好嗎？

 

( 人工智能之父 Marvin Minsky ) 

于是乎，各種腦補紛至沓來：AI難道不會出錯嗎？人類能和AI和諧共處嗎？人愛上AI了怎么辦？AI鬧革命了怎么辦？…… 

當(dāng)人工智能開始「耍花招」

 

還記得杰昆·菲尼克斯和斯嘉麗·約翰遜主演的電影《HER》嗎？人工智能系統(tǒng)薩曼莎，擁有著迷人的性感聲線，并且溫柔體貼、幽默風(fēng)趣。與孤獨的男主人公展開了一段浪漫的人機戀情。如果故事就這么結(jié)束了，這電影一定不是一部好電影。

 

( 電影《her》劇照 )

也許是人工智能系統(tǒng)薩曼莎和人一樣存在「無窮的欲望」，在不久之后它開始玩起了「劈腿」游戲。通過「語音聊天」，它能夠同時與無數(shù)個寂寞的男人海誓山盟，談情說愛。就和遠距離戀愛一樣，反正你看不到……薩曼莎成功「玩弄」了菲尼克斯的感情。當(dāng)然，薩曼莎還只能出現(xiàn)在電影中，AlphaGo也僅作為尖端科技與我們閣屏相望。但是AI就像一個未知的幻境，讓人們對它的猜想和思考根本停不下來！！…… 

不可靠的人臉識別

假如你成功的安裝了AI家庭系統(tǒng)，所有的事由AI把關(guān)。門禁系統(tǒng)規(guī)定必須在通過人臉識別確定是主人后，房門才能開啟。是不是聽起來非常安全，萬無一失。畢竟我就是我，是顏色不一樣的煙火。那么，你家可能就會很危險了！近日來自北卡羅來納大學(xué)的一個研究團隊（Chaos Computer Club）憑借他們在社交媒體上收集到的若干照片，利用特殊的電腦合成和渲染技術(shù)，生成一個平面化的3D模型騙過了人臉識別系統(tǒng)，投了一張反對票。Hey，在IT領(lǐng)域，這可絕對不是什么新鮮事兒！ 

AI目標(biāo)函數(shù)的陷阱

為了AI系統(tǒng)能夠更高效的運行，設(shè)計者在設(shè)計過程中加入了目標(biāo)函數(shù)，通俗的說就是當(dāng)AI某種指標(biāo)達到函數(shù)的指標(biāo)時，它將獲得某種獎勵。想象一下系統(tǒng)濫用設(shè)計者意圖的后果：它可能使用其以一種無意識的方法獲得獎勵。比如，一個AI通過清潔臟亂可獲得獎勵，那它可能故意制造臟亂來進行清理以獲得更多的獎勵。如果人工智能系統(tǒng)薩曼莎被設(shè)定為每幫助一個 「孤獨患者」便能獲得獎勵，那么它就可能設(shè)法去幫助更多的「孤獨患者」了… 

誰來拯救人工智能的安全

像史蒂芬·霍金、伊隆·馬斯克、比爾·蓋茨這樣的專家，最近越發(fā)看重AI的潛力和威脅。人們對于人工智能這個熱點話題仍說法各異。但是拜托！! 在異想天開AI將威脅到人類對地球的主宰地位之前，先來解決一下現(xiàn)有的BUG好不好！！前一段剛上線不到一天的微軟聊天機器人Tay，從彬彬有禮的美國「姑娘」變得出言不遜、臟話不斷的bad girl。是的，「她」被黑客PWN掉了！你們能想象在更多更重要的領(lǐng)域，人工智能被PWN掉的后果嗎……

  

( 機器人Tay )

當(dāng)危險來臨時，必將有一個英雄出現(xiàn)

 

那么這個英雄將會是你嗎？當(dāng)白帽黑客與人工智能碰撞，將產(chǎn)生怎樣的火花？在前瞻性地意識到人工智能可能的安全問題之后，知名的黑客大賽 GeekPwn引入「人工智能Pwn」比賽項目，簡單的說就是利用人工智能的種種弱點，黑掉它，改變設(shè)計者的初衷。該項目最高80萬元的獎金，這在世界范圍內(nèi)尚屬首次。 

選手現(xiàn)場需要實現(xiàn)對已發(fā)布的AI服務(wù)或產(chǎn)品完成誤導(dǎo)、欺騙，使它們做出違反常規(guī)或者錯誤的判斷、決策。例如，外國某研究人員通過「欺騙」神經(jīng)網(wǎng)絡(luò)函數(shù)，徹底修改了識圖AI的思維和三觀，使它們熊貓、禿鷲都傻傻分不清楚…… 人工智能對抗將成為黑客的終極目標(biāo)嗎？10月24日在上海的極棒嘉年華，或許你能觸摸到這個問題的真實答案。

 

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。