AI日益驅(qū)動(dòng)整個(gè)世界，白宮：要先發(fā)制人

研究人員對(duì)于人工智能何時(shí)能上升到人類的理解水平意見不一。但奧巴馬政府不會(huì)坐等答案。白宮表示，當(dāng)人工智能還是依賴于人類的時(shí)候，政府需要開始思考如何調(diào)節(jié)和使用這種強(qiáng)大的技術(shù)。

“當(dāng)我們說人工智能的時(shí)候，公眾腦海里應(yīng)該有一個(gè)準(zhǔn)確的答案?！比A盛頓大學(xué)法律教授Ryan Calo說。今年夏天，白宮主持了4個(gè)關(guān)于如何應(yīng)對(duì)人工智能日益驅(qū)動(dòng)整個(gè)世界的研討會(huì)，而Calo在上周第1個(gè)會(huì)上發(fā)言。盡管學(xué)者和政策制定者都認(rèn)為華盛頓應(yīng)該在這方面發(fā)揮作用，目前尚不清楚應(yīng)該如何制定政策，緊迫的問題卻日益積累。它們包括何時(shí)和如何決定谷歌的自動(dòng)駕駛汽車能上美國的公路和如何檢驗(yàn)偏差滲透算法。

“我們可以肯定的一件事是，人工智能已經(jīng)使得制定政策變成一種挑戰(zhàn)，比如如何確保技術(shù)仍然安全，可控，可預(yù)測(cè)，即使它變得更復(fù)雜和更聰明?！泵绹茖W(xué)和技術(shù)政策的副領(lǐng)導(dǎo)Ed Felten說，其領(lǐng)導(dǎo)著夏季的人工智能研究。 “其中一些問題隨著技術(shù)的進(jìn)步將變得更具挑戰(zhàn)性，所以我們需要加大馬力，緊隨其腳步?！?/p>

人類仍然操縱著人工智能

盡管在某一些領(lǐng)域，人工智能已經(jīng)超過了人類的能力，谷歌的AlphaGo反復(fù)擊敗了世界上最好的棋手，但是每個(gè)系統(tǒng)的應(yīng)用仍然有限，而且依賴于人類。 “智能和自主權(quán)是兩種完全不同的事情，”非營利人工智能艾倫研究所主管Oren Etzioni說，同時(shí)也是美國時(shí)間周二的研討會(huì)發(fā)言人， “人的智慧和自主性是齊頭并進(jìn)的，但對(duì)于計(jì)算機(jī)而言就完全不是這樣的情況了。”他說。

整個(gè)團(tuán)隊(duì)花了幾年時(shí)間研究技術(shù)，精心打造和管理最聰明的人工智能系統(tǒng)。正如Etzioni指出，沒有人按下按鈕的話，AlphaGo就不能進(jìn)行下一輪對(duì)戰(zhàn)。但是，人類在輸入和設(shè)計(jì)的不可靠性，使得學(xué)者和政策專家焦慮。機(jī)器要獲得學(xué)習(xí)的能力，它們必須要接收大規(guī)模的數(shù)據(jù)集。而人類，帶著他們所有的固有缺點(diǎn)，一直在輸入數(shù)據(jù)。

輸入數(shù)據(jù)到機(jī)器

最近白宮的一份報(bào)告中概述看大數(shù)據(jù)潛在的歧視性。為了使數(shù)據(jù)有意義，必須有人將其分類和作簡介。技術(shù)人員和設(shè)計(jì)人員可能將現(xiàn)有的偏見和結(jié)構(gòu)性不平等灌輸給人工智能。

這不是一個(gè)學(xué)術(shù)問題。谷歌的廣告交付算法把較高工資的工作廣告，更多地發(fā)放給男性。ProPublica最近報(bào)道說，依賴人工智能系統(tǒng)判刑和作假釋決定的法官，其所做的風(fēng)險(xiǎn)評(píng)估結(jié)果出現(xiàn)種族偏見。

“該記者發(fā)現(xiàn)，被標(biāo)記為潛在慣犯的白人非裔美國人之間存在懸殊的差距，”微軟研究員Kate Crawford說。 “這是一個(gè)從設(shè)計(jì)開始就存在偏見的系統(tǒng)，但我們看不到它是如何工作的。該系統(tǒng)是專有的，他們沒有共享數(shù)據(jù)。我們不知道為什么系統(tǒng)會(huì)獲得這些結(jié)果?！?/p>

如果人工智能將決定如誰能得到抵押貸款，工作，或假釋之類的東西，Crawford說，為確保其準(zhǔn)確性，對(duì)灌輸?shù)竭@些系統(tǒng)中的數(shù)據(jù)采取一定程度的應(yīng)用問責(zé)，將是越來越重要的。

政府如何介入

人工智能不僅用于做人生選擇、司法結(jié)果等等。它也可以用來做出即時(shí)的決定，舉個(gè)例子，一輛無人駕駛汽車如何避免碰撞。試圖控制這些技術(shù)的問題是，它們?nèi)栽陂_發(fā)階段。南卡羅來納大學(xué)的法學(xué)教授和自動(dòng)駕駛汽車全國領(lǐng)先的專家之一Bryant Walker Smith說。

早期任何一種設(shè)計(jì)要求能抑制建設(shè)一個(gè)更安全，更負(fù)責(zé)任的機(jī)器，Smith說。自動(dòng)駕駛汽車的創(chuàng)作者有責(zé)任讓公眾安全。

同時(shí)，政府已經(jīng)與如何規(guī)范和監(jiān)督已經(jīng)在使用的人工智能作斗爭，如無人機(jī)、癌癥的檢測(cè)分析。白宮的科學(xué)和技術(shù)政策辦公室聚集幾個(gè)機(jī)構(gòu)一起，基于證據(jù)，而不是焦慮來考慮應(yīng)對(duì)方法。政府將要考慮其能買什么，以及在什么條件下，投資使人工智能更安全的研究。

然而，盡管政府努力追趕世界上已經(jīng)存在的技術(shù)，值得記住的是，人工智能仍然新生。為了在未來能規(guī)范人工智能，在人類還能做主的時(shí)候就應(yīng)該奠定基礎(chǔ)。

via wired

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。