英國(guó)正式頒布機(jī)器人道德標(biāo)準(zhǔn)：不許傷害、欺騙和令人成癮 | 新智造

艾薩克·阿西莫夫（Isaac Asimov）曾在他的科幻小說(shuō)里描述了規(guī)范機(jī)器人行為的三定律，包括：不能傷害人類(lèi)、服從人類(lèi)命令和保護(hù)自己。

現(xiàn)在，英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)正式發(fā)布了一套機(jī)器人倫理指南，比阿西莫夫三定律更加復(fù)雜和成熟。我們的社會(huì)已經(jīng)到了要給機(jī)器人制定行為規(guī)范的時(shí)候了，這不禁讓人產(chǎn)生一種科幻與現(xiàn)實(shí)交織的奇妙感覺(jué)。

英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)（British Standards Institute，簡(jiǎn)稱(chēng) BSI），是有著 100 多年歷史的英國(guó)國(guó)家標(biāo)準(zhǔn)機(jī)構(gòu)，在世界范圍內(nèi)具有很高的權(quán)威性。這個(gè)倫理指南的全稱(chēng)是《機(jī)器人和機(jī)器系統(tǒng)的倫理設(shè)計(jì)和應(yīng)用指南》（以下簡(jiǎn)稱(chēng)《指南》），主要針對(duì)的人群就是機(jī)器人設(shè)計(jì)研究者和制造商，指導(dǎo)他們如何對(duì)一個(gè)機(jī)器人做出道德風(fēng)險(xiǎn)評(píng)估。最終的目的，是保證人類(lèi)生產(chǎn)出來(lái)的智能機(jī)器人，能夠融入人類(lèi)社會(huì)現(xiàn)有的道德規(guī)范里。

這個(gè)標(biāo)準(zhǔn)的文件代號(hào)為 BS8611，發(fā)布于 9 月 15 日英國(guó)牛津郡的 “社會(huì)機(jī)器人和 AI ”（Social Robotics and AI）大會(huì)上。西英格蘭大學(xué)機(jī)器人教授 Alan Winfield 表示，這是業(yè)界第一個(gè)關(guān)于機(jī)器人倫理設(shè)計(jì)的公開(kāi)標(biāo)準(zhǔn)。

文件內(nèi)容雖然用詞枯燥，但是里面所描繪的場(chǎng)景，簡(jiǎn)直跟從科幻小說(shuō)里蹦出來(lái)的一樣。機(jī)器人欺騙、令人成癮、具有超越現(xiàn)有能力范圍的自學(xué)能力，這些都被列為危害因素，是設(shè)計(jì)人員和制造商需要考慮的。

《指南》開(kāi)頭給出了一個(gè)廣泛的原則：機(jī)器人的設(shè)計(jì)目的不應(yīng)是專(zhuān)門(mén)或主要用來(lái)殺死或傷害人類(lèi)；人類(lèi)是負(fù)責(zé)任的主體，而不是機(jī)器人；要確保找出某個(gè)機(jī)器人的行為負(fù)責(zé)人的可能性。

《指南》也聚焦了一些有爭(zhēng)議性的話(huà)題，例如，人類(lèi)與機(jī)器人產(chǎn)生情感聯(lián)系是可以的嗎，尤其是當(dāng)這個(gè)機(jī)器人本身設(shè)計(jì)目的就是為了與小孩和老人互動(dòng)。

謝菲爾德大學(xué)教授 Noel Sharkey 認(rèn)為，這就是機(jī)器人在無(wú)意的情況下欺騙人類(lèi)的例子。機(jī)器人是沒(méi)有感情的，但是人類(lèi)有時(shí)候并不這么認(rèn)為。他指出，最近有一項(xiàng)研究，把小機(jī)器人放到一所幼兒園里，孩子們很是喜愛(ài)，并且認(rèn)為這些機(jī)器人比家里的寵物具有更高的感知能力。

《指南》建議設(shè)計(jì)者更應(yīng)關(guān)注機(jī)器人的透明性，但是科學(xué)家們表示這個(gè)在現(xiàn)實(shí)里很難應(yīng)用。這是因?yàn)槿藗儫o(wú)法確切了解 AI 系統(tǒng)（尤其是深度學(xué)習(xí)系統(tǒng)）是如何做出決定的。

一個(gè)人工智能體，并沒(méi)有用固定的程序來(lái)指導(dǎo)它完成任務(wù)，它是通過(guò)數(shù)百萬(wàn)次的學(xué)習(xí)和嘗試，才找出成功的解決方法。這種學(xué)習(xí)和做出決策的過(guò)程，有時(shí)候是其人類(lèi)設(shè)計(jì)者都無(wú)法理解的。

《指南》里也提到了機(jī)器人的性別和種族歧視問(wèn)題。這是因?yàn)樯疃葘W(xué)習(xí)系統(tǒng)很多都是使用互聯(lián)網(wǎng)上的數(shù)據(jù)進(jìn)行訓(xùn)練，而這些數(shù)據(jù)本身就帶著偏見(jiàn)。

機(jī)器人的偏見(jiàn)是會(huì)直接影響技術(shù)應(yīng)用的。 它會(huì)對(duì)某些群體的學(xué)習(xí)更深入，而對(duì)另一些群體有所忽視，這在以后的應(yīng)用中，意味著機(jī)器人會(huì)“看菜下飯，看人說(shuō)話(huà)”。

現(xiàn)在已有的例子就是，聲音識(shí)別系統(tǒng)對(duì)于女性的理解要弱一些，再比如機(jī)器識(shí)別白種人的臉更容易，識(shí)別黑人的臉更難。 長(zhǎng)遠(yuǎn)來(lái)看，在未來(lái)的醫(yī)療應(yīng)用中，機(jī)器人在診斷女性和少數(shù)族群的時(shí)候，其專(zhuān)業(yè)程度會(huì)降低。

Sharkey 教授說(shuō)：“我們也需要一個(gè)機(jī)器人黑盒子，可以打開(kāi)來(lái)仔細(xì)審查。如果一個(gè)機(jī)器人表現(xiàn)出種族主義的傾向，我們可以把它關(guān)掉，從街上拽回來(lái)。”

兩周前，路透社有文章指出，有科學(xué)家表示性愛(ài)機(jī)器人會(huì)使人成癮，因?yàn)闄C(jī)器人不會(huì)拒絕。

《指南》 也提到了這種“過(guò)度依賴(lài)機(jī)器人"的現(xiàn)象，然而并沒(méi)有給設(shè)計(jì)者一個(gè)確切的可遵循的準(zhǔn)則。這也是在未來(lái)的工作中需要繼續(xù)補(bǔ)充的。

Via The Guardian

延伸閱讀：

計(jì)算機(jī)系統(tǒng)里的偏見(jiàn)和歧視：除了殺死，還有其他方法

調(diào)查顯示性愛(ài)機(jī)器人可減少性疾病傳播與非法性交易，你想躍躍欲試嗎？

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。