300 多位學(xué)者聯(lián)名上書，多名員工集體離職，會(huì)讓 Google 停止與美國(guó)國(guó)防部合作嗎？

如今，對(duì)于 Alphabet/Google 管理層來(lái)說(shuō)，如今不得不考慮的一個(gè)嚴(yán)重問題是：該如何處理已經(jīng)與美國(guó)國(guó)防部在 Project Maven 上達(dá)成的合作關(guān)系。

Google 食言了？

雷鋒網(wǎng)曾經(jīng)報(bào)道過(guò)，Project Maven 是美國(guó)軍方在 2017 年 4 月主導(dǎo)創(chuàng)建的一個(gè)項(xiàng)目，它也被稱為算法戰(zhàn)跨職能團(tuán)隊(duì)（AWCFT）。Maven 的任務(wù)指向是 “加速國(guó)防部整合大數(shù)據(jù)和機(jī)器學(xué)習(xí)技術(shù)”。而據(jù)該中心的助理研究員 Greg Allen 介紹，該項(xiàng)目的首要任務(wù)是幫助軍方有效地處理空中無(wú)人機(jī)每天收集的大量視頻片段。

按照美國(guó)國(guó)防部的計(jì)劃，Project Maven 項(xiàng)目成立六個(gè)月就可以運(yùn)行；為了滿足該項(xiàng)目的迫切時(shí)間要求，國(guó)防部依靠自身顯然并不足夠。于是，它轉(zhuǎn)而尋求與學(xué)界和業(yè)界的人工智能專家合作，以彌補(bǔ)軍方和硅谷之間的技術(shù)差距。根據(jù)項(xiàng)目總監(jiān) John Shanahan 的說(shuō)法，Maven 項(xiàng)目將為整個(gè)國(guó)防部點(diǎn)燃【人工智能的火焰前沿】。

實(shí)際上，據(jù)外界報(bào)道，自 2017 年 12 月以來(lái)，該項(xiàng)目已經(jīng)被部署在與伊斯蘭國(guó)的對(duì)抗中。

外界普遍認(rèn)為，作為 TensorFlow 的開發(fā)者，Google 參與到了這項(xiàng)合作中去，不僅為國(guó)防部提供用于機(jī)器學(xué)習(xí)應(yīng)用的 TensorFlow API 接口，還動(dòng)用工程師資源為后者提供幫助。而這一合作在今年早些時(shí)候曝光之后，已經(jīng)了大量的爭(zhēng)議，許多 Google 員工表達(dá)了對(duì)此事的抗議。

雷鋒網(wǎng)了解到，2017 年秋天，還在擔(dān)任 Alphabet 董事長(zhǎng)的 Eric Schmidt 在一次談話中曾談到科技圈與軍方合作關(guān)系的擔(dān)憂。 “技術(shù)社區(qū)普遍擔(dān)心軍事和工業(yè)結(jié)合體，會(huì)被作為不正當(dāng)殺人利器，”同樣也是國(guó)防創(chuàng)新委員會(huì)成員的他補(bǔ)充說(shuō)，“我不會(huì)在軍隊(duì)內(nèi)部提供 Alphabet 的東西。”

不過(guò)隨著 Eric Schmidt 在 2018 年初卸任 Alphabet 董事長(zhǎng)，Google 似乎食言了。不少媒體認(rèn)為，為了獲取國(guó)防部在云計(jì)算業(yè)務(wù)上的訂單，它參與到國(guó)防部的 Project Maven 中去；盡管 Google 已經(jīng)宣稱其與軍方的合作與戰(zhàn)爭(zhēng)用途沒有關(guān)系，但這一問題還是引起了員工和業(yè)界的關(guān)注。

隨后，這一事件持續(xù)發(fā)酵。目前關(guān)于這一事件的最新動(dòng)向是：大約有 12 名 Google 員工將要離職，以表達(dá)對(duì)上述合作的抗議。

Google 員工的聯(lián)名信和辭職

據(jù)外媒 Gizmodo 報(bào)道，讓這些要離職的 Google 員工感到沮喪的，不僅僅是人工智能在戰(zhàn)爭(zhēng)無(wú)人機(jī)使用中的倫理問題，還有 Google 的政治選擇以及由此帶來(lái)對(duì)用戶信任的影響。他們中的許多人已經(jīng)在一份內(nèi)部文檔中表達(dá)了將要離職的決定，而這份文檔也在 Google 內(nèi)部分享。

不過(guò)，究竟這些人的辭職會(huì)不會(huì)對(duì) Google 管理層造成影響，這是一個(gè)值得質(zhì)疑的問題。

早在 2018 年 4 月初，大約有 3100 多名 Google 員工簽名，面向 Google CEO Sundar Pichai 提交了一封信，要求 Sundar 立即取消參與 Project Maven，并要求 Google 起草并公開一份清晰的政策表明：Google 和它的合作方不會(huì)開發(fā)用于戰(zhàn)爭(zhēng)的技術(shù)。

這些員工在信中表示：

Google 在 Project Maven 中的相關(guān)參與計(jì)劃將不可挽回地毀滅 Google 的品牌和它吸納人才的能力。在越來(lái)越多的對(duì)于 AI 可能會(huì)偏激化和武器化的恐懼中，Google 在獲取公眾信任方面已經(jīng)顯得力不從心了……這一協(xié)議將會(huì)使 Google 的聲譽(yù)面臨威脅，并將會(huì)使 Google 站在其核心價(jià)值觀的對(duì)立面。

然而，來(lái)自這些員工的痛心疾首的呼吁似乎并沒能對(duì) Google 的決定造成什么影響。Gizmodo 報(bào)道稱，Google 并沒有停止其在 Project Maven 中的工作，并且已經(jīng)被外界認(rèn)為是美國(guó)國(guó)防部的起來(lái)一個(gè)云計(jì)算工程——The Joint Enterprise Defense Infrastructure——的競(jìng)標(biāo)者之一。也就是說(shuō)，Google 之所以堅(jiān)持參與國(guó)防部項(xiàng)目，可能是為了獲取在云計(jì)算方面的相關(guān)利益。

不過(guò)，這一事件的復(fù)雜之處在于：Google 此前聲明稱它只是在為 Project Maven 提供一些開源軟件。既然是開源軟件，那么即使 Google 不參與其中，國(guó)防部照樣可以自行下載使用，并將其用于軍事用途。

另外，在 Google 參與 Project Maven 的消息曝光初期，Google 的一位發(fā)言人曾表示公司正在起草一份關(guān)于機(jī)器學(xué)習(xí)使用的政策和防護(hù)安全措施文件，但是據(jù)知情人士了解，這份文件的起草還未實(shí)施。

更大的輿論壓力

如果說(shuō)，來(lái)自內(nèi)部員工的聯(lián)名信和辭職抗議還不足以讓 Google 管理層考慮改變決定的話，Google 在本次事態(tài)中還面臨著更大的外界輿論壓力。

雷鋒網(wǎng)了解到，2018 年 4 月 19 日，就在 Google 員工發(fā)出聯(lián)名信半個(gè)月之后，來(lái)自 Google、Amazon、Microsoft 和 IBM 等科技公司的員工發(fā)布了一封聯(lián)合請(qǐng)?jiān)感牛暶鞣Q科技公司不應(yīng)該參與到與戰(zhàn)爭(zhēng)有關(guān)的商業(yè)中去，因此 Google 應(yīng)該中止與美國(guó)國(guó)防部的合作。

不僅如此，這封信還聲稱，Google、Amazon、IBM 和 Microsoft 等科技公司試圖與美國(guó)國(guó)防部達(dá)成的商業(yè)協(xié)議將打破用戶信任，科技公司擁有大量的全球用戶敏感數(shù)據(jù)，它們不應(yīng)該參與到某個(gè)國(guó)家的軍事活動(dòng)中去。從這封信的口風(fēng)來(lái)看，雖然并不完全指向 Google，但是考慮到 Google 在人工智能領(lǐng)域的地位以及它已經(jīng)引起的爭(zhēng)議，毫無(wú)疑問它還是首當(dāng)其沖的。

但這還不夠，Google 員工的抗議和上述科技公司員工的情愿又得到了來(lái)自人工智能學(xué)界、計(jì)算機(jī)學(xué)界和倫理學(xué)界專家學(xué)者的支持。

5 月 15 日，國(guó)際機(jī)器人武器控制委員會(huì)（ICRAC）向 Alphabet CEO 拉里·佩奇、Google CEO Pichai 、Google Cloud CEO Diane Greene 以及 Google Cloud 首席科學(xué)家李飛飛發(fā)出了一封公開信，再次要求 Google 停止其與國(guó)防部在 Project Maven 上的合作協(xié)議，承諾不去開發(fā)軍事科技，并保證不將其搜集的個(gè)人數(shù)據(jù)用于軍事行動(dòng)。

另外，這封信還呼吁 Google 宣誓不會(huì)參與或支持自動(dòng)武器的開發(fā)、制造、貿(mào)易和使用，并支持對(duì)自動(dòng)武器的禁止。

到目前為止，已經(jīng)有 364 名專家學(xué)者在公開信上簽名，而且簽名數(shù)量還在不斷增加。

在雷鋒網(wǎng)看來(lái)，隨著內(nèi)部和外部輿論壓力的增加，Google/Alphabet 已經(jīng)陷入了某種腹背受敵的道德和輿論困境，這可能是一種比失去國(guó)防部訂單后果更為嚴(yán)重的困境，甚至?xí)l(fā)一場(chǎng)嚴(yán)重的信任危機(jī)。可以想見的是，Google 將不得不對(duì)這一事態(tài)進(jìn)行回應(yīng)；但這并不意味著 Google 方面會(huì)完全聽從輿論的想法，最終停止與美國(guó)國(guó)防部在 Project Maven 上的合作。

而至于人工功能作為一項(xiàng)技術(shù)在道德和倫理方面所面臨的困境，恐怕已經(jīng)不僅僅是 Google 一家所面臨的問題，也不僅僅是 IBM、Amazon、Microsoft 等相關(guān)廠商的問題，它將無(wú)可避免地成為整個(gè)人工智能時(shí)代的一個(gè)長(zhǎng)期性話題。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。