0
| 本文作者： 李帥飛 | 2018-05-15 14:06 |
如今，對于 Alphabet/Google 管理層來說，如今不得不考慮的一個嚴(yán)重問題是：該如何處理已經(jīng)與美國國防部在 Project Maven 上達(dá)成的合作關(guān)系。
雷鋒網(wǎng)曾經(jīng)報道過，Project Maven 是美國軍方在 2017 年 4 月主導(dǎo)創(chuàng)建的一個項目，它也被稱為算法戰(zhàn)跨職能團(tuán)隊（AWCFT）。Maven 的任務(wù)指向是 “加速國防部整合大數(shù)據(jù)和機(jī)器學(xué)習(xí)技術(shù)”。而據(jù)該中心的助理研究員 Greg Allen 介紹，該項目的首要任務(wù)是幫助軍方有效地處理空中無人機(jī)每天收集的大量視頻片段。
按照美國國防部的計劃，Project Maven 項目成立六個月就可以運行；為了滿足該項目的迫切時間要求，國防部依靠自身顯然并不足夠。于是，它轉(zhuǎn)而尋求與學(xué)界和業(yè)界的人工智能專家合作，以彌補軍方和硅谷之間的技術(shù)差距。根據(jù)項目總監(jiān) John Shanahan 的說法，Maven 項目將為整個國防部點燃【人工智能的火焰前沿】。
實際上，據(jù)外界報道，自 2017 年 12 月以來，該項目已經(jīng)被部署在與伊斯蘭國的對抗中。
外界普遍認(rèn)為，作為 TensorFlow 的開發(fā)者，Google 參與到了這項合作中去，不僅為國防部提供用于機(jī)器學(xué)習(xí)應(yīng)用的 TensorFlow API 接口，還動用工程師資源為后者提供幫助。而這一合作在今年早些時候曝光之后，已經(jīng)了大量的爭議，許多 Google 員工表達(dá)了對此事的抗議。
雷鋒網(wǎng)了解到，2017 年秋天，還在擔(dān)任 Alphabet 董事長的 Eric Schmidt 在一次談話中曾談到科技圈與軍方合作關(guān)系的擔(dān)憂。 “技術(shù)社區(qū)普遍擔(dān)心軍事和工業(yè)結(jié)合體，會被作為不正當(dāng)殺人利器，”同樣也是國防創(chuàng)新委員會成員的他補充說，“我不會在軍隊內(nèi)部提供 Alphabet 的東西。”
不過隨著 Eric Schmidt 在 2018 年初卸任 Alphabet 董事長，Google 似乎食言了。不少媒體認(rèn)為，為了獲取國防部在云計算業(yè)務(wù)上的訂單，它參與到國防部的 Project Maven 中去；盡管 Google 已經(jīng)宣稱其與軍方的合作與戰(zhàn)爭用途沒有關(guān)系，但這一問題還是引起了員工和業(yè)界的關(guān)注。
隨后，這一事件持續(xù)發(fā)酵。目前關(guān)于這一事件的最新動向是：大約有 12 名 Google 員工將要離職，以表達(dá)對上述合作的抗議。
據(jù)外媒 Gizmodo 報道，讓這些要離職的 Google 員工感到沮喪的，不僅僅是人工智能在戰(zhàn)爭無人機(jī)使用中的倫理問題，還有 Google 的政治選擇以及由此帶來對用戶信任的影響。他們中的許多人已經(jīng)在一份內(nèi)部文檔中表達(dá)了將要離職的決定，而這份文檔也在 Google 內(nèi)部分享。
不過，究竟這些人的辭職會不會對 Google 管理層造成影響，這是一個值得質(zhì)疑的問題。
早在 2018 年 4 月初，大約有 3100 多名 Google 員工簽名，面向 Google CEO Sundar Pichai 提交了一封信，要求 Sundar 立即取消參與 Project Maven，并要求 Google 起草并公開一份清晰的政策表明：Google 和它的合作方不會開發(fā)用于戰(zhàn)爭的技術(shù)。
這些員工在信中表示：
Google 在 Project Maven 中的相關(guān)參與計劃將不可挽回地毀滅 Google 的品牌和它吸納人才的能力。在越來越多的對于 AI 可能會偏激化和武器化的恐懼中，Google 在獲取公眾信任方面已經(jīng)顯得力不從心了……這一協(xié)議將會使 Google 的聲譽面臨威脅，并將會使 Google 站在其核心價值觀的對立面。
然而，來自這些員工的痛心疾首的呼吁似乎并沒能對 Google 的決定造成什么影響。Gizmodo 報道稱，Google 并沒有停止其在 Project Maven 中的工作，并且已經(jīng)被外界認(rèn)為是美國國防部的起來一個云計算工程——The Joint Enterprise Defense Infrastructure——的競標(biāo)者之一。也就是說，Google 之所以堅持參與國防部項目，可能是為了獲取在云計算方面的相關(guān)利益。
不過，這一事件的復(fù)雜之處在于：Google 此前聲明稱它只是在為 Project Maven 提供一些開源軟件。既然是開源軟件，那么即使 Google 不參與其中，國防部照樣可以自行下載使用，并將其用于軍事用途。
另外，在 Google 參與 Project Maven 的消息曝光初期，Google 的一位發(fā)言人曾表示公司正在起草一份關(guān)于機(jī)器學(xué)習(xí)使用的政策和防護(hù)安全措施文件，但是據(jù)知情人士了解，這份文件的起草還未實施。
如果說，來自內(nèi)部員工的聯(lián)名信和辭職抗議還不足以讓 Google 管理層考慮改變決定的話，Google 在本次事態(tài)中還面臨著更大的外界輿論壓力。
雷鋒網(wǎng)了解到，2018 年 4 月 19 日，就在 Google 員工發(fā)出聯(lián)名信半個月之后，來自 Google、Amazon、Microsoft 和 IBM 等科技公司的員工發(fā)布了一封聯(lián)合請愿信，聲明稱科技公司不應(yīng)該參與到與戰(zhàn)爭有關(guān)的商業(yè)中去，因此 Google 應(yīng)該中止與美國國防部的合作。
不僅如此，這封信還聲稱，Google、Amazon、IBM 和 Microsoft 等科技公司試圖與美國國防部達(dá)成的商業(yè)協(xié)議將打破用戶信任，科技公司擁有大量的全球用戶敏感數(shù)據(jù)，它們不應(yīng)該參與到某個國家的軍事活動中去。從這封信的口風(fēng)來看，雖然并不完全指向 Google，但是考慮到 Google 在人工智能領(lǐng)域的地位以及它已經(jīng)引起的爭議，毫無疑問它還是首當(dāng)其沖的。
但這還不夠，Google 員工的抗議和上述科技公司員工的情愿又得到了來自人工智能學(xué)界、計算機(jī)學(xué)界和倫理學(xué)界專家學(xué)者的支持。
5 月 15 日，國際機(jī)器人武器控制委員會（ICRAC）向 Alphabet CEO 拉里·佩奇、Google CEO Pichai 、Google Cloud CEO Diane Greene 以及 Google Cloud 首席科學(xué)家李飛飛發(fā)出了一封公開信，再次要求 Google 停止其與國防部在 Project Maven 上的合作協(xié)議，承諾不去開發(fā)軍事科技，并保證不將其搜集的個人數(shù)據(jù)用于軍事行動。
另外，這封信還呼吁 Google 宣誓不會參與或支持自動武器的開發(fā)、制造、貿(mào)易和使用，并支持對自動武器的禁止。
到目前為止，已經(jīng)有 364 名專家學(xué)者在公開信上簽名，而且簽名數(shù)量還在不斷增加。
在雷鋒網(wǎng)看來，隨著內(nèi)部和外部輿論壓力的增加，Google/Alphabet 已經(jīng)陷入了某種腹背受敵的道德和輿論困境，這可能是一種比失去國防部訂單后果更為嚴(yán)重的困境，甚至?xí)l(fā)一場嚴(yán)重的信任危機(jī)。可以想見的是，Google 將不得不對這一事態(tài)進(jìn)行回應(yīng)；但這并不意味著 Google 方面會完全聽從輿論的想法，最終停止與美國國防部在 Project Maven 上的合作。
而至于人工功能作為一項技術(shù)在道德和倫理方面所面臨的困境，恐怕已經(jīng)不僅僅是 Google 一家所面臨的問題，也不僅僅是 IBM、Amazon、Microsoft 等相關(guān)廠商的問題，它將無可避免地成為整個人工智能時代的一個長期性話題。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
