「不再作惡」:谷歌決定 2019 年後退出軍事項目Project Maven

 2018-06-02 12:00:53.0

據國外媒體 Gizmodo 報道,今天,谷歌雲首席執行官 Diane Greene 在與員工的一次內部會議上宣佈,谷歌決定於 2019 年後退出飽受爭議的軍事項目 Project Maven。Greene 告訴員工,公司內部的抵制是谷歌決定不再續簽合同的主要原因。在長達兩個月大量員工的抵制之下,谷歌似乎正準備放棄潛在收入可達每年上億美元的軍事 AI 領域。

今天,谷歌雲首席執行官 Diane Greene 在與員工的一次內部會議上宣佈,該公司與五角大樓 Project Maven 的合同將於 2019 年到期,並決定不再續約。該項目中谷歌幫助美國政府利用人工智能分析無人機拍攝畫面,引發了大量爭議。該決定發佈的前幾天,The Verge 報道稱谷歌將發佈新的道德準則來指導軍事 AI 發展,這份準則定於下週公佈。谷歌沒有立即發表評論。

這項決定或許可以平息穀歌最近的動盪局面。自從 Gizmodo 在 3 月份的一項調查中披露谷歌與 Project Maven 的關係以來,這種動盪已經持續了數月。調查報告指出,當時聽聞谷歌正在利用公司開發的軟件協助政府的無人機在海外殺人,該公司的員工非常「憤怒」。

在事件演變的過程中,谷歌一直在試圖消解公司與員工之間的內部爭議。谷歌雲首席執行官 Diane Greene 曾在一次公司集會上表示:「該合同僅價值 900 萬美元。」對於谷歌這樣的科技巨頭來說,這是一個很小的數字。

Diane Greene,谷歌雲 CEO。谷歌在參與軍事無人機項目上遭遇了公司內外的強大壓力。

面對 Project Maven 事件,谷歌高管們曾在內部討論過公司在公共關係上遭遇困難的可能性,是否公開這一合同是討論的核心問題之一。「這對於媒體而言就是一枚重磅炸彈,他們可以據此找到大量攻擊谷歌的方式,」谷歌雲首席科學家李飛飛表示。「你可能聽說過伊隆·馬斯克有關第三次世界大戰起於 AI 的言論。」

「我不知道如果媒體開始將這樣的內容——谷歌正在祕密構建 AI 武器——作爲主題,會發生什麼,」李飛飛說道。「自 2017 年起,谷歌雲一直在努力構建『AI 民主化』的新圖景,Diane 和我也一直在討論面向企業的人性化 AI。我會非常小心地維護這些積極的方面。」

然而,據 Gizmodo 報道,谷歌明顯是把這份合同當作獲取更多利潤豐厚的五角大樓合同的重要途徑,這份合同涉及向政府提供谷歌的開源軟件 TensorFlow 平臺。The Intercept 近期獲取的泄露郵件顯示,儘管谷歌低估了參與 Project Maven 的重要性,但它期望能從類似的 AI 項目中獲利。谷歌的業務發展部門預測,與軍事無人機相關的人工智能項目帶來的收入有望從每年 1500 萬美元增加至 2.5 億美元。

事實上,在 3 月底谷歌簽署合約的消息爆出之後,五角大樓在 Project Maven 項目上又追加了 1 億美元的投入。

谷歌的內部通訊還指出,另外幾家美國科技巨頭也參與了 Project Maven 的競標。一位參與該項目談判的谷歌高管表示:其他科技公司,如亞馬遜也正在參與其中。谷歌高管表示,這一項目並不僅僅是軍方對於先進技術的小規模實驗,而是與其他硅谷科技巨頭正在爭奪的、價值數十億美元的雲計算項目「密切相關」的項目。

儘管參與 Project Maven 並不意味着谷歌開發的軟件會被用於駕駛或以任何積極形式參與美國的作戰無人機活動,但毫無疑問,谷歌仍會提供圖像分析的工具和專業技術。從表面上看,Project Maven 致力於讓攻擊型無人機以及其他種類的作戰無人機更加平民化。計算機視覺算法(人工智能領域中機器學習的一大分支)在理論上可以爲使用者更好地分辨目標,減少附帶傷害,然而谷歌對 Project Maven 的參與程度在這裏從未明確。「這項技術旨在標記圖像以供人類審閱,它可以拯救人的生命,並讓使用者無需參與繁瑣的識別工作。」谷歌曾在今年 4 月的一份聲明中這樣告訴《紐約時報》。

但是,谷歌任何使用 AI 來幫助或增強硬件或政府武器的舉措,不管其最終目的如何,都遭到了谷歌員工和技術批評家的強烈抵制,技術批評家認爲自動硬件是危險的墮落,並涉及複雜的倫理問題。今年 4 月,超過 3000 名谷歌員工簽署致谷歌 CEO Sundar Pichai 的公開信,建議谷歌退出 Project Maven,信中寫道:「谷歌不應該參與戰爭。」

「該合同危及到谷歌的聲譽,並與我們的核心價值相悖,」抵制信中這樣寫道,「開發該技術來幫助美國政府進行軍事偵察及其可能導致的致命結果,都是不可接受的。」5 月初,Gizmodo 報道十餘名員工因谷歌對此事的不作爲及繼續參與 Project Maven 怒而辭職。

現在,來自谷歌內外的壓力最終使得這家公司明確立場。據 Gizmodo 報道,Greene 告訴員工,抵制是谷歌決定不再續簽合同的主要原因。湊巧的是,5 月 18 日,谷歌更新了其行爲準則,刪除了該公司一貫的座右銘「不作惡」(Don't be evil),換成了「做正確的事」(Do the right thing)。

參考內容:https://theintercept.com/2018/05/31/google-leaked-emails-drone-ai-pentagon-lucrative/

                 https://www.theverge.com/2018/6/1/17418406/google-maven-drone-imagery-ai-contract-expire

文章來源:機器之心