AI會引發第三次世界大戰?Google與國防部的計劃,默默推動戰爭新革命

2022-09-14 12:40

? 人氣

在桌子另一側的皮采表示,谷歌經常在思考人工智慧的倫理問題。他指出,愈來愈多的壞人會使用這類科技,因此讓好人領先是重中之重。馬提斯問谷歌能否將一些道德與倫理下的規則予以編碼輸入系統之內─谷歌人員心知肚明這是一個不切實際的選項。主持谷歌人工智慧研發工作的吉安南德雷亞強調,這些系統最終都需仰賴其訓練數據的品質。但是谷歌的法律總顧問華克採用不同的說詞。他表示,這些科技具有拯救生命的巨大潛能。

[啟動LINE推播] 每日重大新聞通知

九月底,在馬提斯造訪谷歌總部的一個多月後,谷歌簽下參與專家計畫相關工作為期三年的合約,總值在2,500萬美元到3,000萬美元之間,其中1,500萬美元必須在頭18個月內付清。對谷歌來說,這只是一筆小數目,而且其中一部分還必須與其他參與合約的人分享,不過該公司著眼的是放長線釣大魚。就在同一個月,國防部邀請美國企業參與JEDI的競標,這是聯合企業防禦架構(Joint Enterprise Defense Infrastructure)的縮寫,是一筆為期十年、高達一百億美元的合約,主要是提供國防部應用核心科技所需的雲端運算服務。問題在於谷歌爭取JEDI合約時,是否會公開其參與專家計畫與未來其他可能的政府合約的事實。

在馬提斯參訪谷歌總部的三週後,生命未來研究所發表了一封公開信,呼籲聯合國禁止他們所謂的「殺手機器人」(killer robot),這是對自主性武器的另一個稱呼。「針對企業界製造的人工智慧與機器人科技可能會被重新利用發展自主性武器,我們特別覺得有責任提出警告,」公開信寫道,「致命的自主性武器極有可能引發戰爭型態的第三次革命。一旦發展出來,軍事衝突的規模勢必遠大於過去,而且發動速度之快也將遠超過人們的理解。」該封公開信獲得人工智慧圈內逾百人的簽署,包括不時對超智慧威脅發出警告的馬斯克,此外還有辛頓、哈薩比斯與蘇萊曼。蘇萊曼認為,這些科技需要一種新型態的監管。「是誰在做未來有一天將會影響這個星球數十億人口的決策?又是誰在參與此一決策過程?」他問道,「我們必須分散此一決策過程的參與者,這也代表監管人士必須在一開始就參與決策─政策制定者、公民社會行動人士,以及我們這些科技服務的對象─應該讓他們深入參與我們產品的創造與了解我們的演算法。

九月,谷歌準備簽下專家計畫的合約,負責審查該協議的銷售人員相互以電子郵件討論公司是否該將合約公開。「我們應該宣布嗎?我們能談論報酬嗎?我們提供給政府的指示是什麼?」谷歌一位人員寫道,「如果我們保持沉默,我們就無法控制相關的訊息。這對我們的品牌形象沒有好處。」他最終認為谷歌應該發布此一新聞,其他人也同意。「這個消息最後一定會流出去,」另一位谷歌人員寫道,「還不如照我們自己的方式發布。」這樣的討論持續了好幾天,期間某人說服了李飛飛。

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章