劉世忠專欄:當人工智慧被用來殺人

2018-09-15 06:30

? 人氣

Google日前宣布停止與美國國防部合作的無人機應用專案,但卻無法停止AI持續被運用在軍事方面。(取自Pixbay)

Google日前宣布停止與美國國防部合作的無人機應用專案,但卻無法停止AI持續被運用在軍事方面。(取自Pixbay)

Google員工不滿公司與國防部合作的無人機應用專案,認為此專案可能助長戰爭,增加死傷。Google因此不再與國防部續簽Project Maven合約,但AI用於軍事的趨勢很難停止

「人工智慧」(AI)是未來先進科技發展主流,但當AI科技可能被用於製造更具殺傷力和致命性的軍事武器之戰爭用途時,它同時也開啟更多有關人類價值的辯證。

今年六月,Google宣布不再與美國國防部續約,提供AI技術的合作,舊的合約執行到明年三月即中止。此一決定起源於Google員工對於公司與國防部合作名為Project Maven的無人機應用專案表達不滿,多名資深員工憤而離職表示抗議,四千多名員工連署要求公司停止與國防部的合作,咸認此專案可能助長戰爭,增加死傷。

Project Maven是將AI技術應用在提升無人機的攻擊力,尤其是增強圖像分析的準確性。Google還將開發機器學習演算法,協助美國國防部進行監控工作。許多頂尖的人工智慧技術專家憂慮這次合作,將成為戰爭武器運用AI技術擴大傷亡的第一步,而且可能侵犯人民隱私權。

中、俄投注大量資金於軍事AI

Google執行長皮蔡(Sundar Pichai)一度親自站上火線滅火,提出「四不」原則:不違反國際技術公約、國際法與人權原則等,以及不會用在「直接導致人類被傷害的武器與技術」上。他也澄清,Google沒有開發專用於武器的AI技術,仍會繼續與美軍保持合作,但只會將技術運用在網路安全、人才培訓、醫療保險與搜救。Google最終的決定讓公司損失上千萬美元的營利,但對公司形象與內部反彈做出損害管控。

Google執行長皮猜(Sundar Pichai)(美聯社)
Google執行長皮蔡(Sundar Pichai)宣布不再與國防部續簽Project Maven合約。(美聯社)

但Google不再與國防部續簽Project Maven合約,是短期危機管理,抑或是真的不再涉入軍事安全領域的決策過程,仍有待後續觀察。但未來科技公司與軍事部門的合作恐怕很難停止,主要原因在於:你的對手或敵人也在運用AI技術強化其軍事安全能力。

例如,中國已經宣示將於二○二五年之前,每年投入六百億美元於AI的軍事安全技術。由於AI能夠分析大量數據,並提出建議的演算模式供決策,高盛集團(Goldman Sachs)估計,北京可以在二○年以前,掌握全球四分之一有關軍事安全的大數據資料。

中國近年軍事發展快速,美國曾在軍事報告中提出,中國已產生威脅。(取自中國軍事網)
中國近年軍事發展快速,美國曾在軍事報告中提出,中國已產生威脅。(取自中國軍事網)

俄羅斯更是早就運用AI進行「不對稱政治戰爭」的箇中好手。總統普丁(Vladimir Putin)表示,誰掌控AI,誰就能統治世界;加拿大、英國也投注大筆資金用於AI提升國家安全,以及防堵恐怖組織攻擊;以色列、南韓、新加坡更不遑多讓。

人民不信任政府運用AI

美國在現階段仍執AI技術的領先地位,從一六年歐巴馬(Barack Obama)時代建構全面性的AI與國防安全戰略,到川普(Donald Trump)政府更雄心勃勃欲用於太空科技的升級,美國國防部與中央情報局(CIA)手上有上百個AI專案計畫正在進行,包括與前述Google的合作案。

未來的戰爭是否成為機器人主導的作戰?又或者早在按下飛彈按鈕之前,AI早已經協助決策者過濾可能的人為誤判?甚而藉由機器人的輔助來處理高危險性質的作戰,反而可以減少軍人的傷亡?但為了達成戰事的精準度與勝利而引進AI科技,又必須犧牲多少個人隱私與自由,甚至可能殃及更多無辜生命?

這裡所引發的當然是國家安全與人類價值孰重孰輕的長年論辯。上個月,美國華府智庫布魯金斯研究院(Brookings Institution)先進科技發展中心完成一份全國性民意調查報告,主題就是有關「是否支持運用AI於戰爭」。三○%認為AI應該用於發展戰爭技術的提升,三九%反對。但若是追問:如果美國的敵人與對手也使用AI做為軍事武器用途時,四五%受訪者認為,美國應該強化AI用於軍事作戰,反對比例則降至二五%。

但被問到AI的使用是否應該建立在人類價值之上時,六二%民眾贊成,只有兩成反對。

最為分歧的問題是「誰能決定運用AI技術於軍事用途」,一半的美國民眾表示不知道,近兩成表示應由人民決定,一成認為應交給專業的私人企業判斷,信任國會議員或法院者比例更少。可見在社會裡由誰來決定運用AI於可能增加死傷的戰爭武器,仍處於很大的爭辯,但對於政府的信任感仍低是不爭的事實。因此,另一項有關應該「建立道德監督機制」的問題,就獲得近七成民眾的支持。

一場另類科技軍備競賽箭在弦上

就算Google與美國國防部的AI合作案胎死腹中,AI與軍事安全的連結只會向前走!在可以想見的未來,愈來愈多軍事運輸載具將被機器控制,過去軍事強國所享有的優勢,可能必須面臨小國或是恐怖組織藉由AI科技所開啟的新挑戰。更遑論AI科技若是運用在網路戰爭,可以透過駭客攻勢來干擾、癱瘓對手的國防系統,傳播錯誤訊息來有效打擊對手弱點。反過來說,AI、機器學習、臉部辨識、大數據分析,也能提供對手行為與決策模式的分析與破解。

一場以AI科技為主的另類科技軍備競賽,已經箭在弦上。

*作者為外貿協會副董事長,本文原刊《新新聞》第1645期,授權轉載。

➤更多內容請看新新聞

➤購買本期新新聞

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章

你可能也想看