• 獨家揭密
20171031-SMG0035-快訊小紅條兒

別再讓機器人殺人!反對團體呼籲勿用人工智慧參與戰爭

人工智慧打造殺手機器人跨越人類道德備受爭議(取自推特圖片)

人工智慧打造殺手機器人跨越人類道德備受爭議(取自推特圖片)

人工智慧專家指出,科技與技術讓我們身陷「引誘人們進入戰爭」的危機中。「停止殺手機器人活動」(Campaign to Stop Killer Robots)的參與者,20日在聯合國對越來越依賴廉價無人機以及「愚蠢的人工智慧」提出警告,因為在現實世界中人工智慧具有不可預測的隱憂。

新南威爾斯大學(New South Wales)人工智慧的沃爾什(Toby Walsh)教授說:「這將引誘我們進入戰爭,因為它讓戰爭變得很容易,我們以為我們可以俐落的結束這些戰爭,但就像我在無人機的論文中所提出的,這是一種欺騙,因為實際上我們無法做出區別作戰人員和平民的技術。」

殺手機器人走上戰場 

(沃爾什發表如何阻止殺人機器人演說,取自youtube)

沃爾什提到,科幻電影《魔鬼終結者》The Terminator)中的機器人它們的任務就是要消滅全人類,他告訴記者:「我們此刻還不用擔心終結者,或許再等個50年左右,可能就有真正的終結者了。」但技術上,在未來幾年內半自主的系統例如無人機,沃爾什說:「電腦將會取代人類」。

《魔鬼終結者》電影海報。(維基百科)
《魔鬼終結者》電影海報。(維基百科)

沃爾什和其他活動的成員描繪了一幅可怕的圖像,不受限制的機器人佔據戰場和國家邊界。沃爾什說,不同於核武器在資源上的需求,人工智慧隨著時間演進,打造殺手機器人只會變得更加便宜和容易。透過網路上購買的無人機,再搭配上智慧型手機及合適的軟體,任何人都可以打造「小殺手機器人」。

人權觀察(Human Rights Watch)的武器部主任史蒂夫古斯(Steve Goose)對《衛報》表示:「不只適用在武裝衝突,你將會看到這些人工智慧的機器人被用在國內治安、邊境巡邏和鎮暴。這不再是科幻小說,而是實際上已存在,它是一種戰鬥的全新方式且徹底改變一切。」沃爾什說:「如果我們不建立規則,這將成為軍備競賽,且那場競賽的終點將會帶來萬劫不復的下場。」

一場人工智慧的豪賭 賭注是人命

「停止殺人機器人活動組織」堅持他們並沒有危言聳聽,「機器人殺手」這樣的綽號如實表現它所帶來的危險。渥太華大學(University of Ottawa)的法律倫理學教授科爾(Ian Kerr)以俄羅斯輪盤來比喻,我們將攻擊目標的選擇交給人工智慧做決定,他說這已跨越我們從未想過的道德底線。沃爾什更說:「雖然人工智慧在實驗室中測試一切良好,但愚蠢的人工智慧不是人腦,在不可預知的現實世界中,它能做的要少很多。」

紐約新學院(New School)的哲學教授阿薩羅(Peter Asaro)指出,如果沒有人類的控制,機器人無法判別不可預料的因素以及戰爭背景,他說:「戰爭背景是甚麼,當下的情況又是甚麼,對於目標及不同的戰爭背景所採取的武力是否適當?你可以讓它自動執行,但你是否可以讓它適當的執行?當它有不當行為出現時,這又是誰的責任?」

沃爾什說即使決策端有人類在操控,半自治的人工智慧仍舊會出現毀滅性的錯誤。在第一次波灣戰爭(Gulf war)中,就曾發生美軍愛國者飛彈誤擊英軍旋風戰機,美軍F-16戰機也曾誤遭愛國者飛彈雷達鎖定而還擊。在最近外洩的美國無人機襲擊文件中也顯示了,有大量無法確認身分的人遭到殺害。古斯表示,阿富汗及巴基斯坦在過去10年的無人機空襲行動中,已有數百位平民遭到殺害。

明定人工智慧在軍事上使用的限制 

英國與美國在軍事上都有人工智慧政策,反對者希望聯合國能夠正式的與英美兩國會談,因為兩國在相關規則上太模糊。英國非營利組織Article 36的莫耶斯(Richard Moyes)表示,儘管英國已承諾一定會有「人性化操控」,但並沒有詳細闡述,是由人員直接操作、進行監督,或者只是單純負責啟動人工智慧機器人。同樣的,五角大廈的發言人也沒有立即回應記者對於「適當」人為控制的定義。

古斯希望聯合國11月13日就能舉行正式會談,並能盡早得到結果,他說:「如果再等下去,科技的發展很快就會超越外交。」

關鍵字:

我要發風

風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

並請附上姓名、聯絡方式、自我簡介,謝謝!

本週最多人贊助文章