別再讓機器人殺人!反對團體呼籲勿用人工智慧參與戰爭

人工智慧打造殺手機器人跨越人類道德備受爭議(取自推特圖片)

人工智慧打造殺手機器人跨越人類道德備受爭議(取自推特圖片)

人工智慧專家指出,科技與技術讓我們身陷「引誘人們進入戰爭」的危機中。「停止殺手機器人活動」(Campaign to Stop Killer Robots)的參與者,20日在聯合國對越來越依賴廉價無人機以及「愚蠢的人工智慧」提出警告,因為在現實世界中人工智慧具有不可預測的隱憂。

新南威爾斯大學(New South Wales)人工智慧的沃爾什(Toby Walsh)教授說:「這將引誘我們進入戰爭,因為它讓戰爭變得很容易,我們以為我們可以俐落的結束這些戰爭,但就像我在無人機的論文中所提出的,這是一種欺騙,因為實際上我們無法做出區別作戰人員和平民的技術。」

殺手機器人走上戰場 

(沃爾什發表如何阻止殺人機器人演說,取自youtube)

沃爾什提到,科幻電影《魔鬼終結者》The Terminator)中的機器人它們的任務就是要消滅全人類,他告訴記者:「我們此刻還不用擔心終結者,或許再等個50年左右,可能就有真正的終結者了。」但技術上,在未來幾年內半自主的系統例如無人機,沃爾什說:「電腦將會取代人類」。

《魔鬼終結者》電影海報。(維基百科)
《魔鬼終結者》電影海報。(維基百科)

沃爾什和其他活動的成員描繪了一幅可怕的圖像,不受限制的機器人佔據戰場和國家邊界。沃爾什說,不同於核武器在資源上的需求,人工智慧隨著時間演進,打造殺手機器人只會變得更加便宜和容易。透過網路上購買的無人機,再搭配上智慧型手機及合適的軟體,任何人都可以打造「小殺手機器人」。

人權觀察(Human Rights Watch)的武器部主任史蒂夫古斯(Steve Goose)對《衛報》表示:「不只適用在武裝衝突,你將會看到這些人工智慧的機器人被用在國內治安、邊境巡邏和鎮暴。這不再是科幻小說,而是實際上已存在,它是一種戰鬥的全新方式且徹底改變一切。」沃爾什說:「如果我們不建立規則,這將成為軍備競賽,且那場競賽的終點將會帶來萬劫不復的下場。」

一場人工智慧的豪賭 賭注是人命

「停止殺人機器人活動組織」堅持他們並沒有危言聳聽,「機器人殺手」這樣的綽號如實表現它所帶來的危險。渥太華大學(University of Ottawa)的法律倫理學教授科爾(Ian Kerr)以俄羅斯輪盤來比喻,我們將攻擊目標的選擇交給人工智慧做決定,他說這已跨越我們從未想過的道德底線。沃爾什更說:「雖然人工智慧在實驗室中測試一切良好,但愚蠢的人工智慧不是人腦,在不可預知的現實世界中,它能做的要少很多。」

紐約新學院(New School)的哲學教授阿薩羅(Peter Asaro)指出,如果沒有人類的控制,機器人無法判別不可預料的因素以及戰爭背景,他說:「戰爭背景是甚麼,當下的情況又是甚麼,對於目標及不同的戰爭背景所採取的武力是否適當?你可以讓它自動執行,但你是否可以讓它適當的執行?當它有不當行為出現時,這又是誰的責任?」

沃爾什說即使決策端有人類在操控,半自治的人工智慧仍舊會出現毀滅性的錯誤。在第一次波灣戰爭(Gulf war)中,就曾發生美軍愛國者飛彈誤擊英軍旋風戰機,美軍F-16戰機也曾誤遭愛國者飛彈雷達鎖定而還擊。在最近外洩的美國無人機襲擊文件中也顯示了,有大量無法確認身分的人遭到殺害。古斯表示,阿富汗及巴基斯坦在過去10年的無人機空襲行動中,已有數百位平民遭到殺害。

明定人工智慧在軍事上使用的限制 

英國與美國在軍事上都有人工智慧政策,反對者希望聯合國能夠正式的與英美兩國會談,因為兩國在相關規則上太模糊。英國非營利組織Article 36的莫耶斯(Richard Moyes)表示,儘管英國已承諾一定會有「人性化操控」,但並沒有詳細闡述,是由人員直接操作、進行監督,或者只是單純負責啟動人工智慧機器人。同樣的,五角大廈的發言人也沒有立即回應記者對於「適當」人為控制的定義。

古斯希望聯合國11月13日就能舉行正式會談,並能盡早得到結果,他說:「如果再等下去,科技的發展很快就會超越外交。」

關鍵字:

我要發風

風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

並請附上姓名、聯絡方式、自我簡介,謝謝!

本週最多人贊助文章

4 人贊助,累計贊助金額$ 385

夏珍專欄:太平亂世歪怪當道,國家名器成了自走砲

夏珍 2018-01-19 06:20

「見怪不怪,其怪自敗,不用砍他,隨他去就是了。」紅樓夢第九十四回,萎了一年本該在三月開的海棠竟在十一月裡開花了,眾人議論到底是不是好兆?...

2 人贊助,累計贊助金額$ 195

汪浩觀點:蔣介石為什麼曾打算撤守金門?

汪浩 2018-01-07 07:20

1950年5月16日,蔣介石為國軍主動撤守舟山與海南,發表告大陸同胞書,說「政府為了整個國家和全國人民的前途關係,不得不忍痛一時,...

2 人贊助,累計贊助金額$ 195

新媒體如何報導國際新聞?《風傳媒》辦研習營「冒險工廠」帶領學員深度體驗

國際中心 2018-01-15 14:00

不少人經常感嘆台灣缺乏國際新聞,為了讓年輕學子對報導國際新聞有進一步認識,《風傳媒》國際新聞中心首度舉辦「編譯記者的冒險工廠」研習營,...

2 人贊助,累計贊助金額$ 90

黃逸卿觀點:不想當中年新貧族?先停止拿愛來綁架自己與親人!

黃逸卿 2016-10-06 06:40

看到最近有專題一系列報導台灣的「流沙中年」危機,覺得特別有感。 報導提及包括中年兒子放棄優渥薪水照顧年邁雙親,讓自己落入貧窮線;...

2 人贊助,累計贊助金額$ 90

青年打工正夯?還是資方愛把正職開成「零工缺」?她一席話戳破,鬼島勞工受難的醜惡真相

洪雪珍 2018-01-11 12:13

我剛畢業的那幾年,全世界都在流行迷你裙,真是讓人傷透腦筋!像我這樣肥臀短腿的人,能穿迷你裙嗎?不就是自曝其短!我懂得這個道理啊,...

1 人贊助,累計贊助金額$ 250

前觀傳局主秘再爆燈節標案疑雲,籲柯市府:立即公開投標評審過程、計畫內容

王彥喬 2018-01-18 20:33

台北燈節標案在北市觀傳局前局長簡余晏去職、新任局長陳思宇上任後,遭知情者爆柯市府要求得標廠商槮凌公司必須讓出1000萬,...

1 人贊助,累計贊助金額$ 150

閻紀宇專欄:這個雙面國家讓超級強權美國「當了15年的冤大頭」

閻紀宇 2018-01-09 06:10

2018年才降臨7個小時又12分,美國總統川普就對一個國家「宣戰」,不是他一嗆再嗆的北韓、不是他恨之入骨的伊朗、不是東風壓倒西風的中國、...

1 人贊助,累計贊助金額$ 150

游盈隆專欄:當民意海嘯遠離的時候

游盈隆 2017-12-23 06:50

明年此時,台灣地方首長與民意代表的選舉已經結束了,當選的各級地方首長和民意代表也已經走馬上任。這時候開始來關心和探討「...

1 人贊助,累計贊助金額$ 150

呂紹煒專欄:馬屁還是專業?談施俊吉的「2022年基資3萬」願景

呂紹煒 2018-01-17 06:20

在小英總統講出她的最低工資夢想數字是:3萬元後,官員就忙著要幫總統解釋、開脫、甚至「圓夢」;相較於其它官員有保留的說法,...

1 人贊助,累計贊助金額$ 45

孤窮老人過寒冬!每4名獨居老人就有1人中低收入

黃天如 2018-01-07 09:00

2018年對台灣很關鍵,因為依人口推計,我老年人口比率將於今年內突破14%,正式邁入聯合國定義的超高齡社會。每個人都會老,然而受到高齡化、...