殺手機器人的潛在威脅:《情感運算革命》選摘(3)

作者認為,為無人飛機和機器人加入情緒覺察,可以降低平民傷亡,或是避免在戰鬥中遭到濫用,但是許多時候具備情緒的自主武器說不定一樣糟糕。(Alex Evers@Wikipedia / CC BY 2.0)
作者認為,為無人飛機和機器人加入情緒覺察,可以降低平民傷亡,或是避免在戰鬥中遭到濫用,但是許多時候具備情緒的自主武器說不定一樣糟糕。(Alex Evers@Wikipedia / CC BY 2.0)

近幾年來,軍方一直在實驗許多科技,這些技術或許能從提升情緒覺察中獲益,尤以無人飛機與機器人為最。只是無人飛機或無人飛行載具(unmanned aerial vehicle, UAV)的概念已經存在超過一個世紀了,卻直到過去二十年才開始廣泛用於戰爭中。在此同時,一系列的機器人和其他自主武器系統(autonomous weapons systems, AWS)也開發用於各種軍事行動。這種逐漸轉向仰賴自主或半自主工具與武器的變化,引來最終將發展「殺手機器人」的疑慮。

儘管還需時數年,但是對這種潛在威脅的警覺,足以讓軍方內部對可能的利益與風險持續對話,同時也有成熟的公民運動尋求制定國際法以禁止這類武器。國際機器人武器控制委員會(International Committee for Robot Arms Control, ICRAC)就是其中之一,該組織認為我們只有稍縱即逝的機會能遏制這個威脅,否則將悔之晚矣。國際機器人武器控制委員會是一個稱為「阻止殺手機器人運動」(Campaign to Stop Killer Robots)的非政府組織之非正式成員,企圖預先禁止全世界的致命性自主武器。

這類武器的主要疑慮之一,是缺乏同理心和情緒智慧。諾埃爾‧夏基(Noel Sharkey)是英國雪菲爾大學(University of Sheffield)的人工智慧與機器人學教授,同時也是國際機器人武器控制委員會的創辦人之一。夏基指出:

這不只是視覺辨別的問題,還要看涉及的推論。我有一個軍方提供的絕佳例子:幾個海軍陸戰隊隊員將一些叛亂分子圍堵在巷子裡,準備殺了他們。正當海軍陸戰隊隊員舉槍正要射擊時,突然注意到叛亂分子抬著一具棺材,於是放下槍,脫下頭盔,並且恭敬地讓對方通過。因為不可以殺害葬禮中的人,如果他們在這時候殺死叛亂分子,就真的會有麻煩了。但是,換成機器人的話,大概就會直接開槍射殺。也許你能將機器人的程式設定為在這些情況下不能開槍,但是如此一來,所有叛亂分子到哪裡都會帶著棺材了。

這又回到易壞軟體的問題。如果必須將某種情況的條件反應硬寫進程式中,但這種情況又不是完全可以預期的,那麼長期下來是行不通的。最後不是會發生預期範圍以外的狀況,就是會有類似人的因素企圖利用這樣的程式設計。情緒智慧和為周遭不同元素及情況賦予價值的能力,對於解決這個問題大有裨益,特別是當如果一個智慧體不但能確立自身的價值,還能為所有參與的各方賦予價值時。換句話說,該智慧體是否展現心智理論,並表現同理心。 (相關報導: 人類未來會遭人工智慧宰制嗎?祖克柏認為「想太多」,馬斯克回批「他理解有限」 更多文章

情緒的相似物有可能是未來我們接受自主殺戮機器的關鍵嗎?有可能,只是若有可能,但願不會太久。對於自己沒有真正控制權的殺戮決定,指揮官是不會願意負責的。就算人工情緒智慧可能十分逼真,但是它的反應與思考過程能有多「人性」,這種不確定性在人工智慧達到人類水準後仍將久久不去。另一方面,可能還要數十年,機器才能達到近乎逼真、即時的同理心。

因為你,我們得以前進,你的支持是我們的動力
更多文章
觀點投書:到底農田水利會的財產是誰的?
楊建銘專欄:CES與鄉民─在淹水的堵城搞新創
觀點投書:菊系權謀太多反而耽誤高雄選情
觀點投書:那些年民進黨的勞工朋友
一遇到問題,媽媽總是先罵我…為什麼有些人刀子嘴豆腐心,愛用罵的方式表示關心?
公廣集團人事再地震!這次換公視副總經理遭拔官
【影音】婚宴菜色南北差很大!南部這些超浮誇辦桌料理,讓第一次吃的大馬人驚呼連連
「稅改後上班族會省繳」蔡總統:台灣又往前進一步
馬偕醫院人事風波 董事長劉伯恩遭控掏空醫院
「金管會擬提高1000萬元罰鍰上限」兆豐再度遭美重罰 金管會不排除續罰
「黑心軟糖」使用過期原料 中市食藥處緊急下架9產品
中小企業稅率3年緩升 稅改方案合計稅損198億元 許虞哲:將可帶動企業營收成長
紅到英國的「亞洲蹲」是怎麼回事?BBC解析蹲著好在哪
大統混油案訴訟賠償創紀錄,每人可先拿到1萬5千小紅包
顧立雄推「金金分離」 寶佳在台新金與台中商銀董事須二擇一
前觀傳局主秘再爆燈節標案疑雲,籲柯市府:立即公開投標評審過程、計畫內容
馬英九批陳師孟「粗魯、蠻橫」 籲儘快修《刑法》 納妨害司法公正罪
菲律賓觀光商機大》自由行、小團旅遊漸成主流 中國年輕一代搶進開青旅
打造水湳智慧城 林佳龍力邀「達梭」共構台中智慧城市
價值逾百萬的《哈利波特:神秘的魔法石》首刷精裝本不翼而飛!英國諾福克二手書店遭竊
北市雙層觀光巴士滿週歲 周年慶回饋推優惠
推動地方黨務人員年輕化?國民黨縣市黨部卻驚傳人事異動潮
針對田寮河清淤 基隆府會雙方各執一詞
張忠謀最後法說會,感性說了這句話
中低股利所得者減稅300億元 許虞哲:稅改不是只有富人獲利
所得稅法遭批為富人減稅,謝金河:台灣1%繳稅金額高達49.6%,不減這個你要減誰
私校師生攜手打造深坑 再創老街繁華
擦亮「寶山茶花村」招牌 鄉所行銷茶花、柑橘27日登場
拒絕參加聯考!高市動保處為預備搜救犬平平找新家
彰化耗資378億打造鐵路高架化 預計2033年通車
防年關金融機關搶案 新竹郵局演練逼真引發一場虛驚
【影音】「不只是音樂更是回憶!」2000年代金曲大串燒,那些年我們一起聽過的發燒金曲!
紫氣東來青雲直上 金門高粱呈現大氣吉兆
美國大使館搬到耶路撒冷?以色列總理信誓旦旦今年底搬好,川普親自打臉:才沒這回事
祭「女市長牌」拚高雄市長初選,管碧玲:女候選人對全民號召更好
喊話整合協調挨轟 趙天麟:不好意思,但仍不放棄整合
促銷地產鮮採高麗菜 農糧署推高麗菜創意料理
民調領先成為各方目標,陳其邁低調訴團結
蘇巧慧與蘇貞昌聯名春聯 10分鐘被網友秒殺
林佳龍主張酒駕肇事扣車 民調73.8%贊同
【影音】神人整理術不私藏 透明膠帶竟能變成標籤貼紙
「綜所稅扣除額調高至12萬元」稅改三讀通過擴大減稅 稅損估166億元
柯文哲批簡余晏「棄職潛逃」 陳建銘:用字遣詞有點過重
林佳龍訪星國葉水福供應鏈中心 盼引資台中
高雄原民故事館新風貌 每月原民好藝市體驗原民文化
「80個月是獎金總和」群益出面澄清沒有口誤 不是年終一次發放
紙風車劇團聲明:未參與2018台北燈節投標,未來也不會參與
就算被立為太子,也不一定當得了皇帝!看看這些「接班人」的下場,根本是在比慘
華視爭議不斷,文化部規劃買回民股「重新定位華視」
梅鐸前妻是打入白宮的中國間諜?鄧文迪再涉華府諜戰疑雲