編按:電影《魔鬼終結者》情節正在逼近?《無人機戰爭【不對稱關鍵戰力全解讀】:從供應鏈、戰略、AI到地緣政治,第一本拆解「新型態無人軍團」如何顛覆現代戰場》提到,隨著AI技術飛躍,「致命自主武器系統(LAWS)」已成聯合國高度警戒的戰場威脅,一旦啟動便無須人類介入、自動鎖定開火的「全自主AI武器」,為何引發國際法學界強烈反對?專家指出,現行AI頂多能辨識軍服,卻分不清「穿軍服的傷兵」與「沒穿軍服的平民」,一旦把生殺大權交給演算法,恐違反《日內瓦公約》釀成無差別屠殺。
什麼是「致命自主武器系統」? 首先,究竟何謂「致命自主武器系統」(以下稱LAWS)?事實上,儘管聯合國已累積十多年相關討論,但由於各國立場仍存在差異,目前並不存在一個獲得國際社會共識的「正式定義」。
舉例來說,日本外務省將之定義為具備「一旦起動,無須操作者介入,便能識別目標、選擇目標、發揮殺傷力交戰」特性的武器系統。此外,國際社會也已透過《禁止或限制使用特定常規武器公約》(CCW)框架,展開對LAWS管制的討論。雖然各國仍未完全取得共識,但相關討論已逐漸形成一定程度的共識。
簡單來說,所謂LAWS是指「不須人員介入」,也就是在「偵測、標定目標、決定交戰、實施攻擊」的戰鬥循環(Loop)中,將人員排除在外的(Human out of the loop)武器系統。
回過頭來看,現行武器系統幾乎仍需要有人員參與。舉例來說,因美軍狙殺任務(恐怖組織幹部的暗殺任務等)一躍成名的掠奪者(Predator)、死神(Reaper)等無人機,就是屬於由操作員來決定交戰並實施攻擊的遙控型武器系統。這類武器稱作「Human in the loop」(人在決策循環內)。
另外,作為防空艦而聞名的神盾艦(Aegis)及其神盾系統,為了迅速應對威脅,已將交戰決策與攻擊執行部分自動化。那麼,這又屬於哪一類?
這類系統被視為「Human on the loop」(人類在決策循環之上),也就是由人類站在整個決策循環之上,進行監視與監督的系統。神盾艦的艦長隨時可以停止交戰,也能將決定交戰、實施攻擊的程序切換為手動。
「致命自主武器系統」攻擊模式:Human in the Loop(人在決策循環內)與Human out of the Loop(人在決策循環外)。(圖/野人提供) 事實上,現在已經存在「Human out of the loop」(人類在決策循環之外)的武器系統,以色列研製的哈比自爆無人機便是其中一例。哈比是一種用來制壓防空網的無人機,起飛之後會去尋找雷達波發訊源,不必經由人員操作,便能自行衝撞摧毀目標。
戰爭有規則,AI武器也不能例外 另一方面,AI技術的快速進步,也讓用於殺傷人員的AI逐漸構成現實威脅。那麼,LAWS究竟會造成什麼問題,為何尚未出現,國際社會就已經在摸索相關管制規範了呢?
人類歷經一次又一次的大規模戰爭後,透過制定《海牙陸戰規則》(Convention de La Haye,1899年採納、1907年修訂)以及四部《日內瓦公約》(Geneva Conventions,1949年)等武裝衝突相關的國際規範,為戰場上的對敵暴力行為設下人道限制。這些條約規範統稱為「國際人道法」,在現代,各國軍事組織都會被要求遵守國際人道法。有鑑於此,本稿便要以國際人道法觀點,來看LAWS會造成的問題。
這些國際法規,對於武器系統的使用,究竟設下了哪些原則與規範?
絕不能觸犯的兩條戰鬥底線
《海牙陸戰規則》、《日內瓦公約》,以及《日內瓦公約》的兩項附加議定書,不僅透過條文具體規定相關原則,在現代國際社會中,也具備「習慣法」,即大多數國家皆視為法律義務或具正當性的國際慣例。而這些法條到底規範了哪些事情?
首先,最基本的原則是:無論是哪一種武裝衝突,「衝突各方及其武裝部隊成員選擇戰鬥的方法與手段均應受到限制」,這在《海牙陸戰規則》第22條與《日內瓦公約》第一附加議定書(以下簡稱《議定書I》)第35條1項有明文規定。
另外,為讓國家間的衝突能夠根據國際法來和平解決而設置的國際法院(ICJ),在1996年的勸告性意見(註1)中,有列舉兩項規範戰鬥手段、方法的一般原則,分別為:「區分原則」與「禁止非必要痛苦原則」。
所謂「區分原則」,是指在決定與執行作戰方法時,要持續區分「戰鬥員與非戰鬥員(平民)」、「軍事目標與非目標(民用設施)」,且只有前者能被列入直接攻擊對象,又稱「軍事目標原則」。因此,無法區分攻擊對象的無差別攻擊,以及無法區分目標、會產生無差別效果的戰鬥手段(如具有無差別效果的武器),都被視為違法。
其次,是「禁止非必要痛苦原則」,指禁止使用會對敵方戰鬥員造成過度傷害或不必要痛苦的戰鬥手段與方法。這項原則可以追溯至《1868年聖彼得堡宣言》(Saint Petersburg Declaration of 1868)。該宣言禁止使用重量低於400克、內含爆炸性或燃燒性物質的爆裂彈。其背後的理念是:既然僅靠子彈動能威力便足以奪去敵兵戰鬥能力,那麼附加爆炸、燃燒效果,只會徒增人員失去戰鬥能力後的痛苦,而沒有實際的軍事必要性。
這套邏輯後來也被《1899年禁止達姆彈宣言》(Hague Declaration concerning Expanding Bullets 1899)(註2)等國際規範採用,並一路延續至今,成為國際社會所承認的重要原則。
「附帶損害」太高=不合法、不人道 「比例原則」是指在發動攻擊時,必須比較預期可獲得的軍事利益,以及對平民或民用物體所造成的附帶損失(Collateral Damage),並確保後者不會超出可接受的範圍。舉一個比較極端的例子:假設為了使一名戰鬥員喪失戰鬥能力而發動攻擊,卻預計會造成100名平民的附帶傷害,那麼這種攻擊很難被認定為合法。毋庸置疑,與所能獲得的軍事利益相比,附帶傷害實在過於巨大。因此,應當中止攻擊,或選擇其他手段。
「預防原則」則是指,在從選定軍事目標到實際發動攻擊的整個過程中,攻擊方與防禦方的衝突當事者,都必須持續保持必要的注意,防止無差別攻擊,並採取相應措施,將對平民及民用物體造成的傷害降至最低。
這兩項原則經常被一併討論與適用。《議定書I》也將兩者一同規定於第57條與第58條,並置於同一項目之下。
AI武器的國際人道法規範:區分原則、比例原則與預防原則。(圖/野人提供)
此外,國際人道法也禁止「背信行為」(例如假裝投降後發動攻擊等,濫用法律所提供的保護)、禁止將平民的飢餓作為軍事手段、禁止攻擊水壩、堤防、核電廠等,對衝突當事者規範有多種義務。
為什麼全自主AI武器不該上戰場? 那麼,LAWS能否遵守國際人道法所規定的這些原則?結論是,以目前AI的技術水準而言,恐怕相當困難。
AI只能辨識軍服,無法做出人道判斷 讓我們從「區分原則」看起;應該有不少人認為「只要事先指示LAWS,將穿著軍服的人作為攻擊目標,不就能遵守法律了嗎?」。但事實上,國際人道法對「戰鬥員」的定義,比想像中更加廣泛。即使沒有穿著軍服,也可能因為「公開攜帶武器」等行為表現,而符合法律上戰鬥員的條件(例如《議定書I》第44條第3項所規定的情況)。另外,就算身穿軍服,「傷病兵」在國際人道法上仍是受到特別保護的對象。
以目前AI的技術水準來說,或許已經能夠「識別軍服,將之標定並且攻擊」,但要「識別法律意義上的戰鬥員」應該仍有困難。而如果只能做到前者,LAWS便是一種無法遵守區分原則的無差別戰鬥手段,在運用上會產生極嚴重的問題。
AI武器能否遵守國際人道法?穿軍服的傷兵不能攻擊,沒穿軍服的士兵卻可能被視為戰鬥員。(圖/野人提供) 那麼,再來看看比例原則與預防原則。這兩項原則對目前的AI而言,同樣相當難以遵守,因為比較預期可獲得的軍事利益與附帶損害,判斷後者是否已經過度,以及在整個過程中持續符合武裝衝突法的要求──這些決策與行動,實際上大多建立在人類的主觀判斷之上。由於目前尚不存在像是「附帶損失占所獲軍事利益的百分之幾算是容許範圍」這種定量基準,因此現行AI應該很難判斷這類事情。
讓機器決定生死,真的沒問題嗎? 接下來,我們來思考「禁止非必要痛苦原則」與LAWS之間的關係。關於這個項目,存在一些比較獨特的論點──被無人介入的機械殺死,是否本身就可能構成「精神層面上的不必要痛苦」?
這方面的討論今後應該仍會持續。不過值得注意的是,國際人道法與倫理問題密切相關。其中最能體現法律與倫理交會的例子之一,就是〈馬爾頓條款〉(Martens Clause)。馬爾頓條款源自1899年的《海牙陸戰規則》前言。這是第一部將國際人道法的各項原則,正式以條文形式明確規定下來的條約,其中包括下述規定。
「在制定出更為完整的戰爭法規法典之前,即使遇到條約規定尚未涵蓋的情況,締約國仍確認,平民和交戰各方依然受到文明國家之間既存慣例、人道主義法律以及公眾良知所產生的國際法原則之保護與支配。」
此規定來自俄羅斯帝國代表馬爾頓(Fyodor Fyodorovich Martens)在制定該公約的海牙和平會議上發表的宣言,因此稱為〈馬爾頓條款〉。簡單講,就是「即使條約法未明文規定,平民與交戰方仍應受國際原則保護與拘束,這些原則包括文明國家間之既存慣例、人道主義與公眾良知的支配」,這也被之後的《日內瓦諸公約》與《議定書I》所繼承。
此規定並不僅限於LAWS,而是每當構思新型戰鬥手段時,都必須先思考到〈馬爾頓條款〉,時常留意「慣習、人道、公眾良知」──也就是倫理問題。
註1:應聯合國各機關要求(預防原則),由ICJ提供的法律建言。
註2:達姆彈是一種彈頭尖端中央不以堅硬金屬包覆,並挖有凹槽或在外側加上刻痕的子彈俗稱(例如空尖彈)。這種彈頭在打入人體時會因衝擊力道開花變形,對體內組織造成重大損傷,被禁止在「國際武裝衝突」中對敵方戰鬥人員使用。然而,在內戰或反恐戰爭這種「非國際武裝衝突」或執法行動中使用卻不違法。
作者介紹|多田將、数多久遠、永井宏樹、末田航、木村和尊、薗田浩毅、藤村純佳
京都大學理學研究科博士課程畢業,理學博士,現任高能加速器研究機構(KEK)粒子與原子核研究所副教授。主要著作包括:《核武器》、《兵器科學1:彈道飛彈》、《兵器科學2:化學武器》、《一起認識輻射》、《核武器入門》、《軍事科技的物理學:核武器》、《飛彈為什麼打得中?》、《蘇聯超級兵器科技:航空器與防空武器篇》(以上書名皆暫譯)、《蘇聯超級軍武科技 戰車與裝甲車篇》、《蘇聯超級軍武 戰略武器篇》(楓樹林出版社)等。
主要創作描寫自衛隊及國家安全保障相關議題,也長期為軍事雜誌撰稿。代表作品包括《有事:臺灣海峽》、《航空自衛隊副官 怜於奈》系列(以上書名皆暫譯)等。
目前經營製造業公司,同時從事軍事評論與分析,專長領域包括認知作戰(Cognitive Warfare)與網路安全(Cybersecurity)。現任即應預備自衛官。
2022~2024年間,與阪南大學末田航教授共同進行FPV(第一人稱視角)無人機原型開發研究。
曾任新加坡國立大學智慧系統研究所資深研究員,研究領域涵蓋:人機互動(Human-Computer Interaction)、媒體設計與藝術、資訊視覺化、無人機介面與互動內容設計。
因與Everblue Technologies公司合作開發帆船無人機(Sailing Drone)研究,於新加坡創立無人機研發顧問公司SenseFoil Pte Ltd。2024年起擔任阪南大學綜合資訊學部教授。
主要研究與寫作領域包括:國際人道法、軍備控制國際法、現代戰爭。
曾擔任情報幹部,歷任防衛省情報本部電波部及分析部情報專業官。
2006年,以伊拉克重建支援派遣運輸航空隊空運計畫部成員身分赴中東執行任務,之後亦曾於各級司令部及情報單位服務,並於2018年退役。
專攻國際政治,尤其聚焦於蘇聯/俄羅斯軍事與安全保障研究。自2019年起,持續為多家日本軍事與國際事務媒體撰稿,包括:《月刊PANZER》(Argonaut)、《軍事研究》(Japan Military Review)、《Foresight》(新潮社)、《月刊丸》(潮書房)、《J Ground EX》(IKAROS出版)