英國戰略防衛檢討創先例「使用AI」惹議 專家憂恐成特洛伊木馬

2024-10-11 09:27
英國國防部已證實,將運用客製化AI分析彙整各界就SDR所涵蓋議題分別提出的意見。示意圖。(資料照,美聯社)
英國國防部已證實,將運用客製化AI分析彙整各界就SDR所涵蓋議題分別提出的意見。示意圖。(資料照,美聯社)

英國政府7月中旬啟動「戰略防衛檢討」(SDR),目前已進入公共意見彙整階段,卻因為是英國中央政府機關首次在這類大型政策工程使用人工智慧(AI)分析工具,而引發討論。

SDR的目標為以專業獨立的精神,全盤檢視英國面臨的安全防衛威脅及應對相關威脅的能力,以利後續政策規劃和執行。根據國防部之前發布的時程,軍方、產業、智庫等各界意見應於10月進入分析彙整階段。

政治新聞網站Politico報導,相關分析彙整將使用AI工具,這是英國中央政府部會首次在重大政策檢討運用AI,可視為政府推動公務體系「科技化」的一環。

英國國防部已證實,將運用客製化AI分析彙整各界就SDR所涵蓋議題分別提出的意見。

根據報導,相關AI模型由美國科技公司帕蘭泰爾(Palantir)打造。帕蘭泰爾是在今年夏天贏得合約。

不過,英國安全防衛產業界及學界部分人士對借助AI完成SDR有疑慮。一名防衛事務專家指出,相關工具恐成為「特洛伊木馬」,讓惡意行為者有機可乘、駭入英國政府系統。另一名專家則說,像SDR這麼重大的政策檢討不適合拿來實驗AI。

帕蘭泰爾打造的AI工具將透過檢索關鍵詞、題目等,分析彙整國防部收到的數以千計SDR相關意見,並擬具概要,供官員參考。

牛津大學教授、防衛科技倫理專家泰德歐(Mariarosaria Taddeo)同時是國防部數個委員會的獨立顧問。她指出,以AI輔助決策,這本身不是問題,令人有疑問的是AI是否僅扮演輔助角色、使用者是否能以批判眼光檢視AI。

此外,AI工具如何被設計、有什麼樣的人涉入,以及已執行什麼樣的測試以避免、排除AI內建偏見,也值得思考。

泰德歐另提醒資安風險。她指出,AI其實很脆弱,即便僅供內部使用,也可能遭遇攻擊。

關於AI內建「偏見」,一名防衛產業界人士透露,部分企業試圖「耍弄」系統,透過重複特定字詞提升己方意見通過篩選的機率。

業界人士指出,分析彙整資料時,真人參與不足恐導致重要資訊遭遺漏,而另一些資訊則被不公平、不合理地放大。

不過,政府官員強調,AI產出的資訊將持續被真人檢視。英國國防部一名發言人表示,國防部一向對自身在國防領域廣泛運用AI科技的野心保持透明態度,SDR團隊正運用AI分析檢視各界就SDR提出的大量資料與意見。

這名發言人提到,SDR的徵詢對象廣泛,涵蓋現役與退役軍人、各黨籍國會議員、產業界、學界、大眾。 (相關報導: 本周最強內幕》賴清德祖國論扯到習近平媽媽?北京嚇到假都不休了!國防院有怪獸,無聊公文先別來 更多文章

至於SDR何時完成,3名知情人士告訴Politico,SDR預計明年3月或更早之前發布,官方的政策回應則預計在明年夏天前提出。

更多文章
路透:中國奇瑞接管福斯、賓士和日產在俄羅斯的生產線
不是歷史、哲學系!調查揭「這10大科系賺最少」失業率超高 驚見「1治療領域」也入榜
賴清德國慶演說比就職更溫和?美方要北京保持克制、前官員推測有2種發展
石破茂就任後首會尹錫悅 雙方矢言深化日韓關係以迎中國、平壤威脅
氣象預報》天氣涼颼颼!這1天起氣溫回暖,未來一周恐又有東北季風來襲
最快球速156!台灣18歲投手張峻瑋 料將與日職軟銀簽下育成合約
創單季新高!台積電第3季優於預期 營收亮眼股扮大盤衝鋒軍
錢進非洲》中國一帶一路簡體字已深入非洲 台灣、日本「互補」合作出擊
以哈戰爭周年》陳俞安透過藝術創作「和平」 盼遭哈瑪斯綁架的小嬰兒早日返家
好手好腳幹嘛不工作?雇主弄壞了就換一個 資深監工道破台版悲慘世界:家裡會「吃人」
吃飯把碗端起來像乞討、不能自己倒酒!韓國人不說的15大飲食禁忌,誤踩雷真的超失禮
本周最強內幕》賴清德祖國論扯到習近平媽媽?北京嚇到假都不休了!國防院有怪獸,無聊公文先別來
南港67年老公寓開價9200萬!他不解「乾脆去日本買房」,內行一看秒懂:很合理
記得刷存摺!勞保局國慶後發錢「17項補助接力入帳」,何時發放一次看
首訪會見中國總理李強 石破茂:推進戰略互惠,涉台立場不變
中國沒在怕美國新一波晶片制裁?郭正亮點出一舉動示警:輝達該緊張了
美國圍堵中國武器已然不多?郭正亮提「鴻蒙系統」:雞肋禁令恐自損八百
才剛繳完百萬遺產稅「父母相繼過世」!專家教1招全免,不怕大筆稅金找上門
DDR是什麼?它對AI有何作用,DDR 5產品出貨,能拉抬廠商營運表現嗎?
幕後》潛艦「太上皇」是她哥!柯文哲被關前突然提潛艦? 黃珊珊訪美探老大哥態度
UBA直上B1球隊!政大雄鷹游艾喆前進日職:日本身體對抗強度比我想得大
先進技術領頭羊不是美國!郭正亮秀澳洲智庫報告:中國已經狠狠甩開
歐洲戰雲》面對普京核威脅,北約年度核演習登場:F-35A和B-52都將參演
減輕負擔、安心成家!桃園打造育兒友善城市!
風評:賴清德總統的「隱藏版」國慶演說
黎蝸藤專欄:以色列不能擴大黎巴嫩戰爭
揭仲專欄:近期共軍在台灣周邊頻繁進行實戰化演練之目的
黃丙喜觀點:京華城案捲起的司法颱風!
林清汶觀點:警察人權還在嗎?勇哉劉所長
夏珍專欄:「中華民國」重見天日─陳水扁重出江湖,柯文哲身陷囹圄
觀點投書:雷神醜聞背後的三個問題
觀點投書:我看見台灣,正在衰老中!
林健正觀點:綠色能源向前行,南科供電莫回頭
汪葛雷觀點:走中間穩健路線,蔣萬安有其堅持
楊渡觀點:文明的精神家園
普世前景─多寶格隱藏的微縮化世界:《半透明鏡》選摘(1)
國防部預警中共將於我國慶發射運載火箭 答案揭曉:衛星互聯網高軌衛星
賴清德、蔡英文國慶講稿出自同團隊之手?游盈隆點出「這部分」最相似
嘉義鵪鶉公園完工啟用!融合在地特色 打造溪口親子共融新景點
青創計畫成果豐碩!嘉義八號畫室攜學生畫作獻藝 邀大小朋友共襄盛舉
花蓮雙十健走熱鬧登場!徐榛蔚攜民眾揮旗祝福 共賞海景牽手毛孩齊步走
英雄泉與美人湯齊聚!2024花蓮太平洋溫泉季史上最強補助開跑
臺東頂級衝浪賽即將開戰!燒烤音樂祭熱力開唱 邀您共度搖滾假期
臺東縣熱鬧慶祝雙十!饒慶鈴領眾揮旗 青出於藍展現愛國情懷
山海特選現身松山文創園區!台東波浪屋16品牌齊聚 帶您體驗南島生活之美
秋冬必遊台東!縱谷鹿野線免費搭乘、專人導覽 助您輕鬆玩轉美景
北市攜手智慧醫療企業出擊日本市場 情境式展館展示醫療創新
聯準會高層:今年可能還會調降利率1次或2次