那福忠觀點:AI 能不能軍用?

2018-04-29 06:30

? 人氣

美國西海岸太平洋風景,吸取太平洋精華與陽光照射,隨時都有精彩的故事發生。(圖片取自網路)

美國西海岸太平洋風景,吸取太平洋精華與陽光照射,隨時都有精彩的故事發生。(圖片取自網路)

AI 能不能軍用,不好回答。AI 用在武器讓武力增強,殺傷力更大,但 AI 可以讓戰鬥更精準,在戰場減少無辜傷亡。如果說 AI 不可以用在軍事,但畢竟不是核武、不是生化武器,隱藏在各個軍事層面的 AI 元素,不但難以分辨,更無從規範。月前有全球幾十名 AI 學者聯名呼籲 AI 不可以用在戰爭,最近又有三千名 Google 員工聯名寫信,抗議公司高層用自己發展的機器學習軟體 TensorFlow,協助國防部發展 AI,分析無人機在戰區拍攝的影像。

[啟動LINE推播] 每日重大新聞通知

Google TensorFlow 技術協助美國軍方建立AI分析無人機影像(圖片取自網路)
Google TensorFlow 技術協助美國軍方建立AI分析無人機影像(圖片取自網路)

這封信是在三月得知 Google「參戰」後寫給執行長的,說 Google 不應該捲入「戰爭事業」,應該取消這一交易,並起草公開宣布 Google 以及合作的伙伴,永遠不會建構戰爭技術。

Google 參與的國防計畫叫 Maven,一年前成立的,目的在發展「電腦視覺」(Computer Vision),來精密解讀影像與視訊的內容,像是無人機追蹤目標拍攝的影像,國防部說需要民間伙伴的技術協助,Google 顯然是適當的民間伙伴。

國防需要 AI 技術,不論是否直接用在戰場,總離不開戰爭的範疇,民間技術公司有能力支援,但公司員工反對。Google 員工反彈範圍不算大,算是個案,但如果有別的 AI 公司也與軍方合作,保不住員工也會抗議。「反戰」的情緒雖然不比當年的越戰,仍有相當的感染力。

剛退下來的 Google 執行長埃里克·施密特 (Eric Schmidt),日前在國會作證,說 AI 在戰爭的防衛、甚至攻擊會很有用,但發展這一技術需要民間的力量。被問到技術公司與國防機構合作遭到反彈,指的是 Google 員工的抗議,施密特建議技術公司之間需要建立一個可接受的規範,制定 AI 發展的原則,那些適合、那些不適合,大家在共識之下或可踏入國防工業。

Google 解釋參與的 Naven 計畫,是把技術用在非攻擊性的用途,主要是檢查無人飛機偵察到的影像與視訊。但是否用在攻擊,在戰時很難分野,國防部說 Maven 計畫所發展的電腦視覺,會用在如伊拉克或敘利亞的戰區。施密特說他並沒有參與 Maven 計畫的決定,但認為 Google 應是在估算之下,參與了軍用 AI 的發展。

美國國防部長詹姆斯˙馬蒂斯 (James Mattis),去年夏天走了一趟矽谷,驚嘆各大公司的 AI 技術,說這些技術最好能與國防結合。今年二月,他參加慕尼黑安全會議在回家的途中,說他推測 AI 可能改變戰爭的本質,但大家似乎都沒準備好這一改變。

Google 員工在信裡說,與國防部合作會污損公司的信譽,降低道德價值,致招聘頂級人才的困難。但施密特解釋,軍方有極大的動機與潛力要與最好的 AI 頭腦合作,而最好的 AI 頭腦就在現有的 Google 員工裡。但如果國防部要 AI 化,就必須以 Maven 計畫做基礎,鋪設一個地基,來確保軍方發展 AI 技術的適當、倫理、負責。

AI 到底能用在那些軍事領域?首先是替代固定的電腦程式,軍用系統的電腦程式需定期更換,用 AI 不但可以省掉更換的程序,更有潛力創造更敏捷的系統運作,而且成本也會降低。其次 AI 可以訓練系統,像是製造不可預期的情況來訓練戰鬥飛行員的適應能力。另外像電腦視覺,如 Maven 計畫,用軟體從龐大的偵察影像與視訊,尋找蛛絲馬跡。

我們熟知的 AI 技術,像是臉孔辨識,擴增實境 (AR),自然語言處理,在軍事上都有特殊的功能。臉孔辨識可以替代認證,擴增實境可以用作複雜設備的檢視與維修,自然語言處理可以與設備互動、下達命令啟動系統,翻譯文件與外國語言。

不過專家們對 AI 在軍事上的使用也提出負面效應,現有的軍事辨識與驗證是用固定的電腦程式,與不斷學習的 AI 先天上有很大差異,資料是 AI 的命脈,AI 能否成功有賴於豐富而確實的資料,錯誤的資料可以造成致命的災難。這是軍用 AI 要慢慢適應的。

AI 能不能軍用?太沈重不好回答。不妨先欣賞一段中國廣州 1069 個小機器人同步跳舞,打破了山東青島 1007 個小機器人同步跳舞的金氏紀錄。

*作者為資深媒體人,更多文章請見「西海岸數位隨筆」

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章