劉世忠專欄:當人工智慧被用來殺人

2018-09-15 06:30

? 人氣

Google日前宣布停止與美國國防部合作的無人機應用專案,但卻無法停止AI持續被運用在軍事方面。(取自Pixbay)

Google日前宣布停止與美國國防部合作的無人機應用專案,但卻無法停止AI持續被運用在軍事方面。(取自Pixbay)

Google員工不滿公司與國防部合作的無人機應用專案,認為此專案可能助長戰爭,增加死傷。Google因此不再與國防部續簽Project Maven合約,但AI用於軍事的趨勢很難停止

「人工智慧」(AI)是未來先進科技發展主流,但當AI科技可能被用於製造更具殺傷力和致命性的軍事武器之戰爭用途時,它同時也開啟更多有關人類價值的辯證。

[啟動LINE推播] 每日重大新聞通知

今年六月,Google宣布不再與美國國防部續約,提供AI技術的合作,舊的合約執行到明年三月即中止。此一決定起源於Google員工對於公司與國防部合作名為Project Maven的無人機應用專案表達不滿,多名資深員工憤而離職表示抗議,四千多名員工連署要求公司停止與國防部的合作,咸認此專案可能助長戰爭,增加死傷。

Project Maven是將AI技術應用在提升無人機的攻擊力,尤其是增強圖像分析的準確性。Google還將開發機器學習演算法,協助美國國防部進行監控工作。許多頂尖的人工智慧技術專家憂慮這次合作,將成為戰爭武器運用AI技術擴大傷亡的第一步,而且可能侵犯人民隱私權。

中、俄投注大量資金於軍事AI

Google執行長皮蔡(Sundar Pichai)一度親自站上火線滅火,提出「四不」原則:不違反國際技術公約、國際法與人權原則等,以及不會用在「直接導致人類被傷害的武器與技術」上。他也澄清,Google沒有開發專用於武器的AI技術,仍會繼續與美軍保持合作,但只會將技術運用在網路安全、人才培訓、醫療保險與搜救。Google最終的決定讓公司損失上千萬美元的營利,但對公司形象與內部反彈做出損害管控。

Google執行長皮猜(Sundar Pichai)(美聯社)
Google執行長皮蔡(Sundar Pichai)宣布不再與國防部續簽Project Maven合約。(美聯社)

但Google不再與國防部續簽Project Maven合約,是短期危機管理,抑或是真的不再涉入軍事安全領域的決策過程,仍有待後續觀察。但未來科技公司與軍事部門的合作恐怕很難停止,主要原因在於:你的對手或敵人也在運用AI技術強化其軍事安全能力。

例如,中國已經宣示將於二○二五年之前,每年投入六百億美元於AI的軍事安全技術。由於AI能夠分析大量數據,並提出建議的演算模式供決策,高盛集團(Goldman Sachs)估計,北京可以在二○年以前,掌握全球四分之一有關軍事安全的大數據資料。

中國近年軍事發展快速,美國曾在軍事報告中提出,中國已產生威脅。(取自中國軍事網)
中國近年軍事發展快速,美國曾在軍事報告中提出,中國已產生威脅。(取自中國軍事網)

俄羅斯更是早就運用AI進行「不對稱政治戰爭」的箇中好手。總統普丁(Vladimir Putin)表示,誰掌控AI,誰就能統治世界;加拿大、英國也投注大筆資金用於AI提升國家安全,以及防堵恐怖組織攻擊;以色列、南韓、新加坡更不遑多讓。

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章