「潘朵拉的盒子打開就關不上了」特斯拉等117家科技大廠籲管制殺手機器人

美國電動車大廠「特斯拉」共同創辦人馬斯克與116位人工智慧和機器人公司創辦人，21日聯名發表一封公開信，呼籲聯合國正視俗稱「殺手機器人」的自動化武器所帶來的威脅，並審慎討論「殺手機器人」的管理方式，以確保民眾安全。

「恐怖的專制武器」科技人籲管理殺手機器人

21日於澳洲墨爾本（Melbourne）舉辦的國際人工智慧聯合會議（IJCAI）開幕式，特地發布117位科技人的公開信，要求各國政府專家盡快坐下來討論如何管制自動化武器，「我們沒有太長的時間反應，一旦潘朵拉的盒子打開了，就很難再關起來。」

公開信指出，致命的自動化武器將帶來第三次戰爭革命，一旦研發出這些武器，將促進人類史上最大規模，甚至遠超人類理解程度的武裝衝突。「這些殺手機器人會變成恐怖、專制的武器，甚至被恐怖份子拿來攻擊無辜民眾。」

馬斯克：人工智慧比北韓危機還危險

特斯拉（Tesla）執行長馬斯克（Elon Musk）也是公開信連署人之一，他7月曾與臉書（Facebook）創辦人祖克柏（Mark Zuckerberg）論戰人工智慧是否會宰制人類，還曾於11日在推特（Twitter）分享一張「最後機器會獲勝」的海報，並稱人工智慧可能比目前的北韓危機還危險，希望人們理解人工智慧的危險性。

3年前，第一間呼籲禁用殺手機器人的加拿大機器人公司「Clearpath Robotic」創辦人蓋瑞比（Ryan Gariepy）也加入聯署，他說：「自動化武器系統正在快速發展，極有可能造成全球的不穩定，對無辜民眾造成重大傷害。」

據非營利組織「人權觀察」（Human Rights Watch）資料顯示，目前中國、以色列、南韓、俄羅斯、英國與美國等都有發展殺手機器人的技術，然而，全自動武器是否符合聯合國人道法規仍有疑慮。人權觀察指出，在軍事必要性、適用性和辨識戰士與平民的能力上，殺手機器人都可能威脅人類生命和尊嚴，因此呼籲預先禁止全自動武器的研發、製造與使用。

「人權觀察」和上述117位科技大廠領導人，共同組織了名為「阻止殺手機器人陣線」（the Campaign to Stop Killer Robots）的倡議組織，旨在提升國際社會對此議題的關注。

服役中的殺手機器人 

事實上，早在2015年，已出現呼籲停止發展殺手機器人的聯名公開信，知名物理學家霍金（Stephen Hawking）也曾參與聯署。然而殺手機器人已經運用在現實世界，美國達拉斯（Dallas）警方於2016年7月利用運載炸彈的機器人，炸死了狙殺5名員警且不願投降的嫌犯，當時引發是否可以使用半自動武器打擊犯罪的辯論。

達拉斯警局長布朗（David Brown）當時為警局的決定辯護：「其他選項將使我們的同仁暴露在極大危險之中。」事發當時，警方將兇嫌圍困在一家旅館停車場，對峙長達3個小時後談判無果，決定以機器人送進炸彈炸死他。對峙當中，兇嫌曾透露警察常藉執法之名濫殺黑人引發他的不滿，表示自己「特別想殺白人警察。」

達拉斯市長羅林斯（Mike Rawlings）也盛讚警局此舉正確，「當沒有其他選擇時，我認為這是個良好的案例」羅林斯說，未來又有類似情況需要以機器人解決的話，他絕對不會猶豫。 （相關報導： 人類未來會遭人工智慧宰制嗎？祖克柏認為「想太多」，馬斯克回批「他理解有限」 ｜ 更多文章 ）

加州大學戴維斯分校（University of California）法學教授喬（Elizabeth Joh）則質疑：「如果警方在此種情況下使用足以致命的機器人，還有哪些情況可以使用？」她認為，達拉斯一案屬極端情形，以免警方在危險程度較低的日常案件上也使用殺人機器人。