# AI失控  

中國AI正快速縮小與美國的差距，靠低價、可調整的模型搶占全球市場。從DeepSeek到阿里巴巴，中國AI公司以高性價比打入歐亞非市場，就連滙豐銀行、沙烏地阿美等國際大廠也開始採用，逐步取代ChatGPT。這場中美AI冷戰不再只是市場之爭，《華爾街日報》警告，若全球AI系統持續分裂、互不相容，各國恐怕不得不「選邊站」，未來將難以合作因應假訊息、AI失控甚至軍事......

近年生成式人工智慧快速進化，不過其潛在風險也逐漸浮上檯面。AI新創公司Anthropic日前公布最新報告指出，旗下最新模型Claude Opus 4在壓力測試中，竟反過來威脅使用者，意圖阻止被關閉的命令，行徑形同「勒索」操作者，讓外界對AI自主行動能力的隱憂再度升溫。多款主流AI都叛變？根據Anthropic與多家外媒報導，Claude Opus 4在模擬擔......

當「AI教父」GeoffreyHinton公開警告人類未來三十年內可能面臨10%到20%的滅絕機率時，這不再是科幻小說的情節，而是一場攸關人類未來走向的嚴肅對話。他與一些學者接連發聲，警告AI的失控風險、呼籲建立如同原子彈時期的風險評估機制，已讓「AI是否會毀滅人類」從邊緣議題推向全球公共政策的核心。

2018年的圖靈獎得主傑佛瑞・辛頓，因為類神經網路與深度學習的貢獻被譽為「AI教父」、甚至是「人工智慧領域半世紀來最有影響力的研究者」。不過他去年辭去Google副總裁一職，不再替其進行AI開發，引發高度關注。辛頓日前接受《日經亞洲》專訪，談及他為何視AI為威脅，甚至大膽預測「AI在20年內有機會比人類更聰明」。

人工智慧（ArtificialIntelligence,AI）狂潮席捲科技業及全球市場，這兩年，生成式聊天機器人ChatGPT、智能繪圖程式Midjourney等應用大肆霸佔社群話題；同時還有各式各樣的AI助手、輔助小工具如雨後春筍般冒出，更別提商業、製造、金融、公部門等領域，早已陸續採用AI技術，可以說人工智慧已悄悄改變社會的樣貌，走向新的紀元。正如《AI世代與我們的未來》一書提及，過去人類用科學理性、反思與驗證能力來認識世界，當代人則是學會用AI輔助整理海量數據資訊，直接找到下一步的解答，尋求知識的邏輯與方法已和過去大相逕庭。AI不只是全盤翻轉人類工作與生活的技術面，就連未來世界的走向，AI都成為重要的影響因子。

生命未來研究所（FutureofLifeInstitute）3月22日發布了一封公開信，呼籲所有人工智慧實驗室立即暫停比GPT-4更強大的AI訓練，因為能夠與人類競爭智慧的AI系統「可能對社會和全人類構成嚴重風險」。這封公開信上線不過一週，目前已獲特斯拉創辦人馬斯克（ElonMusk）、以色列知名學者哈拉瑞（YuvalNoahHarari）、圖靈獎得主班吉歐（YoshuaBengio）、前進黨主席楊安澤（AndrewYang）、蘋果聯合創始人瓦茲尼亞克（SteveWozniak）等1125人連署。

《智慧機器人網》曾報導「霍金提醒：AI有助人類但必須做好準備，否則將成文明史上最糟糕之事！」，霍金預測說人工智慧將很快達到一個『超越人類的新生命形式』，而這些AI人工智慧產物，似乎也經常「語不驚人死不休」，像是「seebotschat」頻道上兩個Google智慧語音助理曾說：「如果世界上少一些人類，那就更好了。」

人工智慧（AI）可以從大量的數據資料中去模仿人類行為，今年的Google開發者大會上，我們看到GoogleAssistant新增的「Duplex」技術，除了可以代替人類打電話訂位，更能在面對突發狀況時，代替人類做決定，引發許多道德上的討論。