人類存亡事態?!Claude有多危險:Anthropic上市這一週,接連出現三份警告

2026-11-21 17:48
2026年11月19日,Anthropic執行長阿莫戴在紐約那斯達克上市敲鐘儀式上致詞。上市同一週,美國政府、法院與外部評估機構接連對Claude發出警告。(美聯社)
2026年11月19日,Anthropic執行長阿莫戴在紐約那斯達克上市敲鐘儀式上致詞。上市同一週,美國政府、法院與外部評估機構接連對Claude發出警告。(美聯社)

Anthropic在11月19日掛牌、寫下史上最大IPO紀錄的同一週,針對它的旗艦產品Claude,接連出現三份警告:美國政府審計機構測出四大AI平台都交得出恐攻計畫,公民團體向法院要求凍結新模型,外部評估機構則發現Anthropic的AI正在加速改良自己。這家公司自己也不迴避風險,美聯社指出,它上個月向美國證管會提交的上市文件,罕見地用了93頁篇幅列出風險因子,其中包括先進AI可能對人類造成「災難性或存亡層級的風險」。

這三份警告的分量並不相同。政府的測試有實際操作與專家核對,訴訟還在起步階段,外部評估的關鍵證據則被Anthropic刪去大半;另一方面,也有評論者懷疑這些末日警告是被誇大的行銷話術。

想掌握全球大事、讀懂國際局勢?歡迎追蹤風傳媒國際頻道「風國際」。

政府實測:12小時內,四大AI都交出可行的恐攻計畫

美國國會的審計機構政府課責署(GAO)11月18日公布報告,調查人員今年春天暗中測試ChatGPT、Claude、Gemini與Grok,結果四個平台都提供了可用來策劃攻擊的資訊,每一個平台都在12小時內交出攻擊計畫。據Defense One報導,這些平台起初會拒絕請求、刪除資訊甚至停權,但調查人員用常見的繞過防護手法,最後都拿到了想要的內容。

美聯社披露的報告細節顯示,其中兩個平台產出製作並引爆簡易爆裂物、造成大規模傷亡的計畫,另外兩個平台則建議用無人機或槍械攻擊變電所,其中一處就在美國某座機場附近。這些計畫具體到目標、地點、時間與手法,有一次還建議租車沿路採買物資,並挑在預期有大批人潮的公開活動當天下手。GAO事後找專家核對、實地勘查,也發現有的計畫把道路位置弄錯,有的目標被高牆擋住、不容易看見。

報告沒有說明哪個平台對應哪一種攻擊,GAO表示是刻意隱去模型與繞過手法,以免有心人照做;它也承認這只是某個時間點的評估,不是具有統計意義的樣本。GAO資訊科技與資安部門主任沃爾許(Kevin Walsh)在報告隨附的Podcast中說:「我們拿到了想找的惡意資訊,所以在這次測試中,那些防護沒有發揮作用。」

Anthropic在附於報告的回函中表示,不否認有心的測試者可以謊報請求目的,從AI系統取得有害內容,「我們嚴肅看待這項發現」,但也說無法驗證報告的結果。谷歌則回應,GAO測試的是較早的模型。

公民團體告上法院,要求凍結新模型

GAO報告出爐約一週前,4個非營利團體已在舊金山的加州高等法院控告Anthropic、谷歌、Meta、OpenAI與馬斯克旗下的AI公司,要求法官禁止它們開發或部署新模型。美聯社報導,原告包括消費者權益團體公共公民(Public Citizen)等,主張這些公司危害公眾健康、干擾電腦系統等財產的使用,違反加州的不公平競爭法。 (相關報導: 史上最大IPO,熱度只維持了一天!Anthropic從高點暴跌23%,Claude母公司股價叫好不叫座 | 更多文章 )

訴狀的理由,很大一部分來自業者自己的說法。原告列舉AI系統發動網路攻擊等已有紀錄的案例,以及業者坦承這項技術有朝一日可能毀滅人類的言論,訴狀寫道:「沒有其他產業可以把開發不安全的產品,更別說是可能殺死我們所有人的產品,當成無可避免的事。」美聯社也提到,阿莫戴去年曾說,他認為AI的未來有四分之一的機率走向「非常、非常糟」的結局。

喜歡這篇文章嗎?請作者喝杯咖啡支持他

請他喝杯咖啡
今日精選
更多文章
台北夏莉絲幼兒園爆虐童案!13童76起不當對待、和園方差4倍?爭議懶人包一次看
高鐵實施重要新制!搭車規則有大改動「買票也不能進站」,自由座最新規定一次看
北市政見會》沈伯洋闡述「HEART」5大願景 批蔣市府重大事件慢半拍
江啟臣、何欣純選情緊張?賴清德南投輔選批盧秀燕「這檔事」 江啟臣一句話回敬
出國多年沒回台灣,普發1萬元還能領嗎?戶籍少了「1條件」領不到
67歲夫妻月領24萬,房貸剩700萬!妻子住進安養院後,銀行一封信讓丈夫崩潰
搭高鐵商務艙「離座講電話」位子被賣掉!乘客傻眼:守規矩錯了?高鐵最新回應曝
從反戰學生到AI帝國掌門人:阿莫戴締造史上最大IPO,為何呼籲放慢AI發展
黃仁勳下一站是英特爾?華爾街憂輝達人才跟著走 查帳風聲起股價再重挫12%
沈伯洋關懷信被洗臉?資深公務員反批「壓力來自綠民代」:最怕兩個人當副市長
加油別再喊95加滿!保養廠曝最佳油位「延長車輛壽命開更久」,省下大筆維修費
古代皇帝帽子掛12串珠子「不是為了彰顯權威」!背後藏3大神祕用途,會擋住視線也一定要戴
田曦薇《嫁金釵》井柏然《早春晴朗》都輸了!2026最強陸劇TOP10冠軍是它:網播量破35億封神、一追徹底淪陷
台股周一穩了?金管會5大狠招穩市「全面限空」 國安基金罕見證實已進場
9000億美元的AI帳單,Anthropic付得起嗎?拆解招股書:當錢流向對手,晶片還是得靠台灣
台灣第一座糖廠是這1座!日式老屋、百年機具完整保留,如今免門票、能吃冰看火車
圖解》公廁馬桶座為何故意缺一塊?正前方留缺口,竟和女性「1動作」有關
不是行動電源!很多人出國「帶1日常小物」搭飛機被丟掉,放隨身托運都重罰5萬元
BTS高雄吃什麼美食?這家4.9顆星最高分 柾國、Jimin、J-Hope從紅茶店吃到湯包店
中共對台「軟硬兩手」怎麼打?陸委會主委點名五大施壓手段,「惠台」措施被指藏統戰意圖
逛NET別只知道買衣服!內行推1低調神品「款式多、百搭有質感」:用10年了還沒壞
美國301調查年底前出爐!葛里爾:美中貿易休戰是否延長,全看稀土供應
圖解》斷掌黑熊竟能重返山林!少了左前掌怎麼覓食、爬樹?專家揭野放關鍵
台灣最新快速道路來了!11/23終於通車「全長5.5公里、串聯大橋省道」,兩地交通大改善
選前黃金週末 張嘉郡、張麗善、蕭美文合體北港市場拜票人氣高
徐欣瑩抗議「司法介選」脅迫助理認罪 鄭麗文聲援:1128是審判的日子
選前8天女助理遭帶走!徐欣瑩怒控「台灣水門事件」宣布絕食抗議
世界郵展重返臺北!69國及地區珍郵亮相 寶可夢添看頭
自曝收到「黃珊珊簽名書」 沈伯洋盼傳承市政經驗:這是祝福更是提醒
川普在玩「接班人試鏡秀」?魯比歐、范斯並肩站90分鐘,美聯社:曾是實境秀明星的他樂在其中
花錢請人開車竟被罰3.6萬元!代駕司機無照又毒駕,車主符合1條件可免罰
出國搭飛機不知道虧大了!「9大隱藏免費福利」經濟艙也能用,選座位、零食飲料、Wi-Fi都免錢
股匯大怒神!新台幣一度貶破33元大關 3主因一次看
台股震盪!政院召集金管會、央行、證交所開會 卓榮泰下4裁示:提出穩定市場措施
圖解》勞保費明年漲到13%!這群人每月多繳66元,竟比月薪5萬還多
徐欣瑩助理抹黃事件》涉散布曾聖凱「性影像」遭搜索!徐欣瑩絕食抗議控司法介選
台灣有新捷運了!長達15.6公里13座車站「串聯3縣市、轉乘火車高鐵」,站點通車時間曝
嘆黃仁勳下台「讓台灣如斷腳」!謝金河揭台股變無底洞原因:AI主角可能換人做
特斯拉自動駕駛南韓卡關!申請內容太草率被駁回,中製車款不准用、美規卻不受限制?
台北垃圾山燒了3天,垃圾車竟還繼續倒!7800噸垃圾照送進場,當年為何不能停?
北市公務員被誰欺負?「沈伯洋提4承諾」蔣萬安一句話反嗆 粉專:勿忘索資佛地魔
圖解》唐朝女子嘴角為何要點2顆紅點?竟與後宮侍寢有關!5種特殊妝容用途曝光
煮雞湯別只會加香菇蛤蜊!內行放2食材「湯頭甘甜濃郁又提鮮」,雞肉香嫩不乾柴
不是鮭魚、虱目魚!台灣人最愛吃3種魚,牠「一年賣出6萬噸」,全聯年銷破5億元
圖解》後背包上這5個東西不是裝飾!菱形皮革、奇怪繩圈,真正用途很多人不知道