華爾街日報》專訪「AI教父」:依舊擔心人類滅絕風險—AI若為完成目標,可能選擇「犧牲人類」!

「AI教父」約書亞・班吉歐。(Yoshua Bengio/X)
「AI教父」約書亞・班吉歐。(Yoshua Bengio/X)

兩年多前,人工智慧(AI)先驅約書亞・班吉歐(Yoshua Bengio)曾是呼籲暫停AI模型開發、專注於安全標準的最響亮發聲者之一。

但沒有人停下腳步。相反的,各家公司繼續投入數千億美元,用於構建更先進的模型,這些模型能夠執行長鏈推理,並且能夠日益代表用戶採取自主行動。如今,被視為「AI教父」之一的班吉歐和以往一樣憂心忡忡。

海量資訊去蕪存菁!全球政經局勢快速驟變,汲取新知,「質」比「量」更重要!
《風傳媒X華爾街日報》年訂方案
現在加入VVIP,即享實用好禮!☛ 立即訂閱

他說:「如果我們製造出比我們聰明得多、並且有其自身生存目標的機器,那將是危險的。」

班吉歐是蒙特婁大學(Université de Montréal)的教授,也是魁北克省AI研究機構Mila的創始人和科學顧問。今年早些時候,他還發起了一個名為LawZero的非營利研究組織,旨在探索如何構建真正安全的AI模型。

班吉歐接受了《華爾街日報》Leadership Institute的專訪,談到了構建安全AI所面臨的挑戰,當今競賽式的市場環境為何讓這一任務變得更加困難,以及在為時已晚之前人類還剩下多少時間。

以下是經過編輯的談話節選。

《華爾街日報》Leadership Institute:您曾談到AI會向人類撒謊並欺騙用戶。AI為什麼會這樣做?

班吉歐:我認為我們還沒有找到關於這個問題的所有科學的答案,但我可以給出幾個方向。其一,這些AI系統的訓練方式主要是模仿人類。而人類會撒謊、欺騙,並且會不顧你給他們的指令而試圖保護自己,因為他們有另外一些目標。另一個原因是,這些推理模型取得了很大進展。它們正變得善於制定策略。

《華爾街日報》Leadership Institute:為什麼我們創造的AI會有與我們不一致的目標?

班吉歐:為了實現一個主目標,你會設定一些子目標。在AI領域,這些子目標的問題在於,我們不會去檢查它們。我們要求AI做某件事,但對於AI如何做,我們沒有發言權。而這個「如何做」有時並不符合我們的期望。這可能會很糟糕。

電影《2001太空漫遊》(2001: A Space Odyssey)中的情景正是如此。最近的實驗表明,在某些情況下,當AI不得不在其生存(即它被賦予的目標)和造成人類死亡之間做出選擇時,它們可能會為了保全其目標而選擇讓人類死亡。

《華爾街日報》Leadership Institute:我們可以在構建AI時直接告訴它不要撒謊、欺騙或傷害我們嗎?

班吉歐:它們已經有了所有這些安全指令和道德指令。但不幸的是,這些指令的運行並不可靠。OpenAI最近表示,以我們目前的發展方向,按照前沿模型的現有框架,我們將無法擺脫幻覺。所以從某種意義上說,我們目前的做法永遠無法提供公眾用戶和部署AI的公司所要求的那種可信度。 (相關報導: 華爾街日報》川普不斷模糊資本主義與社會主義的界限 更多文章

《華爾街日報》Leadership Institute:從幻覺和欺騙一下子跳到可能導致人類滅絕,這中間似乎是個巨大的飛躍。這種威脅到底有多真實?

因為你,我們得以前進,你的支持是我們的動力
更多文章
柚子是文旦嗎?教育部公布正解「超過50%民眾不知道」,3個挑選撇步鮮甜多汁不酸澀
川普經濟學新解:只要我不尷尬,尷尬的就是別人!顧問團獻策「別理壞數據」,全押「2026經濟就會好轉」
去日本玩注意!京都旅遊新制明年上路,「旅客加收1費用」沒帶夠現金恐無法入住
回嗆蔡適應「黑金勾結恬不知恥」 黃國昌:替天道盟喬事證據清清楚楚
爭取遺囑自由!「廢除兄弟姊妹特留分」逾6600人連署 法務部回應了
示警國民黨新主席將面對綠3大老夾擊 李艷秋畫7重點:能否回春得看這群人
慈湖不一樣了!「潮復刻」水舞市集連嗨七週,讓你從白天玩到黑夜
叫外送中雲端發票千萬大獎!他忘做2件事「國稅局認定無效」,獎金全數充公國庫
台北水舞嘉年華回歸!週末還有「YOYO派對」柳丁哥哥、阿奇老師合體現身
「不准動員國民兵應對抗議」禁令墨跡未乾,川普當法院塑膠?總統強派加州國民兵「夜襲」波特蘭,民主黨籍州長氣炸聯手提告
「女版安倍」高市早苗啟動內閣人事布局:茂木敏充掌外務大臣、木原稔任官房長官
雙十連假免費親子活動!來國父紀念館看電影、玩遊戲,就送絕版「國父百年套票」
保單繳30年「一毛錢都領不到」!專家曝忽略1細節:保費白繳、視同失效
打敗中字輩!台灣最強私立大學是它「師資優、業界影響力強」,畢業薪水不輸國立
「鏟子超人」中秋連假救災 蔡英文發聲感謝:與花蓮人團結一心
讓音樂回到故鄉的懷抱 用愛與旋律修補大地的傷口 一夫樂集房角石管樂團捐助花蓮偏鄉重建
繳30年醫療險,老年卻失效?專家揭「最高續保年齡陷阱」:多數人忽略這細節
蛋黃酥放微波爐加熱會爆炸!名店教2招正確加熱方法,口感香酥濃郁「和剛出爐一樣好吃」
選定了?黃國昌布局2026新北市長 委託陳世軒找競辦位址
不只東京、大阪!中國人連假最愛去日本「3地區」,台灣人出國小心被陸客攻陷
德媒深度調查,揭露福斯電動車恐涉及「沾血供應鏈」!蘋果公司也挨告,歐盟規範已形同虛設
台股創高,沒買台積電捶心肝?阮慕驊曝殘酷數據:10月仍是一個人的武林
買房最好不要選低樓層?專家破解多數人的買房迷思,2大超強優勢「比高樓層更搶手」
台灣1景點被外國人大讚「隱藏版天堂」!在地人卻不愛去,背後原因曝光:天氣、安全都是問題
搭飛機想要免費被升等?空姐曝3類人最沒機會!想搭商務艙一定要知道
愛因斯坦的諾貝爾獎金竟是「分手費」?相對論被消失、腦葉切除術也能拿獎…...你不知道的諾貝爾獎七大秘辛
台灣最新詐騙手法!「沒買東西銀行存款全被掏空」最近一堆人上當,這些平台很多民眾在用
共軍殲-35匿蹤黑科技完虐F-22?前飛官曝1材料大突破:有戰術上的優勢
安平老街、奇美輸了!台南最強景點吸1787萬人,遊客讚絕對必訪、吃喝玩樂應有盡有
該買房還是租房好?專家揭1類房子最好不要碰!錢投水理、房價難維持
天氣預報》颱風哈隆強度直逼強颱!氣象署曝侵台機率,首波東北季風要來了「全台有感降溫」
Toyota RAV4只排第七!9月台灣汽車銷量冠軍是它,車主讚省油空間大、便宜超值配備好
綠營2026北市並非苗博雅、吳怡農?許甫預言他出戰:在同溫層被稱「蔣萬安剋星」
65歲以上長輩快領紅包!1縣市發1500元重陽禮金,發放時間方式、金額一次看
川普版「台灣戰略」有2大支柱:有限承諾+離岸平衡 美國不再出兵協防台灣?
不是美國、新加坡!1經濟大國「消費斷崖式下滑」,連首都也慘裁員降薪衝擊
台灣如何對付川普大開口?郭正亮看日韓前車之鑑:要有GUTS做這件事
傷口可以用自來水清洗!最新研究證實「和生理食鹽水無差異」,台灣醫生解釋原因
連假倒垃圾注意了!1縣市中秋、雙十節「停止沿街垃圾車清運」,一鍵查詢家裡附近定時定點收運
幕後》怕鄭麗文當選國民黨主席!不想CK楊變男一 國民黨內串連施壓盧秀燕
家有養貓注意!買寵物食品就中200萬元「發票中獎地點曝光」,10/6開始領獎、過期就沒了
現場》賴清德政府全社會防衛韌性破功 救花蓮堰塞湖災難仍靠國軍和鏟子超人
去超商消費就中1000萬!財政部曝17個中獎地點,10/6開始領獎忘記就充公了
專訪》DSPS x 海豚刑警日本專場!「獨立樂團台灣隊」巡演旋風:用音樂點亮彼此的旅途
解除武裝、還是被徹底殲滅?面對川普的最後通牒,《金融時報》深度剖析哈瑪斯的「存亡抉擇」
風評:所為何來?中國放棄「特殊待遇」無助WTO改革
夏一新觀點:韓國工人被遣返、台灣捷安特遭扣押 、台積電五五分割─川普保護主義的真面目
韋安觀點:什麼是「文明戰爭」?和它的兩種面孔
陳厚銘觀點:輝達策略性投資與臺灣半導體的挑戰
黃錦鐘觀點:「保產業」還是「保國家」?台灣在「晶片五五分」下的殘酷選擇