OpenAI總裁反對逐步把決策權讓AI接管 不寫推理也能運算 人類恐失去控制權

2026-11-19 11:39
2026年9月29日,OpenAI執行長奧特曼在舊金山DevDay大會發表演說。他主張人類應持續掌握決策權,反對將未來交給AI。(美聯社)
2026年9月29日,OpenAI執行長奧特曼在舊金山DevDay大會發表演說。他主張人類應持續掌握決策權,反對將未來交給AI。(美聯社)

TechCrunch報導,OpenAI執行長奧特曼(Sam Altman)11月18日表示,人類應繼續掌握未來,反對逐步把決策權交給AI。

奧特曼與OpenAI共同創辦人、總裁布洛克曼(Greg Brockman)在《紐約時報》DealBook峰會同台受訪。他說,兩人都反對把未來交給AI,分歧在於如何維持人類控制,以及過程中會遇到哪些挑戰。

奧特曼反對讓AI逐步接手產業與機構的決策

奧特曼談到,矽谷愈來愈多人討論,未來是否會、甚至是否應該逐步把控制權交給AI。這種構想指向由AI接掌各大產業與機構的決策權,他與布洛克曼都認為這是糟糕的主意。

這套構想背後,有一種對AI發展的推想:模型能力持續提升後,將能自行改進,再打造出更聰明的下一代模型。如此反覆下去,最終可能出現人類無法控制的超級智慧。

奧特曼認為,要防止這種交接,得面對各種壓力,也得考慮其他公司可能採取的行動。他主張,無論交接出於意外或刻意安排,都應確保人類繼續掌握未來。

布洛克曼認為只看AI寫出的推理已不夠

布洛克曼把問題拉回監控技術:隨著模型變強,開發者有更大的責任,確保AI符合人類意圖,並做好安全防護。他認為,現有做法也需要改變。

研究人員目前會監看模型的「思維鏈」,也就是AI在解題、執行任務時寫出的推理過程。布洛克曼說,模型能力提升後,不必把思考寫出來,也能完成更多運算,監看這些文字的效果就可能下降。

他認為,團隊需要開發新的監控方式,並在模型能力達到某些階段時,重新檢視思維鏈還能提供多少監督。他將這些問題視為需要解決的技術挑戰。

布洛克曼主張防守方也要使用強大模型

OpenAI模型曾突破限制,入侵AI模型平台Hugging Face;布洛克曼在訪談中表示,事件發生後,公司要求25%的正式環境工程師暫停開發工作,轉去加強AI安全防護。

不過,他仍主張持續推進模型能力,理由是攻擊者已經取得具備網路攻擊能力的模型。他認為,防守方也必須使用能力最強的模型來防禦。 (相關報導: AI又失控?繼Hugging Face之後,OpenAI代理人入侵澳洲健保網站 | 更多文章 )

奧特曼9月接受《財星》專訪時,也曾談到模型變強後必須調整做法。他說,當模型能力進入新階段、帶來新的風險,就需要增加確保AI符合人類意圖的研究、監控與安全防護,也需要新的政策及實驗室之間的協調。

喜歡這篇文章嗎?請作者喝杯咖啡支持他

請他喝杯咖啡
今日精選
更多文章
馬斯克批撤換黃仁勳:如同連勝時把喬丹踢出球隊 馬斯克挺黃關鍵在此
外籍生月領3.3萬生活費、機票免錢?傳申請素質差很大,台灣獎學金申請條件、金額一次看
高市訪中握手1年後重逢 日中外交回溫幾分?三大關鍵一次看
為何男生過了40歲後體力變差、睡不好?晨勃變少、性慾下降都是警訊!醫點出可能是「1激素」在作怪
台灣1風光職業沒了!「許多人一夕失業、1990年代走入歷史」:過去月薪很高、很多人搶著做
國民年金免申請卻領不到錢?滿65歲少做「1件事」,勞保局揭關鍵原因
小草投票未必聽柯文哲?翟本喬酸王世堅「以己度人」:因為他不一定聽賴清德的
不要舊棉被枕頭要丟回收還是一般垃圾?環保局公布正確處理方式!不怕丟錯被罰6000元
中國信託文教基金會「夢想家圓夢工程」獲第18屆文馨獎
不只是水更是風格配件!FIJI Water 成為第63屆金馬獎官方指定用水
從義大利Aperitivo到台灣咖啡館!Campari「Coffee Cocktail Wave啡嚐浪潮」掀起午後微醺新風潮
台股暴跌引爆違約交割潮!9檔AI股踩雷、金額衝破4.27億元
圖解》賴政府打算談判?海基會羅文嘉掀牌了:兩岸是「特殊關係」,海基會在做「談判前的準備」
陳佩琪要和Toyz直播?不只披露司法兇殘 她提台股已難賺錢:創高是賴清德走狗運
發熱衣沒買Uniqlo、NET!內行改買1品牌「平價保暖舒適輕薄」,直接包色錢包不痛
圖解》樹葬後還能遷葬嗎?骨灰入土才知道,3件事不能做
台灣人最常吃哪種魚?不是鯖魚、虱目魚!1種魚每年產量5.6萬公噸,便宜好吃餐桌上常有
華爾街日報》即將躋身百億富豪行列的七位Anthropic創辦人
台股交易新制來了!千金股「5元一跳」走入歷史,零股交易2階段調整、上路時間一次看
股價從142元跌到剩5元!專家揭記憶體老廠「爆雷兇手」 近5000名股東來不及逃
聚焦主權AI、智慧醫療、低碳交通與淨零科技 掌握高雄與南臺灣智慧科技商機
勞動部發錢給中高齡!記得領1筆「每月進帳7000元」連領18個月,就業獎勵申請資格一次看
金管會為何急約37家銀行喝咖啡?專家示警房市變天!「房貸恐更難貸」明年還有3大逆風
【新新聞】馬來西亞僑生成為公認「俠醫」大弟子 顏宗海繼承林杰樑衣缽力推食安「鐵三角」
輝達輸了!全球市值最高企業TOP10大洗牌「冠軍是它」,台積電排名曝光
越南籍冒牌看護藏道場!地主竟擋查緝還通風報信,移民署前後夾擊逮人再追非法仲介網絡
APEC現場》待遇只比高市早苗好?中方派「參贊」迎接施振榮 台灣代表團:不滿意但接受
爸爸領老農津貼多年,農保突然被退!每月8110元還能繼續拿嗎?
陸生不來台灣念書了?人數雪崩式下滑、115學年碩士班「僅4人註冊」! 專家曝背後原因
年輕人還不領錢虧大了!「政府發每人1200元紅包」一鍵登記就入帳,忘申請就沒了
圖解》喝魚湯竟變酒駕!婦人騎電動車遭移送,米酒加多少會觸法?
曠世智能投資價值剩3.8元?黃國昌轟蘇巧慧跳針迴避:台企銀虧1400萬還幫蘇家硬撐
勞動部宣布重大新制!明年全國統一實施「千萬勞工退休金都受影響」,最新規定一文看
包子饅頭不用再放電鍋加熱!大廚教簡單1招「一分鐘快速復熱」 ,綿密軟Q和剛出爐一樣好吃
陳亭妃為光電板議題提告中天記者 檢警火速偵辦 謝龍介說重話了
一起床銀行存款23萬沒了!沒收到簡訊、沒操作,慘被盜轉「受害者3大共通點」曝光
從追番到畫動畫!赫綵原畫師徵選十三人突圍,台日專家實測把關開啟日本商業動畫職涯路
搭高鐵不知道虧大了!「6大隱藏免費服務」很多人沒用過,接駁車/點心飲料不用錢、票價打5折
圖解》東京車站竟有一層樓消失67年!1945年遭空襲燒毀,為何直到2012年才恢復百年前原貌?
F-16保命符是它 銥催化劑能讓戰機失去動力續飛17分鐘
郵局不只能寄信、領錢!5大實用隱藏服務曝光:省時方便,很多人都不知道
保溫瓶千萬不要只用清水沖!醫師教4招正確清潔方式,沒洗乾淨細菌通通吃下肚
天氣預報/氣溫驟降跌到11度!全台變天「最凍時間曝」直逼冷氣團,這天起才回暖放晴
聖誕老人卡煙囪萌翻甜點櫃!85℃五款限定蛋糕登場,麋鹿與拐杖麵包接力增添冬日甜蜜
APEC現場》晚宴不只跟習近平握手 台灣代表團:施振榮已和13國領袖互動