華爾街日報》OpenAI、Google員工連署公開信:警告AI潛在威脅,擔心發聲遭報復

(Dall-E 3生成圖像)
(Dall-E 3生成圖像)

一群人工智慧行業的員工表示,由於保密協議、缺乏舉報人保護以及害怕報復,他們無法表達對人工智慧威脅人類的擔憂。

在周二發布的一封信中,OpenAI、Google的DeepMind和Anthropic的十多名現任和前任員工表示,人工智慧公司需要為員工建立舉報管道,讓他們能夠安全地向公司內部和公眾表達擔憂。他們表示,保密協議阻止他們公開討論這些問題。

本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱:風傳媒・華爾街日報VVIP,獨享全球最低優惠價,暢讀中英日文全版本之華爾街日報,洞悉國際政經最前沿。

簽署了這封信的OpenAI前員工William Saunders說:「對前沿人工智慧系統的工作原理及其部署風險最了解的人並不能完全自由地發言。」

除Saunders外,還有六名OpenAI前員工在信上簽名。OpenAI的四名現任員工以及Google人工智慧研究實驗室DeepMind的一名前任和一名現任員工也在信上簽了名。其中六名簽名者為匿名。

三位知名的人工智慧專家支持了這封信: 人工智慧科學家Stuart Russell、Yoshua Bengio和Geoffrey Hinton因其早期的突破性研究而被稱為人工智慧教父。Hinton去年離開了Google,這樣他就可以更自由地討論這項技術的風險。

OpenAI周二在回應該信時表示,同意政府應該進行監管。

OpenAI的發言人說:「我們為自己能夠提供最強大、最安全的人工智慧系統的而感到自豪,並相信我們能夠用科學的方法來應對風險。我們同意,鑑於這項技術的重要性,嚴格的辯論至關重要,我們將繼續與世界各國政府、民間社會和其他社區合作。」

DeepMind和亞馬遜支持的Anthropic周二暫未回覆置評請求。

該信的簽名者周二表示,由於政府對人工智慧公司沒有廣泛的監督,現任和前任員工是少數一些能讓公司承擔責任的人。他們說,他們擔心的問題之一是人類可能會失去對自主人工智慧系統的控制,進而導致人類滅絕。

簽名者還要求公司允許員工匿名舉報問題,不對舉報人進行報復,不強迫他們簽署可能會讓他們保持沉默的協議。他們希望人工智慧公司更加透明,更加註重保障措施。

OpenAI周二表示,該公司有一條匿名誠信熱線,在建立必要的保障措施之前不會發布技術。

簽署這封信的OpenAI前員工Daniel Kokotajlo說,公司在競相開發人工智慧技術的過程中,無視人工智慧的風險。 (相關報導: 華爾街日報》中國「貓熊外交」面臨考驗:福寶歸國後被質疑遭受虐待 更多文章

他說:「我決定離開OpenAI,因為我對他們會負責任地行事失去了希望,尤其是在他們追求人工通用智慧的過程中。他們和其他公司都相信「快速行動,打破常規」的方法,而這與如此強大和如此缺乏理解的技術所需要的恰恰相反。」

因為你,我們得以前進,你的支持是我們的動力
更多文章
民團扮和尚諷加熱菸走私亂象 促加熱菸依法上市
政院對國會改革法案提覆議 柯建銘喊話藍白委起義來歸:看誰要當歷史英雄
台灣又1間知名飯店宣布停業!開業19年、4.3星高分也撐不下去
全球首例!59歲男染H5N2禽流感死亡,病毒來源不明
不是台大了!「這學府靠1優勢」登台灣第一 校內最強系所「搭上AI風潮」未來超搶手
讓百萬遊客看見你的創意 黃金博物館辦寄賣商品徵件即日起開跑!
3年前「關刀插嘴、銅錢塞口」恐怖殺妻!桃園狠夫今改口辯「中邪」:我在救她
趕緊領錢!勞動部「每月6000元自動入帳」一次領12個月、時間只到6月
電器裡住滿蟑螂家族!內行人教2招超強滅蟑法,小強再也不敢跑進去
孩子下課後的第二個家!聯電課輔中心:播撒希望種子讓更多希望發生
波音首次載人上太空!「星際飛機」成功升空,執行國際太空站任務
《北流音樂故事沙龍》台美連線 跨國嘻哈盛事 "嘻哈先鋒"齊聚北流
台灣又1所大學7月退場!創立33年熄燈、380名學生轉校,結餘百萬元全捐弱勢
證實黃埔校慶取消聯兵旅「踢正步」 顧立雄:未來刺槍術也會取消
「AI電源供應營收今年翻倍」台達電鄭平宣示:讓數據中心更節能,這是我們的強項
「兩岸衝突不只有軍方的事!」加強整體作戰 顧立雄透露有「全社會防衛韌性」計畫
台南最強美食不是牛肉湯?1低調小吃「每天限量」老饕吃過全讚:人間極品
單戶2億元!台北捷運共構宅出現史上最高價,前5名都在這2條線
「台灣不要只是出口AI電腦!」黃仁勳:也要為工程師投資AI電腦,加速研究
氣象預報》雨區擴大「全台雷雨連炸6天」!端午節連假天氣出爐,這2天雨勢最強
收到「國會改革」法案函文 行政院今將正式提出覆議
北部登山步道推薦》下午再出發也來得及!5條親民路線,快速登頂飽覽山海美景
在大選中慘勝的印度總理:艱苦連任的莫迪,能否確保印度崛起?
寶林茶室中毒案》累計5死!50多歲女急救2個月「等不到換肝」多重器官衰竭亡
軍演險「斷氣」還敢重用?學者揭政府能源轉型錯誤押寶:核能是唯一選擇
《馬克信箱》、《呱吉》都不是第一!10大通勤必聽Podcast頻道,冠軍讓網友大讚:一聽就停不下來
一沐日菜單推薦喝什麼?Dcard、PTT激推「7款最強飲料」必點,別只知道逮丸奶茶
鴻翊科技買日本溫泉酒店惹是非 天籟許文通家族屢發生關係人交易爭議
2024年(113年)國中教育會考成績網址開放查詢!最新答對題數對照表一次看
專訪》美國自知已無能力與中國一戰?汪榮祖:台灣要正視大陸是「玩真的」
上市櫃公司投資中國總體檢 這家科技大廠「雞蛋都放在中國」風險最大
好市多1飲料特價!網曝神級喝法:根本台灣之光
專訪》中國崛起打破「全球化就是美國化」迷思 汪榮祖:「中國產能過剩」站不住腳
幕後》台灣一張照片嚇到解放軍!中國項莊舞劍美國 曾勸習近平別打的他下令演習
大安區41年舊華廈開價快破億「直逼新建案」!專家分析台灣房市現況嘆:友人氣到買預售
專訪》美國霸道對上中國王道的博弈 汪榮祖:美國走下坡,中國占上風
韓國瑜介入國民黨主席之爭?媒體人嘆「內鬥世家」:不惜犧牲最大舞台
國會改革是習近平指示?楊照批「反中到不講理」:中共根本不了解民意機關
風評:傅崐萁不是民進黨的金鐘罩
林建甫專欄:製造業復興,美國重返製造大國?
趙春山觀點:「香格里拉對話」─各方施展「軟硬兩手」
鄭春鴻觀點:給黃仁勳的一封信
王乃雯觀點:農業部的統計誤區 — 公糧收購爭議中的不同詮釋
吳典蓉專欄:為何有人相信「習近平指示國會改革」?
觀點投書:賴清德的暴衝,兩岸關係的爆裂
觀點投書:藉坍方天災炒作罷免 ,幸災樂禍心態要不得
許耀升觀點:AI 算不出熱島效應
長平觀察:「習近平先生,推倒這堵牆!」
馮建三專文:好新聞與好報紙是做出來的