過去半個世紀，辛頓致力於研發ChatGPT等聊天機器人的核心技術。現在他擔心這會造成嚴重危害。
現年75歲的「AI教父」辛頓宣布離開谷歌（Google）人工智慧（AI）研究部門，同時公開呼籲人們關注AI的危險性。近日，他接受多家媒體採訪，表明他擔心在科技巨頭之間的激烈競爭下，AI受到不斷改良與開發，將變得「太聰明」並恐怕帶來「殺手機器人」等危害，所以決定「吹哨」畢生協助開發的技術。
辛頓（Geoffrey Hinton）沒想到AI的發展速度會像過去7個月那樣快。去年谷歌、OpenAI等公司已經開始開發的AI系統，讓辛頓認為AI在未來5年可能出現的進展將是「非常可怕」的。
值得特別注意的是，作為AI研究界內部最受尊崇的權威之一，辛頓為了能不受約束地警告人們警惕AI的潛在風險，不惜辭去職務。辛頓的人工智慧之旅，從開創先驅走到末日預言者的一步，凸顯科技業在幾十年來最重要的轉型點上，面臨到一個非常關鍵的時刻。
科學界對AI發展的連番警告
《紐約時報》（NYT）1日刊出辛頓專訪，他說，他對畢生的工作感到後悔，「我用一個藉口來安慰自己，如果不是我，也會有其他人來做。」
科技業領袖們相信AI時代的到來，將像1990年代引入網路瀏覽器一樣顛覆人類的生活，並可能連帶促進藥物研究、教育等多項領域的突破。但困擾許多業內人士的是，他們擔心自己正在製造危險。生成式AI已經可以被利用來製造假／錯訊息，很快地，AI還可能會威脅到人類的工作機會，甚至最悲觀的看法是，未來AI可能對全人類構成威脅。
「很難知道如何防止壞人利用它來做壞事，」辛頓對《紐時》、美國有線電視新聞網（CNN）等媒體警告道。在接受《麻省理工科技評論》（MIT Technology Review）採訪時，辛頓還指出「壞人」可能利用AI，做出對社會產生不利影響的壞事，例如操縱選舉或煽動暴力。
辛頓不是唯一針對AI提出警告的科學家。3月底，OpenAI新一代自然語言模型GPT-4開發後，以特斯拉（Tesla）執行長馬斯克（Elon Musk）、蘋果公司（Apple Inc.）共同創辦人沃茲尼亞克（Steve Wozniak）等為首的1000多名科技領袖、研究人員連署，呼籲基於AI技術給社會和人類帶來「深遠風險」，希望AI實驗室和相關企業在至少6個月內不要開發比GPT-4更強大的技術。
幾天後，擁有40年歷史的人工智慧促進協會（AAAI）19位現任和前任主席，也聯合發表公開信警告「AI的風險」，當中包括微軟（Microsoft）科技總監霍維茨（Eric Horvitz）。微軟公司已將OpenAI技術部署到多項產品中，例如Bing搜尋引擎。
辛頓在幾個禮拜後加入呼籲警惕AI的陣營。事實上，他擔心科技公司會為了ChatGPT、Bing等服務的激烈競爭，而疏忽、放寬對研發使用AI的約束，這恐怕會引發一連串倫理問題。谷歌AI負責人狄恩（Jeff Dean）發表聲明表示：「我們仍然致力於對AI採取負責任的態度。我們將繼續學習理解新出現的風險，同時也將大膽創新。」
奠定聊天機器人核心技術，直到發現危險
辛頓來自英國，1972年在愛丁堡大學攻讀研究所時，他踏上研究AI的漫長旅程。他的研究重點是人工神經網路（neural network），一種模仿生物神經網路結構的計算模型，可透過分析資料來學習。當時很少有研究人員相信這個點子可行，但後來這成為他畢生鑽研的技術。
1980年代，辛頓在美國卡內基美隆大學（Carnegie Mellon University）任電腦科學教授，但後來去了加拿大，因為他不願接受美國國防部的贊助。當時美國絕大多數AI研究都是軍方贊助，辛頓強烈反對將這項技術運用於戰場──他稱這無異於創造「機器人士兵」。
2012年，辛頓與兩名學生──蘇茨克維（Ilya Sutskever）、克里謝夫斯基（Alex Krishevsky）──開發了一個人工神經網路，它具備分析數千張圖像，學習識別花、狗和汽車等常見物體的學習能力。之後，辛頓與兩名學生創建了科技公司DNNresearch，採用人工神經網路的突破性技術。
Dr Ilya Sutskever FRS is elected a Fellow of the Royal Society. He has been a major contributor to several of the most disruptive advances in artificial intelligence, from object recognition to natural language processing. #RSFellows https://t.co/G0LuuwkW01 pic.twitter.com/tq7lFjSRYy
— The Royal Society (@royalsociety) May 12, 2022
神經網路正是催生出OpenAI的ChatGPT、谷歌Bard等聊天機器人背後的奠基性技術。2013年，谷歌花了4400萬美元（約13.5億元台幣）收購辛頓等3人創辦的公司。辛頓的學生蘇茨克維2015年與馬斯克等人共同創立了OpenAI。
2018年，辛頓與法國科學家楊立昆（Yann LeCun）、加拿大科學家本希奧（Yoshua Bengio）因對神經網路研究的重大貢獻，共同獲得資訊學界最高獎項圖靈獎（ACM Turing Award），他們3人也因此被視為「AI教父」或「深度學習教父」。
與此同時，谷歌、OpenAI和其他科技公司積極開發，能從大量數位文本中學習的神經網路。那時辛頓對AI的未來抱有無限憧憬和美好期待，但2022年隨著谷歌和OpenAI利用大量資料構建超強AI，辛頓的觀點也發生重大轉變。他雖然認為這些AI模型在某些方面仍不如人類大腦，但它們在其他方面正在超越人類的智力，未來恐怕將會取代人類。
「AI教父」究竟擔心它什麼？
引發辛頓擔憂的因素，可以分為短期和長期兩個方面。短期來看，辛頓認為生成性AI已經創造了許多虛假的文本、圖像、影片，未來如果充斥虛假的網路內容，一般人恐怕將「無法再辨別真假」。
而在可預見的未來，辛頓認為AI將會顛覆就業市場。今日，像ChatGPT這樣的聊天機器人還只是輔助人類的工具，但它們已經能取代律師助理、私人助理、翻譯和其他處理繁複差事的職位。他說：「它消除了苦差事，將來能取代的遠不止於此。」
從長遠來看，辛頓非常擔憂AI技術繼續發展下去，將會對人類生存構成威脅。強大的AI模型能從訓練資料中，習得科學家意想不到的行為。所以他擔心，「全自主武器」有可能會誕生。他說，個人或公司允許AI系統生成自己的電腦程式，而且實際上它可以自己運行，將會導致很大的問題，即有一天真正的自主武器，也就是所謂「殺手機器人」會成為現實。
他說，在相信AI能變得比人類更聰明的人們之中，「大多數認為這種事要發生還很遠。我過去也這麼想。我曾以為至少要花30到50年，甚至更久的時間。顯然，我現在不會這麼想了。」
其他專家，包括他的許多學生和同事，都表示這種威脅是假設性的。雖然目前許多問題都只存在於假設層面，但辛頓認為若沒及時準備好控制AI，那麼該技術在未來可能徹底失控，尤其谷歌和微軟等公司之間的競爭影響全世界，如果沒有全球範圍的立法監管或約束，這場競爭將不會停止。
但辛頓也深知，想要約束私人公司的技術開發是一件不可能的事，與核武器不同，外界沒有辦法知道公司或國家是否在秘密研究AI技術。能希望的是，全球頂尖科學家就控制AI進行合作，直到了解是否能夠控制AI之前，先不要廣泛運用。
辛頓說，以前被問及是怎麼決心投入開發有潛在危險的技術時，他總是引述「原子彈之父」歐本海默（Robert Oppenheimer）的話：「如果你發現某個東西技術上很有趣，那就去做做看。等到你獲得技術上的成功了，再來談之後要怎麼辦。」
辛頓現在再也不這樣說了。
