AI是美夢，還是惡夢？財團法人新世代金融基金會董事長陳冲日前於一場演講，藉由科幻電影《2001太空漫遊》娓娓道出人類58年來的恐懼，以及大國博弈下AI難以喊停等現實狀況。
以下為陳冲於今年11月7日受「禧年經濟倫理文教基金會」邀請，以「AI是美夢？還是惡夢」為題發表演講，財團法人新世代金融基金會為之整理於今（12）日發表的重點摘要：
1968年科幻電影即有AI一詞
AI是美夢還是惡夢？猶記得58年前（1968）人類還未登陸月球時，好萊塢就拍了部科幻電影《2001太空漫遊》描述人類在木星的任務。當時大二的我，與當時即頗有名氣的影評人同學（但漢章）為籌措高中（附中）校友會刊物編輯的經費，找到電影公司表示願意為電影撰寫影評，賺取廣告費用，生意僥倖成交，在陪同觀賞影片時，聽到Artificial Intelligence一詞，深感震撼，而這也是我第一次接觸到AI的概念。
當時大部分人關注的都是電影中逼真的特效，電影甚至獲得奧斯卡最佳視覺效果獎，但華麗外表下，電影其實富含哲學寓意，電影中太空船上有一智慧超級電腦（AI），名為HAL 9000，HAL有啥意義？其實三個字母在英文字母排序中分別在I、B、M前頭，IBM為當時股價最高的科技公司，故此命名其實隱含AI always one step ahead的意味。
電影中，這AI在航太組員間挑撥，甚至自作主張，差點危害太空任務，後來還是人類智慧略勝一籌，圓滿結束，但已充分顯示人類對人工智慧的不安與疑慮。2年前，我曾撰文「從科幻電影與加州角力看AI立法」，文中的科幻電影即是剛才所提的《2001太空漫遊》，當時（2024）加州議會已通過AI監管草案，表示人們已開始意識到AI若不管制，日後恐無法掌控，但州長在最後一刻否決，也顯現商業利益在決策時的份量。
AI不只取代手腳，還要取代大腦
AI一詞在1956年Dartmouth Workshop時被提出後名稱並未改變，直到近日川普將其改稱為SI（Superintelligence）。相比AI，SI更有種「比人類更高級物種」的味道。人類對AI是既期待又怕受傷害，害怕AI發展有天會beyond human（超越人類），若AI只是取代人類雙手還不可怕，畢竟自工業時代以來所有科技進步都是在取代人類的雙手雙腳，人類早有Innovation always cost your job 的認識，但若有朝一日AI取代人類的腦袋或甚至是人類的存在，則又如何？如同58年前《2001太空漫遊》中HAL always one step ahead of IBM，半世紀以來，這份人類心理底層的恐懼，似乎越來越趨於現實。近半年來，經濟學人有9期的封面故事談論AI相關議題，表示重要財經雜誌也在大篇幅關注，AI的影響已不僅侷限在腦袋中，而是人類真實的生活。
（相關報導：
公股投信合併綜效倍增？陳冲點出「引清兵入關」舊傷
｜
更多文章
）
三巨頭喊放緩，川普、貝森特都反對
AI行業三巨頭的領導人：Amodei、Altman、Musk，日前不約而同呼籲放緩AI發展，想必已注意到AI若按現在速度發展，也許會失速失控，因為有許多衍生的社會問題，人類尚未充分思考，需要再做規劃。但煞車不能只有自己踩，否則恐有落後之虞，這種爾虞我詐的時刻，政府角色就非常重要，但川普和財長貝森特的態度對AI放緩一事皆持反對立場，貝森特曾表示AI companies could stop any time they want to，川普甚至表示AI一事，唯一可以控制的是美國擁有一位強大聰明且IQ高的總統，而誰在AI競賽中獲勝，將獲得最終勝利，美國也已領先中國（及其他各國）！從兩位的態度可知，政府的立場「要踩煞車你們可以自己踩」，但在競爭中，又有哪家企業願意放慢自己，讓對手超越？
利他主義（Altruism）在近十年來經常出現，在AI的發展過程，也不時被討論。有幅漫畫中，左邊有座矮屋center for finding cures，右邊有座高樓center for turning the disease into long-term profitable treatments，前者指藥廠開發出對疾病治療非常有效的新藥後，病患痊癒不再需要服用藥物，第二年後的營業額自然呈懸崖式下降；但若藥廠選擇開發另一種藥物，對病情有幫助但不會完全治癒，以確保自身長年的營收，不禁讓人思考所謂利他主義是真正有效的利他？還是白宮所指有缺陷的利他？要開發對藥廠有缺陷還是對病人有缺陷的藥物？人類對AI也有同樣的矛盾心態，一方面期待AI的出現，但若真的有完全符合理想的AI，是否對自己就是真的好？
人類漸漸欠缺理解與預測未來的能力，從而期待負責漸進的發展，在現階段似不可能，三巨頭在呼籲放緩AI後也沒有實際落實。當踩不住AI發展的煞車，「失控」可能就會發生，就像《2001太空漫遊》中，HAL9000居然指派太空人暗殺艦長，有了AI的叛變。人類希望AI可以和倫理達到alignment，但若希望AI有倫理道德，應在程式設計上讓其學習，無奈巨頭和政府皆不願意花時間，只能悲觀看待。如同兩年前我的文章「AI焦慮症」，人類對AI的焦慮自58年前的電影至今，只有增加沒有減少。
AI的競賽，不只有人類對AI，也包含AI對AI、國家對國家，當人類不能單打獨鬥，就必須拉幫結派，當Global north有Pax Silica，global south有WAICO，台灣在哪？無奈台灣不屬於其一，似乎我們永遠都是在大國的主桌旁擺張小桌子，隔壁吃大菜，我們吃小點。
Bill Gates提token tax，資本財課稅須正視
AI的發展不僅僅造成人類心理的焦慮，對社會制度也有重塑的作用力。5月20日，Amodei在Davos提出AI貴族（新一批享有最多資源的族群）、數位封建主義（新一批族群剝削他人）、第零世界（Zeroth World）的概念。工業革命以來，innovation always cost your job，每一次的科技進步都是以一批人的工作作為代價，只是影響程度大小不同。2017年我曾撰文「機器人繳稅不是天方夜譚」，傳統經濟學上認為資本財會帶來更大利益，理論上不應課稅，但當某種資本財（例如AI），已強大到社會上許多人（失業）無法負擔繳稅義務時，該怎麼辦？10月25日，Bill Gates在The Observer上發表意見，提到token tax，同樣認為必須考慮對資本財課稅，未來，資本財（機器人）只會越來越強大，我們不得不正視此議題。
（相關報導：
公股投信合併綜效倍增？陳冲點出「引清兵入關」舊傷
｜
更多文章
）
除了資本財課稅的議題外，11月4日，Bill Gates接受FT專訪時表示若管控不當，AI在生物安全方面造成的影響將遠勝過Covid，而一切的監管都需要政府出面，但延續剛才所提，AI相關的主要政府目前沒有人願意出面，美國業者將AI憲法納入模型，希望AI自己管自己，中國政府甚至在10月成立國家數據集團，以國家力量踩油門，發展AI，意見領袖希望政府管制AI，恐怕是馬耳東風。
提到AI對智財權的影響，目前所有AI大語言模型，其實都在侵害原作的智財權，但去年五月美國法院認定「從別人的智慧財產權learn到的東西不算侵害，只有reproduce才會侵害權利」，故許多AI公司開始大量購買二手書，掃描儲存後銷毀，確保只有自身的database有此資料，也引發美國近期許多針對反競爭性行為的抗議行動。當reproduce昇華成learn，智慧財產權還有何意義？人們對於智財權的概念應該要改變，若沒有智財權，人類也許會更進步得更快，諾貝爾獎得主Stiglitz曾主張限縮智財權的保護，就是同一理由。最新一期經濟學人有篇文章Let China Copy，呼籲美國AI公司讓中國複製他們的AI技術，有助於AI科技領先，而當人類若互相學習，AI進步將更快，對民眾也是好事一件。
（相關報導：
公股投信合併綜效倍增？陳冲點出「引清兵入關」舊傷
｜
更多文章
）
人類只能在大危機後學到教訓？
AI的影響究竟是好是壞？端視人類智慧如何處理。Thomas Friedman在10月7日接受紐約時報專訪時表示，AI的快速發展正在成為第二個宇宙大爆炸（We just set off the second Big Bang），且人類所做之事正made ourselves godlike，而無論是在大型全球危機前或後，我們總是要學到的（we can learn that before the massive global crisis, or we can learn it after. But learn it we will）。不幸的是，人類似乎永遠學不會，永遠在大型危機後才學到教訓。只是在Big Bang之後，希望還來得及！
