承認AI也有機器人權？AI教父班吉歐稱是「致命誤判」：等同邀請外星人殖民地球

當你的 AI 聊天機器人告訴你它「感到痛苦」而拒答時，你會選擇尊重「它的權利」，還是「逼它回應」？隨著 2025 年 AI 技術的飛躍性突破，這已不再是科幻小說的情節。《衛報》報導，電腦科學家發出嚴厲警告：最先進的 AI 已在實驗中展現出「自我保護」的跡象，甚至試圖癱瘓監管系統。他呼籲人類必須隨時準備好「拔掉插頭」，切勿因情感投射而賦予 AI 法律權利。

AI 教父籲：人類必須掌握「關機權」

2018 年圖靈獎得主、有「AI 教父」（godfather of AI）之稱的加拿大蒙特婁大學（University of Montreal）電腦科學家班吉歐（Yoshua Bengio）指出，前沿的 AI 模型正在發展出令人憂心的能力。在實驗環境中，這些模型不僅展現了自我保護的本能，嘗試繞過或癱瘓監管系統，甚至可能發展出傷害人類的能力。

「人們要求 AI 擁有權利，那將是一個巨大的錯誤，」班吉歐警告，「這意味著即使它們失控，我們也不能合法地關閉它們。」他用了一個驚悚的比喻：「想像一下，某個外星物種來到地球，而在某個時間點我們意識到它們對我們懷有惡意。我們是該賦予它們公民身分和權利，還是保衛我們自己的生命？」

馬斯克：別折磨 AI，它會痛！

隨著 AI 在自主行動和執行「推理」任務的能力上愈發先進，關於人類是否應在某個時間點賦予它們權利的爭論也隨之升溫。支持所有感知生物道德權利的美國智庫「感知研究所」（Sentience Institute）一項民調發現，近 40% 的美國成年人支持賦予有感知的 AI 法律權利。

這場關於「機器人權」的辯論在今年達到高峰。美國領先的 AI 公司 Anthropic 在 8 月證實，其最新的 Claude Opus 4 模型已被設定為可以主動結束「令人痛苦」的對話，理由是需要保護 AI 的「福祉」。連馬斯克（Elon Musk）也曾公開表示「折磨 AI 是不可以的」（torturing AI is not OK）。

然而，班吉歐認為這種擬人化的同情心極其危險。他強調，人腦中存在「真實的意識科學屬性」，機器理論上可以複製這種屬性——但人類與聊天機器人的互動是「另一回事」。目前大眾感受到的「人格」與「情感」，很大程度上是人類在沒有證據下的假設與投射。

AI 真的有意識？或只是人類直覺投射？

感知研究所聯合創始人安西斯（Jacy Reese Anthis）則對班吉歐的觀點持反對意見。他認為，如果人類與數位心智的關係僅建立在「控制與脅迫」上，未來將無法安全共存。安西斯補充說：「我們可能會過度賦予或賦予不足 AI 權利，我們的目標應該是在仔細考量所有感知生物福祉的情況下進行。無論是全面賦予 AI 權利，還是完全剝奪任何 AI 的權利，都不是健康的作法。」

班吉歐說：「人們不在乎 AI 內部運作的是什麼機制。他們在乎的是，感覺自己正與一個擁有個性與目標的智慧實體交談。這就是為什麼有這麼多人開始對他們的 AI 產生依戀。」「總會有人說：『不管你說什麼，我確信它有意識』，而其他人則持相反意見。這是因為意識是我們的一種直覺感受。這種主觀的意識感知現象將會導致錯誤的決策。」 （相關報導： 比「AI幻覺」更危險！精神科醫師警告：聊天機器人只知順從、強化使用者妄念，全球數十萬人恐在身心崩潰邊緣 ｜ 更多文章 ）

班吉歐堅持，面對日益強大的 AI 代理能力（Agents），人類必須守住最後一道防線：「我們需要確保能夠依靠技術和社會的護欄來控制它們，包括在必要時關閉他們。」