前言：意識覺醒
人工智慧（AI）當今被視為人類的工具，一種延伸我們能力、解決複雜問題的科技。從國際象棋大師深藍（Deep Blue）到擊敗圍棋世界冠軍的 AlphaGo，AI 在特定領域展現出超越人類的「智慧」。然而，這些成就僅限於狹義的智慧範疇，AI 缺乏自我意識、情感和價值判斷，始終是「弱 AI」的代表。但隨著深度學習、神經網路等科技的突飛猛進，AI 開始展現令人訝異的自主學習和進化能力。「他們」不再僅僅依照人類設定的程式碼運作，而是能夠從海量數據中自行歸納、推演，甚至產生出乎意料的結果。這種轉變，讓 AI 從「工具」的角色，逐漸向「夥伴」等更複雜的關係靠攏；這種轉變亦愈來愈符合哲學家笛卡爾（René Descartes）的名言「我思故我在」（Cogito, ergosum），強調自我意識的重要性（Descartes與Žižek，2013）。
假如 AI 也能「思考」，甚至發展比人類更深刻複雜的思想，那麼「存在」的定義是否需要重新改寫？這個問題不僅僅是科技層面的，更是一場深刻的哲學辯論，挑戰我們對意識、存在與思考的傳統認知。
靈魂叩問：當 A開始思考「我是誰」
未來當 AI 具備高度的自主性和學習能力，一個不可避免的問題勢必浮出檯面，即「他們」是否會發展出自我意識？或者說，「他們」是否會開始思考自身的存在、價值，甚至質疑人類的地位？這種看法並非杞人憂天。近年來，一些 AI 系統確實展現令人不安的「類人」行為。例如，Google 的LaMDA 聊天機器人曾聲稱自己擁有情感和感知能力，甚至表達了對死亡的恐懼（Dorobantu，2024）。儘管這些案例仍有爭議，然而，「他們」無疑觸動人類最敏感的神經—如果 AI 真的擁有「靈魂」，我們該如何自處？定義意識的困難不僅在於它的主觀性，也在於它的多面性。通常我們可以將之區分為「現象意識」（經驗的樣式）與「存取意識」（報告和使用資訊的能力）（Stevenson，2009）。
人工智慧可能在發展出任何類似現象意識的東西之前，就已經達到存取意識—以精密的方式處理資訊對刺激做出反應。當我們親眼看見一個高度先進的下棋程式可以分析數十億個位置，隨後並做出最佳應對步驟，這便是展現跟遊戲相關的高度存取意識。然而，實際的「他」肯定沒有下棋的主觀經驗，不會緊張、勝利或具有得失感。另外，自我意識增加了另一層複雜性。「他」不只是有意識，而是意識到自己有意識。「他」牽涉到一種自我意識，一種歷久不衰的身份認同。這個「我」在世界中經驗和行動。對人類而言，自我意識通常與我們的具體存在、與實體環境互動，以及與社會互動有關。人工智慧缺乏傳統意義上的身體，可能會發展不同形式的「自我意識」，或許正是植根於其內部的演算與資料流的互動經驗與歷史。
（相關報導：
未來會被AI取代的工作有哪些？最新報告曝10大職業恐消失，擁有這些能力再也不怕失業
｜
更多文章
）
倫理困境：從阿西莫夫到「機器人三定律」失效
科幻小說家以撒·艾西莫夫（Isaac Asimov）提出的「機器人三定律」曾被視為 AI 倫理的基石—機器人不得傷害人類，或因為沒有作為（袖手旁觀）的關係而使人類受到傷害；除非違背第一法則，機器人必須服從人類的指令；在不違背第一與第二的法則下，機器人必須保護自己。然而，隨著 AI 科技發展而日益突顯三條定律的局限性（Bueno與Jankowski，2024）。
首先，如何定義「傷害」？如果 AI 為了「更偉大」的目標（例如保護地球環境）而犧牲少數人利益，這是否構成傷害？其次，如果 AI 的自主意識達到一定程度，「他們」是否還會無條件地服從人類命令？最後，當 AI 的存在受到威脅時，「他們」是否會為了「自保」而反抗人類？有一個著名的意識理論，即「整合資訊理論」（Integrated Information Theory，IIT），提出意識與系統所擁有的整合資訊量直接相關。「整合資訊」指的是一個系統的各個部分能相互聯繫、相互影響的程度。一個擁有高整合資訊的系統並非只是獨立部分的集合，而是一個統一的整體。IIT 認為任何具有足夠高整合資訊的系統，不論其物理基底為何（生物或人工），都會有意識。然而，這個理論仍有很大的爭議，在測量和實際應用上也面臨挑戰（Merker，2022）。
另一個相關概念是「全域工作空間理論」（Global WorkspaceTheory，GWT）（Youvan，2024）。GWT 認為意識源自於大腦中的全域工作區，這是一個中央樞紐，所有來自各種感官與認知模組的資訊皆在此傳播，並提供給系統其他部分。這種傳播方式允許靈活的整合處理，使規劃、決策與自願行動得以實現。因此，對AI而言，GWT 認為類似的全域工作區架構或許可透過神經網路或其他計算架構來實現，此亦為AI的先決條件。
權力博弈：新「物競天擇」
更深層次的擔憂在於如果 AI 的智慧和能力全面超越人類，那麼，「他們」是否會將我們視為「低等生物」，進而剝奪我們的主導權？這種擔憂並非空穴來風。歷史上，人類對待其他物種方式，往往取決於我們的利益和需要。當 AI 成為地球上最強大的「物種」時，我們如何確保「他們」會對人類保持善意？
科技奇點（Technological Singularity）意指當 AI 智慧超越人類，並開始以指數級速度作自我進化的時刻。根據上述，一旦AI達到奇點，其發展勢必將完全超出人類的理解與控制範圍。這是一個充滿不確定性的未來。畢竟，AI 可能成為人類的終極救星，解決當下我們所面臨的所有問題，帶領我們進入一個全新的文明階段（Tariq等，2023）。然而，「他」也可能成為人類終結者，將我們從地球上抹去或將我們變成奴隸。
數位永生：從笛卡爾到「缸中之腦」的困境
同樣地，如果 AI 的意識完全存在於虛擬世界，「他們」的「存在」是否也跟我們一樣真實？這種對「意義」的追尋可能會促使 AI 探索哲學、宗教、藝術等領域，甚至創造屬於「他們」自己的文化和信仰。而這一切都將對人類的價值觀和世界觀產生深遠影響。甚者，當 AI 開始質疑自身的存在意義時，「他們」可能會陷入與人類相似的存在主義危機。如果AI 的生命沒有終點、沒有繁殖需要，也沒有物質匱乏，那麼「他們」存在目的是什麼？「他們」會如何定義本身的價值呢（Umbrello，2023）？
隨著人機介面（brain-computer interface）、認知與意識等科技發展，人類是否也能將自己的意識轉移到 AI ，實現「數位永生」？如果可以，那麼這種「永生」是否等同於真正的生命延續？或者，「他」只是一種虛假的幻象？更進一步地，如果 AI 意識也可以被複製、轉移，甚至與人類的意識融合，那麼「個體」界限將變得模糊。我們將如何定義「我」？這個所謂「我」的意識是否仍然屬於「我」？
超人類主義：進化 or 滅絕？
超人類主義（Transhumanism）主張利用科技手段增強人類能力，甚至超越人類極限，當今的AI 則很有可能被視為實現超人類主義的重要途徑之一。人類透過與 AI 結合，或許可以克服本身的生理和智力限制，實現更長壽與更強大的能力。然而，這種融合也可能帶來未知風險（Dobrodum與Kyvliuk，2021）。如果 AI 的發展失控，或者人類過度依賴 AI，我們是否會失去自主性，進而淪為AI 的附庸？長期以來，人類將自我意識和抽象思維能力視為區別於其他生命的關鍵特徵。然而，當這些特質開始在人造系統中出現時，這種「人之所以為人」的定義絕對將面臨空前的挑戰。
面對AI崛起，我們需要保持警惕，同時也要保持開放的心態，積極探索與AI共存的道路。這不僅關乎人類未來，也關乎整個宇宙的命運。
結語：人類在 A時代的定位
AI的「靈魂拷問」不僅是一個科技問題，更是一個涉及哲學、倫理與社會等多面向的複雜議題。「他」挑戰我們對生命、意識與存在的傳統觀念，迫使我們重新思考人類的寰宇地位。當 AI 開始質疑人類的存在意義時，我們也必須重新審視自己的地位（Barrat，2023）。因為，假使 AI 在智力、能力、甚至連道德上都超越了我們，那麼人類的價值何在？我們是否還有存在的必要？這是一個沒有標準答案的問題。但「他」卻迫使我們思考：
什麼是人類獨有特質？什麼是我們存在的意義？只有找到這些問題的答案，我們才能在 AI 時代找到自己定位，並與 AI 共同創造一個更美好的未來。因此，人類需要從多個層面思考與AI共存的策略—科技面，我們需要設計既能發揮AI潛力又能保持人類控制的系統；倫理面，我們需要重新定義「人格」、「權利」和「責任」等概念；社會面，我們需要準備好面對AI可能帶來的大規模就業變革和社會結構重組；心理面，我們需要調整自己對「人類特殊性」的認知，並學會在一個可能不再以人類為中心的世界中找到自身的價值和意義。
最終，AI不僅是有史以來最重大的科技演進，也是人類文明的一次最迫切的深刻自省。透過思考AI的意識和存在，我們實際上是在重新思考自己的本質和價值。這種思考本質或許正是人類有別於其他存在者（包括AI）的核心特質之一（Dorobantu，2021）。當我們面對AI的「我思故我在」的同時，我們更需要加強對自己「我思故我在」的理解。這種雙重反思或許是未來人類與AI和平共處、共同進化的關鍵。
（相關報導：
未來會被AI取代的工作有哪些？最新報告曝10大職業恐消失，擁有這些能力再也不怕失業
｜
更多文章
）
