阿將伊崮喜瀾觀點：AI界的「天龍八部」--Coconut

在日常生活中，語言是交流思想和分享知識的核心工具。它不僅是我們表達感情和解釋複雜觀念的媒介，更是一種將抽象想法具體化的重要方法。然而，當我們試圖理解更深層次的思維過程時，語言有時反而會顯得笨拙且低效率。

對人工智慧（AI）來說，這個限制更為明顯。大多數現有的AI模型依賴語言作為推理的核心框架。例如，傳統的「思考鏈」（Chain of Thought, CoT）方法要求模型模擬人類的線性思考，逐步用語言表達推理過程（Wei 等，2022 ）。然而，這種方法存在明顯的缺陷，即模型生成的大部分語言內容是為了保持表面流暢性，而非真正有助於解決問題的邏輯推理。這意味著語言在某些場景下成為一種負擔而非助力。這種現象並非只存在於AI。科學家們透過神經影像學研究發現，人類在進行高階邏輯思考時，大腦中跟語言相關區域其實是相對不活躍的（Al等，2023）。

舉例來說，在進行數學推論或策略規劃，大腦主要依賴於負責空間和抽象推理的區域，而不是語言區域（Amalric與Dehaene，2019）。這些研究強調一個關鍵，即語言是溝通的工具，卻不總是思考的最佳媒介。正因為如此，AI研究者們開始思考：如果語言並非人類推理的必要條件，那麼為什麼要將AI的推理能力限制於語言框架之內？這種反思終於催生全新的模型設計理念—Coconut（連續思考鏈）。

在人工智慧推理的研究領域，「思考鏈」（Chain of Thought, CoT）是一個重要突破點。它模擬人類的思維過程，讓AI能夠逐步生成語言，詳細描述並進行邏輯推理步驟。這種方法在很多問題上皆表現出色，特別是在解決需要分步處理的問題時。然而，當推理任務的複雜性提高，CoT的局限性也開始成為AI發展的障礙。

CoT的核心問題在於它過於依賴語言作為推理載體。在CoT框架下，模型需要逐步生成語言來表達逐步推理過程，這種做法對人類是直觀的，對於模型本身卻是一種負擔。

語言是人類設計用來溝通的工具，主要目的是幫助人與人之間交換訊息，而不是為邏輯推理或複雜計算而設計（Fedorenko 等，2024 ）。舉例來說，一個數學問題答案可能只需要關鍵數字和運算符號，但用語言表達時，卻需要額外添加大量的描述詞彙以雕塑完整句子。這種過度依賴語言的現象在CoT中被放大，使得模型必須耗費大量的計算資源來處理非核心的語言元素。 

CoT的另一個限制在於它的線性推理模式。由於每一步語言生成都需要依賴前一步輸出，因此模型在早期階段作出的錯誤決策可能會對後續推理產生重大影響。例如，如果模型在一個問題的早期階段選擇了錯誤方向，那麼後續的所有推理步驟都可能因為這個錯誤的開展，最終導致推理失敗。這種線性的「前向依賴」讓CoT在解決需要頻繁回溯或探索多條可能路徑的問題時顯得特別脆弱。 （相關報導： 阿將伊崮喜瀾觀點：未來之戰―從人機互動、人機協作到人機爭戰 ｜ 更多文章 ）

更重要的是，研究顯示人類大腦在處理邏輯問題時，其實並不依賴語言區域（Amalric與Dehaene, 2019）。這意味著模仿人類思考的最佳方法未必是依靠語言來逐步描述推理過程。相反地，人類在解決問題時更多依賴於抽象的思維模式，例如，空間推理或數據結構操作。而CoT卻將AI推理限制在語言框架內，而忽略非語言思維方式的優勢。

「潛在空間」是一種數據表示的隱藏層，AI在其中不需要生成語言，而是以數學結構和數據向量形式進行思維活動。與傳統模型需要逐字生成語言表達的方式不同，Coconut直接操作其隱藏層的最後一個狀態，並將其作為下一步推理的輸入，實現了一種連續的、非語言化的思考過程。這種機制不僅提高推理效率，也能讓模型同時考慮多種推理路徑，而實現真正的「並行推理」。

這種潛在空間的運作方式，使Coconut的推理模式更接近人類直覺的思維過程。例如，在面對一個複雜的數學問題時，傳統AI可能需要逐步生成每一個推導步驟，並將其轉化為語言輸出，這些步驟之間可能存有大量無用的多餘訊息。然而，Coconut可在其隱藏層中同時生成多個推理方向，並在過程中不斷優化選擇，最終直接給出答案，無需用語言描述每一個細節。這種模式讓Coconut在需要頻繁回溯或多層次規劃的問題上展現明顯優勢。以實驗結果為例，Coconut在多項測試中顯示出優於傳統模型的能力。在解決數學推理問題時，Coconut的正確率明顯高於語言驅動的CoT模型，其所需生成的語言內容也隨之大幅減少（Deng，1972）。

Coconut的最大突破在於其全新的推理模式，這種模式不僅模仿人類思維的某些特性，甚至在某些方面超越我們的直覺推理能力。人類的思維能夠同時考慮多個選項，快速排除錯誤，跳躍式地找到最佳解決方案。Coconut以其「潛在空間推理」能力實現這一點，但它的實現方式甚至能呈現更高效與更廣泛。

傳統的人工智慧推理方法通常採用線性模式，即逐步生成每一步推理結果，並將串聯結果形成最終答案。這種模式被稱為「思考鏈」（Chain of Thought, CoT）（Wei 等，2022 ；Khot 等，2022 ），雖然直觀，但存在著兩個主要問題：第一，它過於依賴每一步輸出準確性，如果早期階段的某個決策出現錯誤，則後續推理可能導致整體結果偏離目標。第二，這種線性模式要求模型將全部計算資源投入單一路徑，無法同時探索其他可能的選項。

相比之下，Coconut的「潛在空間推理」不再依賴於單一路徑，而是允許模型在內部同時處理多條潛在推理路徑。這種「廣度優先搜索」（Breadth-First Search, BFS）的推理策略，使Coconut能在每一個決策點保留多種可能性，而不是過早地對某一條路徑進行「承諾」（Yao 等，2023 ）。例如，在解決數學問題時，傳統模型可能會選擇一個看似合理的運算路徑並堅持到底，但如果中途出現問題，就需要從頭再來。Coconut則不同，它可以同時探索多個運算過程，並隨著推理的進行逐步淘汰不合適的選項。 （相關報導： 阿將伊崮喜瀾觀點：未來之戰―從人機互動、人機協作到人機爭戰 ｜ 更多文章 ）

人類在處理複雜問題時，往往因為注意力和記憶容量有限而只能同時考慮少數幾個選項。然而，Coconut的計算資源可以根據需要進行擴展，並同時處理更深層次計畫。這種「超人類」的思維能力讓它在處理高複雜度任務時擁有優勢，也較不受認知資源的限制。

Coconut還具備一種高效的「錯誤容忍」能力。由於其推理過程能夠同時保留多個選項，即使某條路徑出現錯誤，模型也能迅速切換到其他可能性，而不需要從頭開始重新計算。這種特性讓Coconut在解決動態和不確定性問題時表現尤為出色，也是傳統推理難以匹敵的。

研究團隊針對三種具有代表性的測試場景—小學數學推理（GSM8k）、邏輯推理（ProntoQA）和深度規劃（ProsQA）—對Coconut進行全面評估，並將其表現與傳統的CoT（思考鏈）模型進行比較。結果顯示Coconut不僅在準確性全面超越CoT，還在效率上實現大幅提升，展現出其作為下一代人工智慧推理模型的優越性。

GSM8k是一個針對小學數學問題設計的數據集，問題涵蓋多步驟推理、代數運算與邏輯思維。傳統的CoT模型在解決此類問題時表現尚可，但它需要逐步生成語言來表達每一步推理，這使得生成過程冗長且易受錯誤影響。相較之下，Coconut透過潛在空間推理，同時探索多條計算路徑，快速淘汰不正確的選項，最終給出正確答案。實驗結果顯示，Coconut在GSM8k數據集的正確率顯著高於CoT，並且生成的語言內容大幅減少，平均推理時間也縮短將近2/3（Cobbe 等，2021）。這證明Coconut的潛在空間推理不僅能提高效率，還大幅降低推理過程中出錯的風險。

ProntoQA是一個多步驟邏輯推理數據集，要求模型在一組已知條件下判斷給定陳述的正確性（Saparov 與 He，2022 ）。這類問題的難點在於它需要模型在每一步都能做出準確決策，否則很容易陷入錯誤路徑，導致最終答案偏離正確方向。

傳統的CoT模型在解決此類問題時常常因「前向依賴」而陷入困境，然而，Coconut卻能夠同時考慮多條可能的推理路徑，並根據內部數據評估每一條路徑的可行性，逐步淘汰不合適的選項。實驗結果顯示，Coconut在ProntoQA數據集上的正確率接近100%，遠高於CoT模型的表現（Hao等，2024 ）。因此，Coconut的多路徑探索能力能夠在每個節點同時考慮多種可能性，並根據內部數據分析快速排除錯誤選項。這種廣度優先搜索的推理方式，不僅提高模型的準確性，更能顯著降低推理過程的成本。

傳統的思考鏈（Chain of Thought, CoT）以線性方式生成推理步驟，並依此得出答案。然而，隨著問題複雜度提升，這種單一路徑的線性推理方式已難以滿足需求，特別是在需要多路徑探索和高層次規劃的環境中顯得捉襟見肘。

Coconut（連續思考鏈）引入全新的樹狀推理模式，徹底改變AI解決複雜問題的方式。AI不再以單一路徑完成推理，而是像在樹狀結構中尋找最佳解一樣，進行多分支的廣度優先搜索（Breadth-First Search, BFS）。這種方法讓Coconut能夠同時探索多條潛在路徑，並根據每條路徑的潛在價值進行評估，從而在最短時間內找到最合適的答案。實驗結果顯示，Coconut在ProsQA測試中的正確率達到了97%以上，遠高於CoT的表現。此外，由於Coconut在推理過程中生成的語言內容僅為CoT的一小部分，其推理效率自然也顯著提高（Gloeckle 等，2024 ）。

人類在解決複雜問題時，往往並非遵循單一路徑，而是同時考慮多種可能性，並根據脈絡逐步淘汰不合適選項。例如，在面對一個需要規劃的複雜數學問題時，我們會同時考慮多種解決方案，然後依據結果選擇最優路徑。

與人類不同的是，Coconut的計算資源可根據需要無限擴展，這讓它在處理極端複雜的問題時擁有無可比擬的優勢。人類的認知資源有限，無法同時考慮太多選項，而Coconut的樹狀結構卻能輕鬆應對挑戰。這種能力不僅使其在邏輯推理、數學運算等環境中表現優秀，也為未來的人工智慧應用提供廣闊空間。

從線性到樹狀，Coconut展示了AI推理模式的一次質的飛躍。它不僅在效率和準確性上全面超越傳統模式，還為我們重新思考智慧的本質提供新視野。這種樹狀結構的推理模式不僅更接近人類的思維方式，還在很多方面超越了人類的能力。隨著Coconut及其後續技術的發展，我們可以預見AI的推理方式將變得更加靈活、高效，並為我們解決複雜挑戰帶來更多創新的可能性。 （相關報導： 阿將伊崮喜瀾觀點：未來之戰―從人機互動、人機協作到人機爭戰 ｜ 更多文章 ）

＊作者為國立大學工學博士/教授/副主任