「拿我們的生命賭博」？微軟總裁也表態：確保AI處於「人類控制」之下

微軟執行長薩提亞．納德拉（Satya Nadella）於美東時間9月13日透過社群平台X發文指出，追求超級智慧（superintelligence）──即能夠在幾乎所有認知任務上超越人類的人工智慧技術──必須以「幫助人類」為核心原則，並確保始終處於「人類控制」之下。他強調，若所建構的人工智慧無法造福人類且不受人類掌控，這樣的追求便不值得進行。

納德拉在貼文中呼籲加速並廣泛擴散人工智慧的效益，使其能普及至各國、各社區與各企業。他提出建立「前沿生態系」（frontier ecosystem）的構想，讓封閉來源與開源人工智慧模型都能在各國、社區與企業間蓬勃發展。他表示：「任何對超級智慧的追求，都必須奠基於核心原則：如果我們打造的人工智慧無法幫助人類且不受人類控制，就不值得追求。我們也需要加速並擴散人工智慧的效益，使其廣泛分布於各國、社區與公司。這需要一個前沿生態系，讓封閉與開源模型都能茁壯成長。」

針對企業層面，納德拉特別強調組織應能運用自身資料建構人工智慧系統，而非依賴單一模型供應商。他指出，企業必須保有對其獨特且隱性知識的完整控制權。「對企業而言，保有對自身獨特且隱性知識的完全控制至關重要。每個組織都應該能夠建立自己的持續學習迴路或登山機器，而不依賴任何單一模型供應商，並有能力將自身知識嵌入自己控制的模型與權重之中。」

在人工智慧發展步調上，納德拉主張採取審慎態度。他表示微軟支持「嵌入式評估器」（embedded evaluators）等概念，並歡迎相關研究與刻意放緩的步調，以確保對齊（alignment）能成為真正的設計目標。他說：「在此脈絡下，我們歡迎為了正確達成對齊目標所需的研究、關注與審慎步調。我們也歡迎『嵌入式評估器』這類構想，以及更廣泛發展機制的努力，讓這些討論不只停留在口頭。」

納德拉同時強調，先進人工智慧的發展不應由少數實體掌控，而必須具備生態系、各國與各領域（包括學術界）的廣泛代表性。「關鍵在於這不能由少數實體控制，而必須在生態系、各國與各領域（包括學術界）中擁有廣泛代表性。」他進一步說明微軟自身的作法：「這正是我們採取的途徑：在人工智慧堆疊的每一層提供廣泛存取與選擇；讓企業控制學習迴路與模型；以及我們將於明日公開徵詢的第一方MAI模型所依據的『行為準則』。」

納德拉的這番言論，正值外界對人工智慧快速發展及其潛在風險的辯論日益升溫之際。Anthropic執行長達里奧．阿莫代（Dario Amodei）日前接受CBS新聞訪問時坦言：「我不會對你說謊──確實存在真正的危險。我認為這個產業太久以來都在對人們隱瞞這項技術存在風險的事實。」

此外，前Anthropic研究員雅各．考克森（Jacob Coxon）上周也在社群媒體上警告，Anthropic與OpenAI正在「拿我們的生命賭博」，因為它們追求能自我改進的超級智慧，並表示人工智慧在「未來十年內」有超過10%的機率「殺死所有人類」。

責任編輯：許詠翔

更多風傳媒獨家新聞：

‧管制會讓美國輸掉AI競爭？總統、議長都出面喊話

‧因吹哨者示警「10年內可能對人類造成致命威脅」　白宮AI沙皇呼籲暫停這家AI公司IPO
（相關報導： 勇鷹號全交機、ADF卻已成「爛尾樓」　當年為保持國產戰機量能、選擇高價自製高教機划算嗎？ ｜ 更多文章 ）

‧DeepSeek、月之暗面都被點名　美國FBI聯手國安局、網安局指控中國AI「偷竊」　北京再度全盤否認