開發比人類還聰明的人工智慧系統　兩大思想流派陷入角力

盡管一度被解雇的OpenAI聯合創始人阿特曼已「官復原職」，但這起戲劇性事件背後似乎隱含著對科技與人類的擔憂，目前OpenAI有可能已發展出超越人類的「通用人工智慧」。對AI發展應持謹慎或開放態度？開發者意見不一。

就在阿特曼（Sam Altman）被ChatGPT母公司OpenAI解雇前不久，內部人士稱，該公司董事會收到了關於人工智慧領域重大發現的警告。兩位熟悉此事的人士11月22日告訴路透社，該公司開發人員在信中表示，此一發展將可能對人類構成威脅。

對「Q*」的恐懼

這封此前未公開的信是生成式人工智慧代表人物阿特曼遭到解雇前的一個關鍵。內部人士說，這封信是導致阿爾特曼之前被解雇的一長串不當行為其中一項。

原首席技術官、前臨時CEO穆拉蒂（Mira Murati）曾在周三向員工提及名為「Q*」的項目，並表示在上周末的阿特曼解雇事件發生前已向董事會發出了一封信件。

OpenAI在「Q*」項目上取得了進展，一些員工認為這代表著這家初創公司在尋求「通用人工智慧」（AGI，又稱超級智慧）方面取得了突破。 OpenAI將「通用人工智慧」定義為比人類更聰明的人工智慧系統。

迄今為止，生成式人工智慧為人類的工作提供了支持，例如總結冗長的文本。然而，一些專家警告道，這些程序可能會發展成為「通用人工智慧」，在人類不干預的情況下承擔越來越復雜的任務。他們擔心，這些軟件可能會控制國防系統、傳播政治宣傳甚至生產武器。

阿特曼上周於亞太經合組織峰會上曾暗示，他認為「通用人工智慧」指日可待。他當時提到：「在OpenAI的歷史上，我曾四次有幸親臨現場。最近一次是在過去的幾周裡，我們揭開了無知的面紗，推動了發現的極限，這是我一生的職業榮譽。」一天之後，監事會解除了阿特曼的職務。

圍繞阿特曼被解職和重新回到OpenAI的混亂局面，是人工智慧兩大思想流派角力的結果。一派是像阿特曼這樣的人，他們希望推動人工智慧發展，並向大眾公開新版本。只有如此，這項技術才能得到適當的測試和完善。

另一派人則主張在這些程序公開之前，先在實驗室進行徹底測試，特別是那些可以根據幾個關鍵字創建文本、圖像或視頻的生成式人工智慧。

人工智慧公司ConjectureAI 的負責人、謹慎態度的倡導者萊希（Connor Leahy）問道：「這是否只是類似社交媒體或加密貨幣的另一種產品？還是說，這是一種有能力超越人類並變得無法控制的技術？」

曾投票罷免阿特曼、隨後又連署希望阿特曼復職的董事會成員--OpenAI首席科學家蘇茨克弗（Ilya Sutskever）擔心人工智慧變得無法控制，他對阿特曼將人工智慧整合到盡可能多的應用中的策略持批評態度。

蘇茨克弗在今年夏天的一篇博客文章中寫道：「我們沒有辦法管理或控制潛在的超級智慧。人類將無法可靠地監控比我們聰明得多的人工智慧系統。」

顯然，蘇茨克弗對幾周前第一屆OpenAI開發者大會上展示的一些新產品尤其憂心。不過，他並不樂見奧特曼所受到的對待，並且在周一表示：「我對參與董事會的行動感到遺憾。」

阿特曼被認為是人工智慧行業的代言人，他遭解雇引發了員工的公開反抗。本周初，幾乎所有將近700名 OpenAI員工都威脅道，若不讓阿特曼復職，他們就會辭職，同時還要求董事會所有成員辭職。短短幾日後傳來消息，阿特曼將回到這家ChatGPT母公司，重掌CEO大權，董事會也進行了人事洗牌。