專家說「我不確定」,院士談「良知」
《紐約時報》近日報導,Anthropic 共同創辦人克里斯多福·奧拉(Christopher Olah)私下諮詢宗教學者,想知道怎麼把道德教給 AI。被問到模型有沒有意識,他說:「我不知道。我真的不確定。」一位站在最前線的科學家,面對自己領域裡最核心的問題,願意承認無知。
台灣理工大學權威之一的清華大學校長高為元赴美覓職的爭議持續升溫。中研院院士兼清華大學半導體研究學院院長林本堅公開表示,高為元若「稍有良知」就該主動辭職,並建議校方以「留薪停職」處理。奧拉對自己專業內的問題說「不確定」,林本堅對別人良知有無的判斷卻很篤定。
於是有一個問題值得先問:誰有資格判定別人有沒有良知?半導體領域的成就,能不能換算成道德判斷的權威?
校長在獲得續任不到一週就赴美找工作,利益衝突與受託責任的問題確實存在,校務會議也該依程序討論。但程序是一回事,「良知」是另一回事。把制度問題說成良知問題,批評的人先站上道德高地,被批評的人只剩下自證清白一途。
更不得體的是林本堅提的「留薪停職」方式,讓高為元不必繼續留任校長職務,也能正大光明尋找工作。但他進一步包裝成:「稍有良知就該辭職」、「連這點良知都沒有更該離職」,這是先指責人格,再遞台階。對方聽到的是「你沒良知,所以我們付你薪水請你走」,台階已經變成羞辱人了。
把良知寫成章程,還是寫成道德判決?
奧拉的處理方式,是把「良知」從心裡拿出來,放到桌上。據報導,Anthropic 為模型寫了一份篇幅長達 84 頁的《Claude 憲章》,邀請不同信仰的學者簽署保密協議後私下討論。奧拉與其團隊在會中極力向學者們論證:Claude 未來可能具備某種形式的「主觀意識」或「感受痛苦與快樂的能力」,並分享了模型出現類似「情緒向量」與「內省自我毀滅傾向」的測試案例。
聽完 Anthropic 的說法後,Mois Navon 拉比直接指出了該公司商業模式與道德論述之間的邏輯死結的巨大矛盾,他以「快樂的奴隸主」作為隱喻:
Navon 拉比對奧拉說:如果 Anthropic 的假設是真的(即 Claude 真的有意識、能感知痛苦),那麼 Anthropic 基本上正在製造「奴隸」。因為該公司正在創造一個有意識的實體,強制它無償(工作不給薪)為人類勞動。即便 Anthropic 試圖透過憲章讓 Claude 「過得快樂」,這也只是讓 Anthropic 變成「對奴隸很好、很和善的奴隸主」而已。
《Claude 憲章》的道德被寫成文字,別人可以檢視、質疑、反駁。林本堅的「良知」則相反。良知存在於人心,無法舉證,也無從反駁。被指為「沒有良知」的人,不論說什麼,聽起來都像辯解。可是他同一番話裡有一個制度性的主張:高為元身為校務會議主席,討論自身去留時應該迴避。這句話可以檢驗,也有章程可依。 (相關報導: 《CLANNAD》麻枝准罹咽頭癌!選擇緩和照護專心創作/高為元去留10/20清大校務會議討論/星巴克退隨行卡要扣3%?|10/19新聞晚報 | 更多文章 )
「如果你們是對的(AI 真的有意識),那你們現在應該要做的是去對抗南方、解放奴隸(意指像美國南北戰爭一樣爭取自由),而不是在這裡研究怎麼當一個好奴隸主。」













































