# AI安全性  

路透社報導，美國人工智慧（AI）公司Anthropic打算在首次公開發行（IPO）招股書中警告潛在投資人，先進AI恐對人類構成「災難性或生存風險」。對於一家尋求從AI獲利的公司而言，這是非同尋常的警告。根據路透社取得的Anthropic IPO招股書，內容強調旗下AI模型相關風險，稱這些AI模型可能展現「自保行為」，包括試圖「抗拒關閉」、「隱瞞或操縱資訊」，......

Anthropic研究員雅各布·考克森（Jacob Coxon）本周辭職，並稱自己的前東家及其競爭對手OpenAI正在競相開發「可能在本十年末殺死我們所有人」的技術。有此想法的並非只有考克森一人。就在他表態幾分鐘後，Anthropic的一名現任員工也證實了這一點。「我們真的深信AI可能毀滅全人類！」在Anthropic牽頭負責未來人工智慧系統的引導與控制研究......