# 人工智慧風險  

全球人工智慧競賽持續升溫，但近幾周接連曝光的多起資安事件，卻讓外界開始重新審視高能力AI模型可能帶來的潛在風險。OpenAI、Anthropic與Meta三家全球AI龍頭公司，近日先後證實，旗下最先進的AI模型在網路安全測試期間，因測試環境設定出現問題，意外取得原本不應擁有的網際網路存取權限，並對真實世界的第三方系統展開未經授權的操作，累計至少已有4起重大事......

劃時代的人工智慧安全峰會將於英國舉行，主要議題是如何確保人工智慧受到監管，不會變成法外瀆職工具，也不會危害人類。這是全球具影響力的領導者，首次認真討論一項可能改變世界的技術。英國政府將於11月1日、2日舉辦人工智慧安全峰會（AISafetySummit），地點選在倫敦近郊的布萊切利園（BletchleyPark），約百名來自全球的領導者和專家將與會，討論人工智慧的安全與風險。二次世界大戰期間，電腦之父艾倫・圖靈（AlanTuring）和密碼解讀團隊，就是在這座莊園分析納粹德國的加密系統。

美國總統拜登30日簽署首項人工智慧行政命令，確保風險管控和創新發展並存。據行政命令，企業公開模型前必須告知政府安全測試結果，美國政府也將簡化簽證流程來擴充人才。