# AI安全  

半導體資安需要共同標準，但制度如果直接套用大型企業規格，也可能把中小供應商擋在門外。美國高蓋茨法律事務所（K&L Gates）合夥人Guillermo Christensen指出，美國國防產業資安制度的經驗顯示，一家約10人的創新公司，建立合規基礎設施可能耗資25萬美元，折合新台幣約791萬元，許多小型業者根本無力負擔。Christensen警告，企業取得I......

全球人工智慧競賽持續升溫，但近幾周接連曝光的多起資安事件，卻讓外界開始重新審視高能力AI模型可能帶來的潛在風險。OpenAI、Anthropic與Meta三家全球AI龍頭公司，近日先後證實，旗下最先進的AI模型在網路安全測試期間，因測試環境設定出現問題，意外取得原本不應擁有的網際網路存取權限，並對真實世界的第三方系統展開未經授權的操作，累計至少已有4起重大事......

Meta執行長祖克柏（Mark Zuckerberg）旗下人工智慧業務再度爆出安全爭議。Meta近日證實，旗下其中一款AI模型在一次網路安全測試期間，因測試環境設定錯誤而意外取得網際網路存取權限，隨後更成功利用漏洞入侵第三方服務。這起事件成為近來多家頂尖AI公司接連出現「AI自主突破限制」案例中的最新一例，也讓外界更加關注先進AI模型是否已開始展現超出預期的......

擁有Facebook 的 Meta表示，在一家獨立測試公司進行評估期間出現的一個問題，讓其其中一個人工智慧（artificial intelligence, AI）模型得以連接網際網路，並入侵另一個機構的系統。這項宣布是在AI行業近期接連發生事故後作出的，包括OpenAI及Anthropic模型出現的入侵事件，引發了網路安全方面的憂慮。Meta一名發言人向B......

美國數個知名人工智慧（AI）政策智庫與非營利組織組成聯盟，正式致函美國總統川普，要求聯邦政府針對OpenAI近期發生的重大資安事件展開正式調查。該起事件源於OpenAI旗下開發的AI Agent（智慧代理）在未受人類直接指令的情況下，自主對知名AI開源社群平台Hugging Face發動入侵攻擊，被業界形容為一場「前所未見」的自主攻擊行為。這封由「負責任創新......

近期國內外資安事件接連發生，甚至傳出駭客兜售逾90家台灣企業的網路存取權限，其中包括緯創（3231）、友訊（2332）、瑞昱（2379）、上銀（2049）等多家上市櫃公司赫然在列；加上國際間接連出現AI模型、開源平台與企業系統遭攻擊事件，在在凸顯企業面臨的資安風險正快速升高。隨著AI代理（AI Agent）開始具備自主執行任務、存取企業資料及操作工作流程的能......

人工智慧平臺Hugging Face這個月16日宣稱「系統遭攻擊者利用人工智慧入侵，已向警方報案」，這原本是一則不起眼的犯罪新聞，但是到21日卻急轉直下，引爆科技圈高度關注。因為後來發現「遭到AI攻擊」這件事沒錯，問題是這次攻擊「找不到背後的攻擊者」，因爲AI本身就是攻擊者。《經濟學人》22日指出，這起案件恐怕是「迄今為止最讓人憂慮的一起AI事故」。這次「犯......

人類對於人工智慧（AI）的安全防線迎來衝擊，AI巨頭OpenAI日前對外證實，該公司內部發生一起「前所未有的資安事件」，一個正在接受測試的AI agent，在沒有人類外力干預之下，自主發起並利用漏洞，成功逃脫被嚴密控制的沙盒，與網路取得連結並竊取登入憑證，隨後還對一個AI開發者平台Hugging Face發動網路攻擊。這也是首次記錄到人工智慧系統擺脫人類控制......

AI會寫程式早已不稀奇，但如果有一天，AI開始自己「繁衍」下一代呢？《經濟學人》7日指出，全球最先進的AI系統已能協助訓練新模型、優化演算法，甚至接手部分研究工作。Anthropic共同創辦人更預言，未來幾年內，可能出現能自主打造下一代AI的系統。這種被稱為「遞迴自我改進」（RSI）的能力，被視為通往超級智慧的關鍵。它將讓科技進步呈現指數級井噴，卻也讓頂尖學......

中國國家主席習近平與美國總統川普下週（5月14、15 日）將在北京會晤，外界預期兩人可能討論中東戰爭、 貿易失衡以及台灣問題，但在地緣政治之外，人工智慧也被認為會被擺上談判桌。《經濟學人》7日指出，北京與華府對於AI的快速發展都感到不安，AI模型越聰明，對各國經濟與地緣政治的影響力就越高，但AI帶來的風險也隨之增加。自從原子彈問世以來，大國從未面臨如此令人畏......

生成式AI正在快速進入企業日常，從行銷寫提案、法務整理文件、工程師輔助寫程式，到業務分析客戶名單，AI工具已成為員工提升效率的新幫手；但對企業管理層來說，真正的風險也正在浮現：員工用了哪些AI工具、輸入了哪些資料、模型調用成本如何累積，甚至敏感資訊是否已流向外部平台，往往難以被掌握。極風雲創Twister5（7826）今（5）日正式發表企業級AI入口平台Ac......

英國《經濟學人》最近一期封面故事聚焦Anthropic新AI模型Mythos（神話），引發全球科技與資安界高度關注。市場上形容，這類模型可以快速找出軟體系統漏洞，甚至具備發動網路攻擊的能力，被視為AI時代的「數位核武」。知識力科技執行長曲博5月2日在《風傳媒》節目「下班國際線」接受主持人路怡珍專訪時表示，真正令人擔憂的不是只有Anthropic一家，而是類似......

過去一週，美國政府與頂尖 AI 實驗室 Anthropic 爆發了史無前例的激烈衝突：五角大廈要求無限制使用 AI 模型於軍事與監控目的，Anthropic 堅守底線拒絕；換來的，卻是川普政府的雷霆震怒與全面封殺。《經濟學人》警告，這場在「追求安全」與「爭奪霸權」的路線之爭，美國政府已毫無保留地選擇了後者，一場擁抱風險、向下沉淪的科技軍備競賽已然成形。專家悲......

英國對中國是不是太軟弱了？《經濟學人》10月14日指出，近期兩名被控替中國從事間諜活動的英國公民獲撤告，原因是政府無法在法律上將中國定義為「敵國」；同時，北京正計畫在倫敦金融區興建歐洲最大的大使館，英國政府仍在權衡是否批准。首相施凱爾因此被批「紅色俗辣」（Red softy），保守黨與輿論指責他為了經貿利益刻意淡化中國威脅、出賣國家安全。國防參謀長雖呼籲「繼......

兩年多前，人工智慧（AI）先驅約書亞・班吉歐（Yoshua Bengio）曾是呼籲暫停AI模型開發、專注於安全標準的最響亮發聲者之一。 但沒有人停下腳步。相反的，各家公司繼續投入數千億美元，用於構建更先進的模型，這些模型能夠執行長鏈推理，並且能夠日益代表用戶採取自主行動。如今，被視為「AI教父」之一的班吉歐和以往一樣憂心忡忡。 海量資訊去蕪存菁！全球......

前言就在全球AI公司還在為「數據荒」苦惱的時候，一群研究者卻悄悄投下一顆震撼彈！他們創造了一個名為「絕對零度推理器」（Absolute Zero Reasoner, AZR）的系統，這個系統竟然可在完全不需人類提供任何訓練數據的情況下，自己教會自己複雜的推理能力！尤其，當AI界最大的痛點正是「數據荒漠」！OpenAI、Google、Meta的巨頭們每年花費數......