美國參議院提出《人工智慧安全法案》 透過「AI警察」防堵資安威脅

2024-05-03 10:32
美國參議院提出《人工智慧安全法案》透過「AI警察」防堵資安威脅。(圖/壹哥的科技生活提供)
美國參議院提出《人工智慧安全法案》透過「AI警察」防堵資安威脅。(圖/壹哥的科技生活提供)

歐盟於2024年3月13日正式通過世界首部規範人工智慧的《人工智慧法案》(Artificial Intelligence Act》,除了最初的保障著作權之外,該項法案範圍涵蓋所有人工智慧類型的應用範疇,更要求廠商訓練 AI 的過程中揭露所有訓練資料與引用來源。而在這之後,美國地區也開始有了動作,由參議員馬克華納(D-VA)和湯姆蒂利斯(Thom Tillis)提出的《人工智慧安全法案》(Secure Artificial Intelligence Act),旨在透過強制創建記錄所有人工智慧系統違規行為的資料庫,以追蹤可能引發的資安問題。

無疑的下一世代絕對是 AI 橫行的世代,不論是機器學習也好、AI 也罷,不得不說如今的 AI 訓練模型已經隨著智慧型行動裝置、筆電、伺服器等裝置應用的普及而加速成長到一般工程師無法估算的階段。相對於歐盟為《人工智慧法案》所成立的「歐盟人工智慧委員會」,針對利用人工智慧可能影響人類潛意識、導致人類身心受到傷害,或甚至影響科技執法判斷,甚至使用人工智慧進行「社會評分」並造成對某些人或團體不公平的對待進行嚴格禁止。該項法案更針對 AI 醫療做出規範,凡是會影響到人體健康、安全或基本權利的 AI,都會受到歐盟醫療相關法規所規範。

至於由參議員馬克華納(D-VA)和湯姆蒂利斯(Thom Tillis)提出的《人工智慧安全法案》則建議在美國國安局局建立「人工智慧安全中心」。該中心將主導該法案所稱的「反人工智慧」的研究,也就是學習如何反制人工智慧系統的技術,有點像是人工智慧安全警察的概念。該法案還要求美國國家標準與技術研究院(NIST)以及網路安全和基礎設施安全局創建一個人工智慧違規資料庫,包括AI 未遂事件以訓練這些「AI 警察」。

根據外媒報導,人工智慧安全是拜登政府人工智慧行政命令中的關鍵項目之一,目前這個項目大致可分「資料中毒」、「逃避攻擊」、「基於隱私的攻擊」和「濫用攻擊」等四個類別,包括指示 NIST 制定「紅隊」指導方針,所謂的「紅隊」是指開發人員故意嘗試讓人工智慧模型回應他們不應該回應的提示,並且要求人工智慧開發人員提交安全報告。至於逃避攻擊則會改變人工智慧模型研究的數據,導致模型變得混亂。

而資料中毒是指將程式碼插入人工智慧模型抓取的資料中,從而破壞模型輸出的方法,它有點類似歐盟針對著作權保護的回應,用意在防止 AI 在網路上肆意複製藝術作品的行為,畢竟某些國家對於著作權的保護私底下並不是那麼重視。

理想情況下,強大的人工智慧模型的開發人員會測試平台的安全性,並讓它們在對外公開之前進行深度的紅隊測試。 (相關報導: 2024親子易付卡整理!哪家電信最便宜?只用LINE通話該選哪一型?完整比較一文看懂 更多文章

這項《安全人工智慧法案》目前還在審議階段,還未正式上線。

更多文章
女生必看!約會對象「小弟弟強不強」靠1招就知道 罹糖尿病機率也能測
AI失業潮正式來臨!5430人慘遭人工智慧取代,5產業大規模裁員
台北某國小教練爆「掃把體罰」!9學生臀部「大片紅腫瘀青」 母怒報警:要打到出人命才檢討?
毒雞、毒雞蛋流入傳統市場!美廉社也中鏢,16件農藥、殺蟲劑超標賣場菜攤曝光
巴菲特自己是選股大師,他為何推薦投資低費用的標普500ETF?
沐浴乳快用完不能加水!衛生局曝嚴重後果 正確使用方式曝光
陳年老股湧現井噴行情?出口優、首季GDP破6 謝金河揭改變台灣最大的力量
貴婦奈奈男友父母返台!黃立雄躲6年「50萬元交保」、妻獲無保請回 律師駁「為了健保」:是自願回來的
女婿淪「詐團車手頭子」遭逮!余天火速切割曝他「詭異1舉動」:余苑綺過去常生氣
2024年五月12星座運勢》巨蟹、天秤、雙魚運氣超好,水瓶事業順利...財運、事業、愛情一次看
護國神山薪資又漲了!台積電「新人起薪3等級」最高破6萬 一般人連分紅都賺不到
百貨公司女裝專櫃幾乎沒客人,為何都不會倒?內行揭爆賺內幕:租金超高仍屹立不搖
記得刷存摺,政府發錢了!符合條件「可領2.6萬元」,一鍵上網快速登記
哪些國家囚禁最多作家?中國排行第一,伊朗、沙烏地、越南、以色列緊追其後
台25歲女澳洲失蹤「找到了」!機場「及時攔截」她險被騙去東南亞 2週內已有3華裔女突斷聯…
貴婦奈奈公婆清晨返台!捲款10億逃加拿大6年「回台原因曝」,一到機場就被上銬
北部房價漲翻天,哪裡有平價新建案?台北有7字頭價,新北甚至有3字頭建案
家中果蠅不斷冒出怎麼辦?內行人放「1便宜好物」一夜株連九族:用掉好多罐了
柯文哲京華城等大案纏身 蔡正元推敲「判決結果」:被告越多次越接近總統
他賣房做錯一件事「土增稅暴增2倍」!專家教1招解決,不怕大筆稅金找上門
氣象預報》周末高溫飆30度!這1天起降溫炸雨,未來一周天氣揭曉
曝滲透法確實有必要修改 郭正亮喊話綠營停止造謠:無助兩岸交流
IKEA效應是什麼?飛利浦竟不是台灣品牌?2024年超奇葩統測題目曝光
2024旅遊補助加碼!符合條件「直接爽領1000元」,補貼金額、上路時間一次看
翁章梁赴美積極串聯產官學 打造與世界同步無人機國家隊
本周最強內幕》賴清德上海行「百無禁忌」,中共官員超悲劇!不只大姑涉詐案,徐巧芯早被大白鯊盯上 
柯文哲不爽黃國昌?陳智菡曝民進黨大老「打來做這件事」:要讓他少講話
00878、00919、00940...高股息ETF五月大換股!專家分析有2大黑馬:可攻可守、避免過度投機
幕後》水很深!原鎖定行政院長級人物 檢調查BNT疫苗案踢出醫藥界黑幕
記得去刷存摺!勞動部3筆錢陸續發放「9.8萬入帳」,忘記申請直接充公國庫
國營事業唯一!台電推動「生態電廠」 獲ESG企業永續獎肯定
中國「擠壓式出手」試探綠營 郭正亮籲賴清德藉旅遊穩定兩岸關係
風評:貧富差距拉大不意外,政策錯誤不可取
劉國基觀點:超越統獨框架、勇敢想像那不敢想像的—520之前給務實的台獨工作者建言之二
金彥斌觀點:賴政府的選擇—積極與陸對話 vs. 人民付出代價
汪志雄觀點:教改失敗,詐騙橫行,李遠哲難辭其咎
全台灣第一支夜間高畫質即時影像 「機場即時影像」 讓世界看見桃園
陳國祥觀點:柯文哲帶民眾黨走向末路?
詹威克觀點:兩岸春不暖花不開與「抗中三長」
夏珍專欄:吳釗燮八嗆徐巧芯,自請藐視國會罪
桃市重視大龍門旅宿量能 舉辦113年首場民宿申設說明會
觀點投書: 從陳長文、胡為真的將軍老爸,談「榮耀黃埔」與「無負黃埔」
觀點投書:民進黨為何反對電價凍漲?
趙心屏專文:王子豪–感謝宇宙! 是設計選擇了我
觀點投書:從「碳洩漏風險」的產業現實,看碳定價政策的利弊權衡
王建煊觀點:我字少了一撇,是「找」字!找甚麼呀!
高市青年局「職對你有港覺」系列活動又來了! 首場無人機科技應用職場體驗5/9登場
觀點投書:如果真的廢死,我們的矯正機關準備好了嗎
到彩虹橋看水舞表演!每晚5場聲光饗宴 跟著「2024台北水舞嘉年華」點亮台北夜空