生成式AI逐漸普及,但它們可能已經中毒!駭客手法揭密:只要花2000元就能汙染AI

2024-05-09 12:00
駭客能竄改網路上的資料,讓AI「中毒」。(圖/Pixabay;作者/ Sinousxl)
駭客能竄改網路上的資料,讓AI「中毒」。(圖/Pixabay;作者/ Sinousxl)

具體來說,Zhao的研究團隊為內容創作者開發名為Nightshade的軟體,預防創作者的圖像被生成式AI使用,因為不是每位創作者都希望自己的作品被用於訓練AI。Nightshade透過人眼看不到,但是會誤導AI的方式更改圖像,例如AI開發者蒐集手提包的圖片,但是Nightshade將其改成烤麵包機的圖片,藉此來保護創作者的作品。Zhao表示,這能防止作品被生成式AI開發者侵權。

好消息是,目前AI中毒的狀況還不普遍。只不過目前生成式AI主要透過公開網路的數據訓練,但如果未來愈來愈多企業用自己的資料庫訓練AI模型,就會吸引更多駭客下毒,因為有利可圖。因此專家建議,應透過立法來確保資料安全。

加州大學柏克萊分校Haas商學院講師David Harris表示,歐盟最近的《人工智慧法案》(AI Act)就是為數不多的AI相關法案。該法明確指出數據中毒問題,將其列為網路攻擊的一種形式,要求AI工具的開發者實施安全控制,以確立與風險相應的網路安全水準。隨著AI普及,法規將是防範AI中毒的重要防線。 (相關報導: AI當紅,電力需求龐大!《經濟學人》:科技巨擘爭相尋求新能源來源 | 更多文章 )

本文為風傳媒特邀導讀人金牛幫幫忙撰寫,請點此訂閱:風傳媒・華爾街日報VVIP,風傳媒會員獨享全球最低優惠價,暢讀中英日文全版本之華爾街日報,洞悉國際政經最前沿。

責任編輯/郭家宏

喜歡這篇文章嗎?請作者喝杯咖啡支持他

請他喝杯咖啡
今日精選
更多文章
勞保多1動作「比別人多領34萬」!專家教1招領到天花板,老後沒工作退休金拿更多
報扶養恐遭罰!千萬年薪富婆,為節稅扶養姪子,慘被國稅局開罰10萬
微軟才宣告資遣1900人…3個月後「解散4間工作室」爆大規模裁員!1年就有1/3員工失業
美中科技新戰場!美商務部長證實:考慮限制中國車輛進口,可能採取「極端行動」
曝中國鎖定我2邦交國滲透 吳釗燮:長期是隱憂、短期不會生變
520前一天解除口罩令 薛瑞元曝原因:新總統上任前ending是不錯選擇
台灣知名餐廳突宣布停業!2品牌都要收掉 最後營業時間曝光
「香港國歌」被禁!內容「構成國家安全風險」,香港高院發布《願榮光歸香港》禁制令
台北天空塔爆案外案 中資華泰接管台中7期豪宅建案
這道「安太座料理」網路瘋傳 藝人孟皓私房料理大公開!
媽媽說這個好! 就業中心攜手銀髮據點合辦友善職缺徵才
畢業季Are you ready? 北分署YS職涯導師初入職場5門課正式開講
桃分署輔導創業好「咖」 打造體驗工廠再創事業新紀元
全球前12大「美國債主」台灣入榜!我國持有美債8.3兆 影響、背後原因一次看
展現臺灣風土!賴清德國宴伴手禮選用「鹽中魚子醬」臺南頂級「鹽花」
LINE貼圖新功能「貼圖拼貼樂」怎麼用?為什麼還不能用?4步驟教學,超過800組隨你合併
華爾街日報》中國為何遲未推出重大經濟刺激政策?為川普上台後的「貿易戰2.0」保留火力
議員質疑魚果市場涉圖利 柯文哲指預算都經審查:當年是白癡現在突然搞清楚?
試用期法制化恐重返22K?藍委控政院高官認知作戰:公文跟施行細則都沒看
Toyz確定坐牢…直播開天窗瘋傳「要跑路」!他現身喊「我也不想離開」下秒放閃篠崎泫:怕她崩潰
大賣空主角之一:蘋果將成第二波AI浪潮大贏家
519暖身!民眾黨赴監院痛批綠執政跳票 柯文哲:8年穿了皮鞋,人民還是穿草鞋
極東正露丸、小林紅麴問題連爆 謝金河示警:「日本製造」招牌恐瓦解
檢舉魔人1年檢舉1.5萬件違規!還有社團專業教學 這項違規他們最愛
夏日涼爽購衣「只走花路」 Hang Ten推出冰沙衣
2024國際蔬食文化節5/10台北世貿開跑
弟弟派不爭了?張國政大賣長榮航持股 跌出前10大股東
UNIQLO母親節特價來了!外套大砍2000元、T恤只要290元,上百件優惠商品一次看
高息ETF再添2新兵!00946、00944今掛牌力守發行價
全年最便宜時段!UNIQLO這2個月買超划算,瘋狂下殺66折
水原一平連牙醫費194萬也騙!冒充大谷翔平24次「挪用5.5億元」 他認罪「最高恐判33年」
台中人等了14年!國1銜接台74線5/13下午五時通車,部分路段將封閉
人物》中國最害怕的男人!周旋於中日台外交圈 日前大使垂秀夫獲勳大有來頭
習近平藉出訪離間歐美,他成功了嗎?巴黎政治學院榮退教授白夏:還要看這場選舉
廣島極致蒸餾工藝 純淨之白與華美香氣共舞 櫻尾無垢之華工藝琴酒全新登場
中國車企造車,就跟吃自助餐一樣!小米雷軍的一段話,點出中國車業的內捲危機
​國小緊急停課!腸病毒釀552個班級放假,傳染途徑、症狀一次看
美國政府認證「護國神山」!商務部長雷蒙多:中國若掌控台積電,對美國經濟將造成「毀滅性衝擊」
中共犯台》美官員警告:若中國侵犯台灣「掌控台積電」,美國經濟屆時也會很慘!
氣象預報》母親節天氣出爐!恐有颱風生成,未來一周天氣曝光
陳水扁4大案纏身能特赦?邱毅曝1關鍵:現在還算清閒,談特赦反而更虧
2024母親節禮物推薦》PTT、Dcard媽媽最想要8大禮物排行曝光,第一款超實用每天都用的到
領退休金也要繳稅!他選錯請領方式「被多課21萬所得稅」,一文看怎麼領最划算
塞爾維亞與中國簽署歷史性協議:建設新時代「命運共同體」,提升全面戰略夥伴關係
桃園市立圖書館總館增設客家專區 張善政:逐步深化客家文化保存
氣候報告示警極端氣候 未來台灣可能每年僅1至2個颱風 挾帶風雨卻更強
國小校外教學疑似食品中毒案 中市食安處說稽查採檢令業者停餐
桃市獲「污水下水道建設」考核優等 張善政:持續提升用戶接管普及率
桃園頻繁停電!張善政:客觀事實,盼成立小組與台電找解方
校園求職防騙宣導活動開跑 張麗善提醒求職堅持「三備七不」原則