生成式AI逐漸普及，但它們可能已經中毒！駭客手法揭密：只要花2000元就能汙染AI
駭客能竄改網路上的資料，讓AI「中毒」。（圖/Pixabay；作者/ Sinousxl）
自從ChatGPT推出後，AI領域快速發展，以微軟和Google為首的科技巨頭，大力開發各種AI服務，讓AI工具成為大眾生活及職場上的好幫手。問題是，不管是8年前打敗棋王的AlphaGo，還是近年很夯的ChatGPT，它們的本質都是預測模型，藉由海量數據訓練，讓AI做出更準確的決策，或是生成擬真的文本、圖像和影音。如果訓練的數據有問題，AI就會失真。
近期《華爾街日報》發表一篇專文，將「Data Poisoning」（資料中毒）寫入標題，示警錯誤資料對AI領域發展的影響。專家警告，駭客會在網路上刻意流傳錯誤資訊來誤導AI，而接收錯誤資訊的AI則會「中毒」，最後也生成不實資訊給使用者，逐漸誤導大眾認知和商業決策。
資料中毒其實由來已久，任何AI都有資料中毒的隱憂，因為這些機器學習語言模型需要海量數據訓練，只要餵養有問題的資料，模型當然會連帶產生偏差。但專家警告，生成式AI更容易「中毒」。
原因在於，訓練生成式AI需要蒐集大量文本、圖像和數據，這些資料有很高比例來自於公開網路；既然是公開資料，就容易受到有心人士影響，他們只要在資料中混入少量不實資訊，就足以影響AI生成的結果。而且在公開網路中，要挑出錯誤資訊如同大海撈針，難度很高。
透過維基百科等公開網頁，駭客能置入錯誤資料誤導AI
維基百科是駭客最容易「下毒」的途徑之一。維基百科是開放的線上百科全書，允許第三方複製與修改內容，代表有心人士能輕易編寫錯誤資訊，而維基百科又是訓練生成式AI的重要資料來源，自然吸引駭客竄改資料。
但是維基百科不允許營利組織或研究人員直接抓取網站的內容，只能透過維基官方定期提供的網頁快照（snapshot）來獲取資料。蘇黎世聯邦理工學院的電腦科學助理教授Florian Tramèr表示，如果駭客能掌握維基官方發布快照的時間，在那之前編輯文章，將其竄改成假資訊，就會導致錯誤資訊流入AI的訓練數據集中，導致AI模型偏誤。
過期網域是駭客另一個可能的下毒途徑。在一次實驗中，Tramèr的研究團隊購買數以千計的過期網域，並將網頁的部分圖片換成錯誤內容，例如色情圖片，研究這個做法的可行性。Tramèr表示，有心人士只要花大約60美元（約新台幣1,900元）買網頁，就能在裡面注入錯誤的資訊，影響AI訓練。
目前AI中毒還不普遍，但未來可能會有更多駭客下手
不過往好處想，資料下毒其實也有正面用途。芝加哥大學電腦科學教授Ben Y. Zhao表示，部分研究人員正透過資料下毒，協助藝術家和創作者保護作品著作權。華爾街日報稱其為「防禦性下毒」（Defensive Poisoning）。
具體來說，Zhao的研究團隊為內容創作者開發名為Nightshade的軟體，預防創作者的圖像被生成式AI使用，因為不是每位創作者都希望自己的作品被用於訓練AI。Nightshade透過人眼看不到，但是會誤導AI的方式更改圖像，例如AI開發者蒐集手提包的圖片，但是Nightshade將其改成烤麵包機的圖片，藉此來保護創作者的作品。Zhao表示，這能防止作品被生成式AI開發者侵權。
好消息是，目前AI中毒的狀況還不普遍。只不過目前生成式AI主要透過公開網路的數據訓練，但如果未來愈來愈多企業用自己的資料庫訓練AI模型，就會吸引更多駭客下毒，因為有利可圖。因此專家建議，應透過立法來確保資料安全。
加州大學柏克萊分校Haas商學院講師David Harris表示，歐盟最近的《人工智慧法案》（AI Act）就是為數不多的AI相關法案。該法明確指出數據中毒問題，將其列為網路攻擊的一種形式，要求AI工具的開發者實施安全控制，以確立與風險相應的網路安全水準。隨著AI普及，法規將是防範AI中毒的重要防線。
（相關報導：
AI當紅，電力需求龐大！《經濟學人》：科技巨擘爭相尋求新能源來源
｜
更多文章
）
本文為風傳媒特邀導讀人金牛幫幫忙撰寫，請點此訂閱：風傳媒・華爾街日報VVIP，風傳媒會員獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。
更多新聞請搜尋🔍風傳媒
目前贊助金額NT.1.50K
想要一起表達支持這篇文章？
贊助文章
更多文章
報扶養恐遭罰！千萬年薪富婆，為節稅扶養姪子，慘被國稅局開罰10萬苗栗一名年薪千萬的洪姓女子，因在報稅時列報扶養台中的3名姪子，而被國稅局認定不符，須補繳10萬餘元的稅金。洪女後續不服處分，因此8度提起行政訴訟抗稅，花上百萬的律師費。然而結果出爐後，台中高等行政法院法官認為，由於洪女與姪子沒有同居，且姪子父母具有相當的工作能力與財力，而洪女若要跳過扶養程序，則應舉證姪子的父母無扶養能力，因此最後法院判洪女敗訴，全案定讞。
微軟才宣告資遣1900人…3個月後「解散4間工作室」爆大規模裁員！1年就有1/3員工失業微軟又裁員！微軟今（2024）年初才宣佈遊戲部門裁員1900人，沒想到旗下負責電子遊戲製作與發行的子公司Xbox遊戲工作室（XboxGameStudios）近日突然官宣將關閉多家遊戲工作室，包括ArkaneAustin、TangoGameworks等知名公司，雖未透露具體裁員數，但顯見又是一波大規模裁員，消息曝光後頓時引起熱議，而Xbox遊戲工作室總裁給員工的內部信也隨之曝光。
美中科技新戰場！美商務部長證實：考慮限制中國車輛進口，可能採取「極端行動」美國商務部長雷蒙多8日對《路透》表示，拜登政府今年2月針對中國進口汽車啟動國安調查，目前正在消化資料。不過雷蒙多也透露，美國政府有可能對中國汽車採取「極端行動」，禁止中國連網汽車進口美國，或者尋求其他防護欄或保障措施。《路透》指出，拜登雖多次表示他會採取行動防止中國車大量進入美國市場，這是美國調查中國車輛的國安風險後，第一次有跡象顯示中國車可能被禁。
台灣知名餐廳突宣布停業！2品牌都要收掉 最後營業時間曝光由主廚黃偈創立的人氣甜點店「河床甜點」，開業以來就備受甜點愛好者的喜愛，從一開始的小工作室到開店，2022年宣布在台南重新開幕，成了不少人去台南必訪的排隊名店。而主廚黃偈在日前拋下震撼彈，宣布「河床甜點」、烘焙教室「上游實驗室」都將在明年（2025）年2月結束營業，讓大家相當不捨。
台北天空塔爆案外案 中資華泰接管台中7期豪宅建案將成為台北新地標的「台北天空塔TheSkyTaipei」，因前董事長馬廷海將債權質押給中國券商「華泰證券」借款，引發天空塔可能落入中資企業掌控的疑慮。華泰不只染指台北天空塔，今年2月未經經濟部審查下，已掌控台中七期豪宅建案「新朗日匯」，恐違反《兩岸人民關係條例》，涉3年以下有期徒刑，或處以最高新台幣1500萬元罰金。
這道「安太座料理」網路瘋傳 藝人孟皓私房料理大公開！母親節將至以寵妻聞名的孟澔親手做料理獻給太座吸引婆媽羨慕眼光！近日孟澔參加料理品牌《健康廚房舉辦的母親節創意料理競賽》，端出《太座吉祥海陸空珍寶拼盤》在網路上造成網友瘋傳食譜，他表示原本以有趣心態拍攝影片做做創意料理，沒想到意外掀起「演藝圈料理男神還有誰？」的話題討論!
桃分署輔導創業好「咖」 打造體驗工廠再創事業新紀元為協助女性創業發展微型企業、提升競爭力，勞動部推動「微型創業鳳凰貸款」以「負擔輕」、「免擔保」、「有輔導」、「重培訓」、「有配套」等創業服務，提供創業陪伴服務、貸款利息補貼等措施，一圓女性創業夢，新竹「赫曼咖啡烘焙體驗工廠」創辦人彭念譁，運用勞動部創業資源，建構友善就業環境，並成功拓展事業版圖。
展現臺灣風土！賴清德國宴伴手禮選用「鹽中魚子醬」臺南頂級「鹽花」準總統賴清德將於520宣誓就職，國宴首度移師擁有「美食之都」的臺南舉辦，先前國宴菜色開箱就形成網路熱議，臺南市長黃偉哲趁勢邀請府城之聲廣播電台董事長康銀壽與伴手禮廠商，共同舉行國宴伴手禮記者會。其中，首次登上伴手禮品項的臺南北門「成功鹽」引起大家關注，黃偉哲與康銀壽也在台上探討起「臺灣生產的鹽花」，意外讓臺灣已有360年歷史的鹽業文化成為場外花絮。
試用期法制化恐重返22K？藍委控政院高官認知作戰：公文跟施行細則都沒看國民黨立委吳宗憲今（9）日上午偕同黨籍北市議員詹為元召開「抓到了！行政院認知作戰ing」記者會，控訴行政院東部聯合服務中心執行長洪宗楷、候任衛福部次長林靜儀等政院高層，就是近期許多「假訊息」的源頭，帶頭針對近期藍委牛煦庭提出的《勞基法》部分條文修正案進行認知作戰。吳宗憲砲轟，特定政黨正事不幹、心力不用在福國利民，整天只想攻擊對手、亂帶風向。
Toyz確定坐牢…直播開天窗瘋傳「要跑路」！他現身喊「我也不想離開」下秒放閃篠崎泫：怕她崩潰網紅Toyz（劉偉健）涉嫌販賣大麻菸彈一案，在一、二審都被判處4年2個月，並在4月27日被最高法院駁回上訴定讞，確定會在5月入獄服刑，沒想到他昨（8）日突然消失原訂的直播，讓工作人員一度找不到人，意外引起熱議。不過，Toyz後來重新現身直播間，並交代他入獄後的種種，只是對於網路上謠傳他恐「跑路」的消息，他也無奈直呼：「說實在真的要跑了早就跑啦，還要等到現在，是做錯事情沒錯，我不是做錯事情在面對了嗎？」
大賣空主角之一：蘋果將成第二波AI浪潮大贏家電影《大賣空》（BigShort）主角本尊、成功預測2008年金融海嘯的NeubergerBerman資深投資組合經理人SteveEisman認為，蘋果（AppleInc.）將成為第二波AI浪潮的大贏家，因為這項科技將開始轉化為行動應用程式（app）的形式。
519暖身！民眾黨赴監院痛批綠執政跳票 柯文哲：8年穿了皮鞋，人民還是穿草鞋民眾黨將在5月19日準總統賴清德上任前赴民眾黨中央前集會，今（9）日在監察院大門前宣示「打倒新黨國、啟動新台灣，民眾作主草根決心行動」宣言。民眾黨主席柯文哲批評，民進黨執政8年，國會改革、司法改革、媒體改革、憲政改革全跳票，「民進黨永遠不能告訴我們說他還在路上」，在賴清德總上任前，民眾黨就從賴清德競選時答應過的改革項目一樣一樣開始監督，深化改革、深化民主，落實責任政治。
極東正露丸、小林紅麴問題連爆 謝金河示警：「日本製造」招牌恐瓦解寶林茶室事件震撼全台，而國人最愛旅遊的日本，先是「小林製藥」紅麴保健食品現食安問題，近期製藥公司「極東」生產的知名胃腸藥「正露丸」則發生造假事件，引發民眾恐慌。財信傳媒董事長謝金河指出，歷經泡沫經濟30年的日本正從死亡幽谷爬出，但近期一連串的事件為日本產業帶來信賴危機，若不能斷然處置，日本品質保證的形象恐快速瓦解。
檢舉魔人1年檢舉1.5萬件違規！還有社團專業教學 這項違規他們最愛今年6月之後交通檢舉項目限縮，包括臨停等最高罰鍰在新台幣1200元以下的10項目不開放民眾檢舉，也不記點，引發討論。事實上，原先開放民眾檢舉交通違規本意為一起維護道路安全，卻也因此衍伸出許多檢舉亂象，臉書上更出現檢舉違規的專業教學的社團，而去年大家最愛檢舉的案件是違規臨時停車，一年檢舉件數就高達36萬餘件。
夏日涼爽購衣「只走花路」 Hang Ten推出冰沙衣五月的天氣逐漸開始炎熱，喜歡戶外運動的民眾已經開始煩惱怎麼穿才能更涼爽，美國衝浪品牌HangTen此時推出「冰沙衣系列」，光聽名字就可以感受到滿滿的冰涼！ 此ThermoContro機能系列發了非常適合炎夏的清爽粉嫩的色系，由於使用的是涼感尼龍材質，涼感親膚面料如夏天冰沙般透沁涼，依接觸瞬間涼感GB/T35263-2017檢驗報告QMax涼感數值達0.28，接觸涼感係數大於0.15的標準，且防曬等級達國際標準UPF50+高效防曬，除此之外，HangTen,冰沙衣還有五大貼心設計：1.完美遮臉防陽設計；2.腋下透氣網布剪接，易散熱、不悶熱；3.斗篷版型俐落不貼身，更適合外出活動及機車族；4.袖口插指設計防止手背曬傷；最特別的是，後帽馬尾孔的貼心設計，美麗加分！ 因應本月母親節檔期的到來，HangTen也祭出優惠方案，睽違半年中原家樂福店5/15也將重新開幕回歸，歡迎消費者蒞臨！
2024國際蔬食文化節5/10台北世貿開跑全台最大規模蔬食展即將在明天展開！由中華福報生活推廣協會主辦，農業部、環境部、衛福部、台北市政府指導的「2024國際蔬食文化節--蔬福生活」，將於5月10日至13日在台北世界貿易中心展覽一館B區盛大登場，此次匯集海內外近200家廠商、以及400個攤位共襄盛舉，攜手發揚以「讓蔬食注入生命力」精神，體現「環保與心保」永續宗旨。現場將開放大眾免費入場，前150名進場者可獲得超值福袋。 中華福報生活推廣協會從2005年起創辦的國際蔬食文化節，除響應聯合國SDGs觀念，更帶動吃蔬食愛地球的環保風潮，成功打響國際口碑、好評熱烈。此次活動主題多元，共規畫佛光山主題館、佛誕節浴佛區、縣市政府主題館、國際區、蔬食區、養生保健區、宗教文物區、減碳主題區，體育用品區、食農教育區等十大主題區，同打造最友善蔬食環境、讓民眾輕鬆體驗蔬福生活。
全年最便宜時段！UNIQLO這2個月買超划算，瘋狂下殺66折日系服飾品牌UNIQLO，因為簡約又平價，深受許多台灣人喜愛。不過，在台灣買UNIQLO通常比在日本買來的貴，再加上日圓貶值的關係，許多人去日本都會去逛，並且大買特買。先前就有網友詢問，聽聞在台灣買UNIQLO的人是冤大頭，那麼一件衣服到底要多少錢才可以入手？許多人看到他的貼文後回應，台灣UNIQLO的價格已經很合理。如果真的想要省錢可以趁每年兩次的感恩祭去購物。
人物》中國最害怕的男人！周旋於中日台外交圈 日前大使垂秀夫獲勳大有來頭總統蔡英文今（9）日將頒授日本前外務省大臣官房長垂秀夫「大綬景星勳章」，同時，準總統賴清德也將進行接見，這名2度駐台、4度駐中的日本外交官可以大有來頭，他曾被日本媒體封為「中國最恐懼的男人」、「中國當局警戒的人物」，更曾經舌戰被稱為「戰狼小姊姊」的華春瑩，即便生涯都是外交體系出身，並未從事公職，但是他的角色不僅於是日中關係，在日台關係上，更是長期扮演相當重要的角色。
習近平藉出訪離間歐美，他成功了嗎？巴黎政治學院榮退教授白夏：還要看這場選舉法國國家科學研究中心榮休研究主任、巴黎政治學院國際研究中心榮休教授白夏（Jean-PhilippeBéja）表示，習近平訪問歐洲以打破西方陣線。面對特別是經濟方面諸多矛盾，歐盟立場更為強硬。而俄烏戰爭對歐洲攸關生死存亡，歐洲相信中國幫助俄羅斯，這對中歐關係是非常消極的因素。人權方面，愛麗榭宮不公開談，這有違中國「諍友」一詞。白夏教授用中文接受德國之聲採訪。
廣島極致蒸餾工藝 純淨之白與華美香氣共舞 櫻尾無垢之華工藝琴酒全新登場位於日本廣島縣的「株式會社櫻尾釀造蒸餾所」的工藝琴酒品牌——櫻尾琴酒，融合廣島的在地物產用於製酒原料，加上自身精湛的製酒工藝，呈現出平衡的酒體與融入在地特色的文化背景，受到烈酒品酩人士與專業調酒師的喜愛，在各大酒類賽事評比中也屢屢獲獎。去年5月，櫻尾釀造蒸餾所推出慶祝櫻尾琴酒創立五週年的限定紀念酒——櫻尾WhiteHerb五週年紀念琴酒，亦獲得廣大迴響。WhiteHerb琴酒在經過一年的配方調整後，今年櫻尾釀造蒸餾所推出升級版WhiteHerb琴酒，正式命名「櫻尾無垢之華工藝琴酒」在市場亮相。
國小緊急停課！腸病毒釀552個班級放假，傳染途徑、症狀一次看依疾管署報導，國內上周腸病毒門、急診就診人次突破1萬6千人次，比前一周多出13.4%，創下10年來同期新高。全台上周有167個小學、幼兒園班級停課，預估在6月初將到達最高峰。疾管署點名新北、桃園、台中、雲林、高雄、屏東共6縣市、8個鄉鎮市區被列為高風險區域。
陳水扁4大案纏身能特赦？邱毅曝1關鍵：現在還算清閒，談特赦反而更虧針對日前報載總統蔡英文將在520卸任前特赦前總統陳水扁，前立委邱毅認為，蔡英文卸任在即，並沒有足夠的時間處理特赦事宜，且陳水扁還有4個案件未解，若要特赦，須將剩下的案件重新審判，對陳水扁來說未必有利，建議朝野3黨共同制定「特赦條例」，不再追究過往案件，以避免台灣走向仇恨政治。
2024母親節禮物推薦》PTT、Dcard媽媽最想要8大禮物排行曝光，第一款超實用每天都用的到母親節為每年五月第二周，今年母親節時間在2024年5月12日，為了感謝媽媽的付出，當然要挑選美麗又實用的母親節禮物給媽媽。還沒想到母親節要送什麼？那可得趕緊加快腳步了！本文為統整PTT、Dcard各大社群中，媽媽們最喜歡的母親節禮物排行推薦，趁還有一點時間，為媽媽選好最適合的母親節禮物。市面上商品百百種，母親節禮物要送些什麼，是許多子女的困擾，其實只要考慮以下幾點，就可以輕鬆挑選出CP值高，媽媽收到又會心暖暖的禮物啦！
桃園市立圖書館總館增設客家專區 張善政：逐步深化客家文化保存桃園市立圖書館總館環境良好，吸引各地人士到訪，客家事務局於市政會議上專題報告「桃園市立圖書館總館客家主題專區建置規劃」，對此，市長張善政表示，在版權許可範圍內上架去（112）年主辦的世界客家博覽會部分展出內容，未來也將擇定客家鄉親較多的分館，優先建置客家主題專區，逐步深化客家文化的保存與推廣。
國小校外教學疑似食品中毒案 中市食安處說稽查採檢令業者停餐台中市政府食安處表示，8日13時58分接獲新北市衛生局通報，該市某學校附設小學共262人於7日至台中市新社區進行校外教學，中午12時食用外購餐盒，其中多人於該日13時30分起陸續出現不適症狀；截至19時止，累計有113人身體不適，其中有13人就醫，目前已有11人症狀緩解返家休息，還有2人留觀中。
桃園頻繁停電！張善政：客觀事實，盼成立小組與台電找解方桃園市近期頻繁發生停電事故，根據統計，4月份發生35次停電事故，平均每次影響超過兩千戶，5月也發生停電事故已近10次，平均每次影響超過四千戶，反觀112年下半年平均每次停電影響戶數約一千多戶，相較之下其影響範圍明顯增加。對此，市長張善政表示，停電問題非個人感受，而是客觀事實，盼與台電合作找解方，共同指定專家成立專案小組，進行桃園供電設施之檢視與改善，穩定桃園供電。
