# deepfake  

當你在滑臉書時，如果看到熟悉的市長面孔竟然在熱情推銷特產，千萬別急著下單！這可能是一場精心設計的科技騙局。桃園市政府28日緊急澄清，網路上流傳一則「張善政市長推薦韭菜醬」的影片，經證實為詐騙集團利用 AI 深偽技術（Deepfake） 合成的惡意假訊息。市府警察局刑事警察大隊已火速介入調查，並向臉書平台要求下架，呼籲民眾提高警覺，切勿點擊不明連結。市長變直播......

823立委大罷免、重啟核三公投落幕，近日在網路 YouTube等平台卻傳出，頻在政論節目針砭時事的退役少將、桃園市議員于北辰驚傳「被揍」的影片，並指動手的人是哈佛大學博士、台大歷史系教授卜合禮，內容更宣稱「笑死我，于北辰被揍！這種咖小還想跟人家解放軍指揮官單挑？」對此，台灣事實查核平台「MyGoPen」發布調查報告。MyGoPen指出，經查，網傳「于北辰被揍......

由於在社交媒體上幾次爆紅，印度Instagram紅人「娃娃阿奇」（Babydoll Archi）僅用了幾天時間就將粉絲數量翻了一番，達到140萬。其中一段影片顯示，她身穿紅色紗麗，隨著羅馬尼亞歌曲《給我一聲咕嚕》（Dame Un Grr）中翩翩起舞，展現性感。該平台發布的一張照片顯示，她與美國成人電影明星肯德拉·拉斯特（Kendra Lust）合影。突然間，......

資深媒體人謝寒冰昨（17）日爆料聯電創辦人曹興誠在2015年外遇中國籍女子的一系列不雅照，引發外界熱議。而曹興誠也針對此事，在1天內兩度發出聲明。不過，媒體人黃揚明在節目《大新聞大爆卦》中指出，曹興誠的2次聲明的語氣和態度有所轉折，顯然背後有綠營高層在提點，否則大罷免就要崩潰了。

聯電創辦人曹興誠遭爆料2015年在有婚姻狀態下，出軌一名比他小40歲的中國大陸女子，更曬出多張親密照。而曹興誠發聲明抨擊，稱AI時代圖片都可造假，討論真偽已沒有意義，應當追究的是為何有人會為政治目的，用卑劣手法公布隱私，典型中共作風；對此，國民黨智庫副執行長凌濤今（17）日在臉書貼文表示，強烈呼籲國家立案調查，以免這不是Deepfake（AI合成），而是Deepleak（機密外洩），對國安構成嚴重威脅！

人工智慧（AI）技術不斷發展，除一般民眾和企業用於提高生產力和創造新服務，也有不肖分子運用AI生成深偽（deepfake）影音和以假亂真的盜用名人身份，危害社會信任。日前有網紅運用深偽技術製造大量名人色情影片，今年在韓國也爆發大規模素人女性遭深偽換臉成色情片主角的社會案件，足見其影響。 

從電話辨識起家的信任科技公司走著瞧Gogolook，自去（2023）年上市後，便積極布局企業市場。今年上半年，Gogolook宣布收購荷蘭防詐服務商ScamAdviser，強化其AI防詐模型的訓練和資料庫，推出全新針對企業的防詐解決方案，雙方並於近期雙方完成交割作業。

上週六，南韓大學生熙珍（化名）在通訊軟體Telegram上收到一則匿名訊息：「你的照片和個資洩露了，我們來討論一下。」

繼4年前震驚全韓的「n號房」網路性剝削案後，南韓近期再度爆出Telegram平台上的駭人數位性犯罪。多個聊天群組與頻道的數十萬名使用者，針對女性熟人，利用深度偽造（deepfake）技術製作並散布非法圖像。

Deepfake技術的出現將社會帶入了一個複雜的AI時代，現實與虛構之間的界線越來越模糊，發展成為一種具有深遠影響的多面向現象。從好萊塢電影公司到政治宣傳，Deepfake已經滲透到生活的各個層面，引發了重大的道德、法律和社會問題。

隨著科技越來越發達，詐騙集團的手法也日新月異，甚至讓不懂得如何分辨真偽的老年網友單單看了詐騙集團後製編輯的影片就無辜受騙。美國就有一名82歲退休老人博尚因看了特斯拉執行長馬斯克（ElonMusk）的「投資建議」，前後砸了69萬美元（約2207萬元新台幣）的退休金，結果才發現是一場騙局，然而即使社群平台如臉書、YouTube再怎麼提升檢測機制，對於詐騙集團的各種招數仍防不勝防！

21歲的賓夕法尼亞大學學生洛伊克（OlgaLoiek）一直在網路上尋找觀眾——但從來沒有想到會以現在這種方式獲得關注。

一位來自英國的創作歌手兼舞者「FKATwigs」近日在美國參議院司法小組委員會的發言引發熱議。她先是自曝已成功打造出「AI分身」，要用來和粉絲互動、應付記者，但同時也揭露AI深度偽造（Deepfake）技術對音樂人的造成的傷害，發人深省！

奧爾加·洛伊克（OlgaLoike）是一位來自烏克蘭的女生。今年20歲的她就讀於美國賓州大學的認知科學（cognitivescience）。幾個月前，她在YouTube上開設了自己的頻道，主打心理健康和生活風格類的內容，目前已經累積了一萬多的訂閱人數。

國民黨總統候選人侯友宜競選發言人凌濤、副發言人呂謦煒今（4）日召開「Deepfake介選再起，呼籲政府查假影片！羅致政上摩鐵、鄭文燦去會館才是事實！」記者會，現場公布疑似鄭文燦上酒店的影片。凌濤表示，deepfake介選的事件太多，去酒店怎麼可能是鄭文燦？去88會館的才是鄭文燦吧！怎麼巧又是鄭文燦被爆出影片？呼籲相關單位趕快查明是不是假影片？他嘲諷說，千萬不能讓這種假影片影響2024的大選。

台北市聯合醫院300名醫師6月開始陸續收到恐嚇信件，且信件中都是男醫師們在旅館休息，身邊躺著一名女子的偷拍照，但每位男醫師收到的照片都一樣，只有床上男子「被換臉」，因此決定集體報警求助。警方獲報後立馬展開調查，發現寄出電郵者來自香港，且不僅台灣，中國也有多名官員以類似手法被恐嚇，全案始末仍待調查釐清。

世界盃足球賽開賽，推特小鳥再見，以及其他本週時事。

英國國會正審議「線上安全法案」，司法部今天（27日）宣布提出修正案，除了首次將散播「深偽」情色影像以刑事罪論處，未來只要未經當事人同意散布親密影像，無論是否具報復意圖，都可直接處最高6個月徒刑。

深偽（deepfake）是應用AI技術合成某人（通常是名人）的圖像或影片、聲音，通常是將影片中的人臉替換為另一張臉，讓某人做出自己從未說過，或做過的事情。對遭利用deepfake技術製造換臉色情片的受害者來說，這是一場難以結束的噩夢，因為網路圖像很容易散布與取得，即使再怎麼努力刪除，也無法保證不會在一個月、一年或者數年後又出現。

昔知名網紅「小玉」朱玉宸與助理莊炘睿2020年7月起利用網路「Deepfake換臉技術」，將知名人物，如雞排妹、高嘉瑜、黃捷等人頭像置換成性愛影片，共計119人受害。小玉與其助理事後也因此被判刑5年6個月與3年8月；近日小玉的弟弟、Youtuber「尊」發布新影片，直接打電話給哥哥小玉，曝光其目前狀況。

2013年秋天，伊恩・古德費洛（IanGoodfellow）與大學實驗室夥伴在酒吧舉行歡送派對。大家就座，開始猛灌精釀啤酒。酒過三巡，古德費洛已有些微醺，這群研究員開始爭論什麼才是製造能夠自我創造相片寫實影像的機器之最佳途徑。他們知道可以訓練一套神經網路來辨識影像，然後逆向操作，使其產生影像。但它只能產生一些精細、有如相片的影像，這樣的結果實在難以令人信服。

自2021年發表出道單曲《我是真的》（I'mReal）以來，韓國流行音樂（Kpop）組合Eternity（永恆）已經賺到了數百萬次瀏覽量。

知名網紅「小玉」朱玉宸與助理莊炘睿2020年7月起利用網路「Deepfake換臉技術」，將知名人物，如雞排妹、高嘉瑜、黃捷等人頭像置換成性愛影片，共計百人受害；刑事部分先前小玉與其助理各被判刑5年6月、3年8月，都可易科罰金。不過在民事部分，共有21名受害者求償，法院日前判決黃捷與一名空姐各獲賠100萬元，另外19位受害者則仍在審理中。

愛情可能是具有欺騙性的。現實世界中，即使每天面對面的浪漫關係都可能有看不見的痛苦和秘密，又何談網路世界？

民進黨立委高嘉瑜遭施暴事件與網紅小玉涉嫌製作換臉謎片，讓民眾關注私密影片外流、Deepfake等問題。行政院發言人羅秉成今（2）日表示，政院近日將審查性私密影像罪、深度偽造合成影像罪等修法提案，後續將盡快把法案送立法院審查。

成為deepface事件受害人，民進黨立委高嘉瑜委員今（21）日與多名立委召開記者會說明，將提案修正選罷法加重深度偽造影響選舉的公正，最高處以7年半有期徒刑。

親愛的讀者，

元宇宙其實是一個人云亦云的虛擬掏金熱，可稱之為Meta-rush!而這個話題的熱度在國際社交媒體巨頭的炒作以及各國一般媒體的跟風下已經夠火紅了，筆者這篇文章反倒想聚焦在如何於此未來的新世界找到具體可執行的方法或模式，初步提供個人一些淺見。

「這是我的影片！為什麼我連拿回我的影片的權利都沒有？」這是許多數位性暴力受害者的吶喊。她們發現自己的性私密影像在網路瘋傳，有人氣憤、有人羞愧，更多的人覺得無奈又無助，想要求對方歸還影片，並且寫切結書，保證下架、刪除、不要再傳，卻完全沒有法律強制力，只能道德勸說或者私下談判。

總統蔡英文臉書針對網紅小玉變臉謎片表達關切引發外界抨擊，由於多名政治人物、藝人以及網紅臉部遭移植到AV女優身上，這起違法色情影片販售的社會議題竟然驚動國家元首，對比新北高雄溺水祝融的天災人禍，再現的是「流量治國」的議題守門。

日前YouTuber小玉透過深度偽造技術，製作多位政治人物與實況直播主的成人片影像，引起軒然大波。此案不僅觸及線上的不實訊息應如何在《憲法》表意自由權的框架下予以管制的難題，也突顯深偽技術對於性隱私權、國家安全及選舉制度的重大挑戰，值得執政與立法者正視。

「Seeisbelieving.」眼見為憑，但在AI科技如此發達的現今，真的是如此嗎？

網紅小玉涉嫌利用深偽（deepfake）技術製造換臉色情影片牟利遭逮，其中被換臉對象不止有各路藝人、網紅，甚至連許多政治人物也受害。對此，刑事局科技犯罪防制中心主任林建隆表示，若政治人物被做成造假影片又在網路流傳，恐造成部分族群「信者恆信」，即便當事人出來解釋也沒用，對政治、國防、外交恐造成重大影響。

近年AI人工智慧產生民眾關注的話題，最熱的非Deepfake莫屬。根據BBC文章報導，數個月前韓國MBN公開展示Moneybrain公司透過Deepfake技術造假主播的影片，就擁有數百萬點閱。

近日多名女性政治人物及藝人捲入深偽變臉（AIDeepfake）不雅影片事件，主謀雖然被警方逮捕，當事人也提告捍衛自身權益，但當前法律對此類事件的保障及懲罰仍嫌不完備，由於變臉技術日新月異，外界擔憂一旦被有心人士利用，恐釀成國與國開戰的藉口，國安局長陳明通20日表示，會努力制定SOP，並邀集各平台及業者商討對策。

網紅小玉涉嫌利用「deepfake」AI換臉技術，將性愛影片換成知名人物臉孔，牟取暴利。總統蔡英文18日透過臉書發文，呼籲大眾應正視新型科技犯罪行為。台北市長柯文哲19日於臉書發文向站出來的受害女性表達敬意，並指出有權者不應縱容網軍利用假訊息混淆人民的認知與生活，政府應積極從法制面進行補償，還給人民更乾淨的網路環境。

網紅小玉涉嫌利用「deepfake」AI換臉技術，將性愛影片演員的臉換成知名人物以牟取暴利，高雄市議員黃捷也受害。黃捷19日在高雄市議會質詢時指出，報案後發現台灣針對此種新型態科技犯罪，僅有妨害風化罪和妨害名譽罪可罰，呼籲高雄法制局應盡速了解情形，並提供受害者相關法律協助。

總統蔡英文表示，現在網路上最大關鍵字叫做Deepfake，有人涉嫌利用科技軟體，製作換臉不雅影片在網路上牟利，造成許多人受害，使用的就是這種科技。這些受害者，可能是你我關心的對象，也可能是你我的親友，我們不能坐視這樣的事情發生。

近期網路流傳「AI換臉」色情試看片，民進黨立委高嘉瑜也受害，她今（18）日批評這是無法可管的性暴力，主張將「AI換臉」濫用視為獨立犯罪行為，並明文規範其刑事、民事與行政責任。

知名網紅小玉涉嫌去年7月起利用網路換臉技術，將知名人物雞排妹、高嘉瑜等人頭像移花接木成性愛影片，百人受害，不法所得逾新台幣上千萬元，刑事局循線昨天逮3嫌送辦。

文/韓志瑛（한지영）

這次東京奧運中，湧向女性國手的無禮評論，試圖把女性置於男性凝視之下，像是「妳留短髮，是女性主義者吧？是的話那就淘汰」。

熱門短片應用TikTok的所有者字節跳動（BytedanceInc.）周四（20日）表示，創始人張一鳴將辭任首席執行官一職。這是中國政府加緊對科技業施壓之際，又一名辭任的中國科技公司老闆。

近期南韓社會開始反省，將明星物化、性客體化的粉絲文化與色情文化，對真人偶像造成性騷擾與心理健康方面的負面影響。民眾11日、13日向青瓦台請願網站發起連署，呼籲「嚴懲將未成年男偶像當成性玩物的偶像同人（RPS）用戶」與「堅決懲處導致女性名人受苦的『Deepfake』非法影片」，兩項請願迄今分別獲得20萬、36萬人連署。只要超過20萬人一起發聲，青瓦台就必須正式回應。

英國電視台第四台（Channel4）每年都有製作「另類女王聖誕致辭」的傳統。今年他們的另類聖誕致辭將由一個「深度仿冒」（deepfake）的女王發表。

俗話說「眼見為憑」，但在科技日新月異的時代，這句俗諺恐怕將再也不適用。近年來網路上有越來越多的假消息出現，不僅限於文字、圖片，就連偽造影片也開始在網路上猖獗，其中「Deepfake」技術更是讓人難辨真假，不但可以模擬出與本人「一模一樣」的逼真影像，就連聲音、語調等，都可以完美模仿，有些技術高超的Deepfake影片，甚至用肉眼也難以辨識，若沒有經過事實查核，幾乎無從得知眼前影像的真偽。

隨著網際網路與社群媒體的發展進步，人獲取資訊的管道愈來愈多元、快速、便利，相對於以往只有三台與少數報紙的時代，人們可以更自由的接觸到更多的資訊，但是，這真的是一件好事嗎?你有想像過，所謂的「真相」，在這多元的資訊潮流中逐漸被腐蝕殆盡嗎？在你網路上看到許多「名家評論」或者酸度爆表的「政治梗圖」，你有想過這些都是個人的意見，並不代表全般事實嗎？

本周較早前，從迪士尼演員轉型成為色情片導演的美國女星貝拉索恩（BellaThorne）宣佈，她將與色情影片分享網站Pornhub合作，幫助這個平台杜絶「色情報復」（revengeporn）。本文是關於這個決定背後的故事。

還記得柯南卡通裡的「變聲蝴蝶結」嗎？能讓柯南一戴上就擁有毛利叔叔聲音的超強變聲器，現在不只在技術革新下成為可能，還成了駭客手中的詐財利器。

過去，我們判斷真實的依據，多半是「眼見為憑」。然而隨著修圖軟體、AI人工智慧等技術，我們眼裡看到的，恐怕也不再是真的了：新科技讓人人的照片都可以是帥哥美女，但「照騙」也大量出現；影片可以透過AI把畫面中的講話的人臉，換成另一個人的臉，絲毫察覺不出破綻。