• 早鳥優惠
20171031-SMG0035-快訊小紅條兒

當朱茵的黃蓉被換上了楊冪的臉,而且毫無破綻……中國擬修法禁止「AI變臉」

2019-04-23 11:01

? 人氣

楊冪的臉被用在了1994年版《射雕英雄傳》中黃蓉的角色。(翻攝Youtube)

楊冪的臉被用在了1994年版《射雕英雄傳》中黃蓉的角色。(翻攝Youtube)

4月20日,中國十三屆全國人大常委會第十次會議開始審議民法典人格權編草案二審稿。草案提出,民法應禁止任何人以基於人工智慧(AI)的「深度偽造」(deepfake)技術替換網路影片中的人物面部,以保護肖像權。

中國官方的新華社說,深度偽造可以製作使人難辨真假的動態人臉畫面和聲音,「AI換臉」可以隨意替換影片的角色面部。報導說,這引發了人們對相關技術可能侵犯肖像權、危害社會公共利益乃至國家安全的擔憂。

此次提議的「民法典人格權編草案二審稿」建議規定:任何組織或者個人不得以醜化、污損,或者利用信息技術手段偽造等方式侵害他人的肖像權。

「AI換臉」今年2月在中國網路空間討論中引起熱議,起因是一名「深度偽造」技術專家發布的一段「移花接木」影片。影片中,當代中國女演員楊冪的臉被用在了1994年版《射雕英雄傳》中黃蓉的角色上。影片中的人物表情自然逼真,許多網友感嘆「看不出破綻」。

但這段影片也引起了當事人的不滿。影片製作者「肖先生」發文道歉,稱自己是一名AI神經網路學習的研究人員,初衷只是希望讓更多人認識這項技術,並在自己的網站上刪除了這段影片。

此次「換臉」風波也使人擔憂「深度偽造」技術的可能引發的社會和政治影響。

2018年7月,美國演員兼製片人喬丹·皮爾(Jordan Peele)製作了一段美國前總統奧巴馬「譴責」現任總統特朗普的「深度偽造」影片。2017年7月,華盛頓大學的研究人員開發出了一套基於人工智慧的「算法」,這套算法可以修改一段講話影片中奧巴馬的嘴形,使之準確匹配任何聲音內容。

皮爾說,他參與製作偽造奧巴馬講話內容的影片是為了告誡人們警覺:影片資料並不總是消息的準確來源。

而中國此番網上流傳的「深度偽造」影片似乎技高一籌:影片中的人物不僅換了口型,而是整個「換臉」。

長期關注假信息傳播的美國國會參議員馬可·魯比奧(Marco Rubio)今年2月發布聲明警告說:「美國的敵人已經在使用虛假的圖像在散播不滿情緒、企圖分裂我們。」

他說:「想像一下,如果一段影片表現的是選票失竊、政治領袖說出不雅言論、或是在國外衝突中有無辜平民遇害。」

中國的AI影片製作者「肖先生」說,實現逼真的深度偽造的技術門檻很高。他說,這項開源技術需要應用者有一台有8核CPU V100顯卡的主機,「這就足以讓很多人打退堂鼓,研發過程也很枯燥乏味」。

不過,計算機專家認為,深度偽造技術要達到任何用戶都能使用的簡易程度只是時間問題。

美國國會山報(The Hill)援引智庫「新美國中心」研究院彼得·辛格(Peter Singer)的話說,深度偽造技術「肯定會被用作一種武器」,被用於擾亂國內政治,或者被敵對國家用於在戰場上取得先機。

關鍵字:

我要發風

風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

並請附上姓名、聯絡方式、自我簡介,謝謝!

本週最多人贊助文章