全球第一槍！韓國《AI基本法》正式上路，AI 生成內容「沒標示」最高罰64萬

為了應對人工智慧（AI）帶來的深偽影像（Deepfake）與假訊息危機，韓國政府於 22 日正式實施《AI基本法》，成為全球第一個針對 AI 安全使用建立綜合監管框架的國家。《韓國時報》與《韓聯社》報導，法案強制 AI 生成內容必須「壓上浮水印」、明確定義「高風險 AI」紅線，將 Google、OpenAI 等跨國科技巨頭納入監管網。然而，長達 421 頁的複雜法規與模糊的責任歸屬，也引發當地新創圈與內容產業的強烈焦慮。

AI 生成內容強制壓浮水印

《人工智慧發展與建立信任基本法》（인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안，簡稱《AI基本法》）的核心目標在於要求企業與開發者承擔更多責任，以解決 AI 模型可能生成的深偽內容（deepfake）和錯假訊息。法案規定，任何由 AI 模型生成的內容，都必須強制加上「浮水印」。

一位官員強調，這是防止 AI 技術被濫用（例如製作深偽色情或詐騙內容）的最低限度保障措施。 此外，政府被賦予更大的公權力，可針對違規企業發動調查或處以罰款。

定義高風險 AI：求職、貸款、醫療

法案引入了「高風險 AI」的概念，專指那些可能對用戶日常生活或人身安全產生重大影響的 AI 應用，包括：醫療保健、能源、就業和貸款審查等領域。相關企業必須「事先告知」使用者該產品或服務是基於 AI 的，並展示 AI 生成的結果。此外，企業還需建立一套管理 AI 應用的系統，負起確保系統安全的責任。

然而，業內人士告訴《韓聯社》，隨著 AI 技術的快速發展，未來恐怕很難看到醫療保健、能源和就業等領域出現顯著的 AI 監管服務。

OpenAI、Google 跑不掉！大戶須設在地代表

為了防止跨國科技巨頭在韓國「賺錢卻不負責」，法案規定符合以下任一條件的全球企業，必須在韓國指定「在地代表」以對接監管：

• 全球年營收達 1 兆韓元（約新台幣 215 億元）以上；
• 在韓國國內銷售額達 100 億韓元（約新台幣 2.1 億元）以上；
• 在韓國每日活躍用戶數達 100 萬人以上。

目前，ChatGPT 的開發商 OpenAI 以及搜尋巨頭 Google 皆符合上述標準，將直接受到新法約束。

違反《AI基本法》的企業最高將面臨 3000 萬韓元（約新台幣 64 萬元）的罰款。不過，為了讓產業界有時間調整，政府將給予一年的「罰款寬限期」。除了監管，該法案也包含促進 AI 產業發展的措施，規定科學部長必須每三年提出一份國家級的 AI 政策藍圖，試圖在監管與創新之間取得平衡。

產業人士擔憂：監管與責任歸屬模糊

內容產業人士告訴《韓聯社》，他們相當關注「浮水印」條款。若只有部分內容使用 AI 生成，卻還需要貼上「AI 創作」的標籤，內容價值也可能被貶低。

官方也擔憂，在 AI 應用尚未成熟的情況下，責任歸屬與監管法規可能存在模糊空間。韓國網路安全局（KISA）的一位官員表示：「AI 產品標籤義務的具體方法、主題和範圍都委託給了執法機管，這使得企業很難提前計算風險。例如，如果一家電影製作公司不負責開發、只使用 AI 服務，那他是否有義務揭露其內容為 AI 生成？能否隨意刪除 AI 浮水印？」 （相關報導： 「你們有今天都是因為美國！」《衛報》解析川普達沃斯演說：充滿種族主義與帝國傲慢 ｜ 更多文章 ）

另一個問題是，《AI 基本法》包含大量複雜的法規，光是執行法令就有 421 頁。當局似乎是透過大型律師事務所組成這樣龐大的法律框架。許多中小企業和新創公司抱怨，他們沒有足夠的財力諮詢律師事務所、進行法律解釋。對此，科學與資通訊技術部（과학기술정보통신부）決定設立一個支援服務台，由參與法律制定的專家組成。