AI首部規範要來了!歐盟劃分3等級風險 律師曝中國幹「這種事」就須禁用

2024-09-19 10:00

? 人氣

律師蕭奕弘18日出席陽明山未來學社舉辦的「我對2100年的想像」爐邊座談,談及關於人工智慧的法律問題。(許詠晴攝)

律師蕭奕弘18日出席陽明山未來學社舉辦的「我對2100年的想像」爐邊座談,談及關於人工智慧的法律問題。(許詠晴攝)

歐盟於今年5月通過《人工智慧法案》,預計在2025年正式實施,將成為全球首部監管人工智慧(AI)的規範。對此,律師蕭奕弘今(18)日在陽明山未來學社舉辦的「我對2100年的想像」爐邊座談中解釋,法案大致將AI分為「無法承受的風險、高風險、最低風險」3等級,若違反禁用AI規範,涉及人權侵害、詐欺等,將罰款全球年營業額的7%,屬於威嚇性的規範;國內方面,雖正推動「人工智慧法草案」,但條文均為概論,難產生實際影響。

[啟動LINE推播] 每日重大新聞通知

陽明山未來學社今日舉辦第4場「我對2100年的想像」爐邊座談,由育秀教育基金會、Knowing新聞、幣特財經、鍶科技、風傳媒協辦,邀請曾任法官與檢察官的現任律師蕭奕弘,以其擁有電機學士與碩士學位,以及數位鑑識與道德駭客國際證照的經驗,分享關於人工智慧的法律問題。

歐盟推《人工智慧法》 侵害人權即屬第一等級風險

針對歐盟推出《人工智慧法》,蕭奕弘提到,歐洲議會在今年3月13日通過法案,並在5月21日經由歐盟理事會通過,將在2025年8月2日開始施行。他解釋,其中法案把AI分為3等級進行規範,第1等級為「無法承受的風險」,原則上必須禁用的AI系統,像是中國大陸運用AI監控維吾爾族,屬於對人權的即時侵害,這種AI就不得使用。

蕭奕弘續指,第2等級為「高風險」,若AI使用的範圍領域將對人民安全、基本權利產生不利的影響,包括玩具、航空、汽車、醫療器材等,就須先經過風險評估,取得政府機關許可才能放入市場,而後續也要有適當的監督、風險管理;第3等級則為「最低風險」,無特別義務,像是用來防堵垃圾郵件的AI系統,但企業可自願為人工智慧系統承諾遵守額外的行為準則。

此外,蕭奕弘也提及,人工智慧法案中的「特別透明度風險」規範使用AI系統時,應符合透明度需求,使用戶知情而決策,如:使用生成式AI創作的作品或影片,必須註明作品為AI產生,而適用對象包括提供者、部署者、輸入者、經銷者。

違反AI規範罰款恐達3500萬歐元、全球年營業額的%

蕭奕弘說,「未來只要運用到AI的產品,就可能落入《人工智慧法案》的規範範圍」,若違反禁用AI的規範,罰款將會是3500萬歐元,或是全球年營業額的7%;若違反其他義務,將罰1500萬歐元或全球年營業額3%;提供錯誤或誤導性資訊,則罰款750萬歐元或全球年營業額1%。對企業來說,均屬於具有威嚇性的規範。

至於國內,蕭奕弘指出,Chat GDP推出時,行政院112年訂定了「使用生成式AI參考指引」,規範公部門使用Chat GDP的注意事項,包括附上使用人工智慧的註明、結果仍要由人工判斷,以及機密文件不得使用。而金管會去年也發布「金融業運用人工AI的核心原則」,給予金融業使用人工智慧方面的建議。

蕭奕弘也無奈表示,立法院於今年7月15日推動「人工智慧基本法草案」,但其中18個條文都只是概論,屬於國家發展指引性的條文,現在最需要的就是修正著作權法,草案未處理到這塊,也未實際解決問題,「台灣人工智慧草案是空的,不會有實質影響」。

更多風傳媒獨家內幕:

‧ AI創作有著作權?專家曝關鍵判決得等5年:「合理使用」將被重新討論

本篇文章共 2 人贊助,累積贊助金額 $ 90

喜歡這篇文章嗎?

許詠晴喝杯咖啡,

告訴我這篇文章寫得真棒!

來自贊助者的話
關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章