近來最熱門的資訊科技話題，莫過於生成式AI的推出。去（2022）年底微軟資助的新創公司OpenAI，開發了一款AI聊天機器人ChatGPT，它不僅支援50幾種語言並能回答各式問題，而且還能統整資料、製作表格、寫程式、翻譯、創作歌曲等，推出後短短5天就超過百萬用戶數，兩個月就已經有上億的使用者，可說是成長最快速的應用程式。微軟與OpenAI乘勝追擊，在今年2月又推出另一新款Bing，它不僅有自己的搜尋引擎，也可在Edge瀏覽器上操作，號稱是比ChatGPT更快速、更精準，未來將進一步與Office文書工具的功能整合，同樣一推出也是用戶數暴增。
網路搜尋引擎龍頭Google不甘示弱，也在今年推出AI聊天機器人Bard，目前還在實驗試用階段。據瞭解，它同樣可支援多種語言外，更加了Google智能鏡頭、還能朗讀，也能生成如程式碼、腳本、音樂作品、電子郵件等功能，不斷擴展服務功能以吸引用戶使用。
這些用生成式AI技術，讓電腦自動創造新的內容，為何會受到全球矚目？除了可像人一樣進行對話、回答問題外，不論是文本、影像、音樂、圖片等類型，皆能快速生成。最實用的是，它可根據你的需求來回答，例如提出複雜的問題：「過敏體質的幼童應注意的事項及提供哪些餐點？」或者以搜尋的事項來做比較，如：「目前市占率最高的筆電是哪個品牌？」甚至它還可立即提供創作作品，像是：「用俏皮的口吻寫一首五言絕句」，等等，只要一些簡單的提問，馬上幫使用者整理出資料或者製成表格呈現。
由於操作便利、快速，有些公司開始將這項生成式AI技術應用在客服方面，回答客戶的問題；其他還可應用在人力資源、財務行政、行銷領域等。因此有些人就開始擔心，生成式AI會不會取代人類的工作？甚至猜測哪一種行業最容易被取代。目前雖然AI技術或許還有待加強，但之前包含特斯拉執行長馬斯克等多名科技領袖和研究人員，共同發布公開信，呼籲所有AI實驗室暫停各式先進的研發，也是因為AI工具可能會對社會與人類造成深遠的影響。
這樣的擔心並不陌生，資訊網路科技在1990年代興起時，網際網路開始商業化使用也被認為會造成大量解雇潮。時至今日，大多數的人運用這項科技更有效率來提高工作品質，很難想像我們若回到沒有網路的時代，會是多麼的不方便。
如同網際網路後來的發展，人們過度的依賴而產生了許多負面的影響，包括過度使用網路，像是社群網站、網路遊戲等的成癮問題；網路存在許多惡意的言論與攻擊；以及利用網路管道進行跨國的詐騙事件，不僅侵害隱私權，犯罪分子可能會利用個人資料進行各種非法活動，這些都是目前一直存在的問題。
對於生成式AI善於統整與創作，雖然協助人類彙整資料等需求，它所產出的內容同樣也受到許多的質疑，譬如所生成的內容用數位科技做出來的成品，像是圖片製作，它的智慧財產權歸屬問題。其次是和網際網路的過度依賴使用一樣，若使用者太過依賴生成式AI，可能影響創造力的思考。最近就有教師為了避免學生貪圖便利，用生成式AI做成的作業，只要是與心得報告有關的作業，一律都改為口頭報告，或許就是擔心這類的事情發生。
生成式AI還有另一大隱憂是，若被不肖人士所利用以假亂真來包裝假訊息，民眾可能更難辨識。假訊息的嚴重性已是國家安全問題，曾有跨國學術調查，臺灣遭到外國假訊息攻擊程度是世界第一。假訊息之所以讓人無法辨識是把真實的內容重新再包裝，又或者當你一再重複聽到相同的陳述時，會覺得假訊息更像是真實。而且假訊息的種類甚多，不是只有訊息的內容是假的，還有假的圖片、影片、網址、教人如何操作商品的開箱文等。偏偏面對這些假訊息，無論在辨識程度，或是防制假訊息的能力方面，民眾反應卻是薄弱的。
「台灣事實查核教育基金會」曾公布臺灣假訊息的調查，發現有7成5民眾表示過去一年曾收到假訊息，也有5成民眾認為自己不會受騙，反而有9成民眾覺得別人才可能容易上當。最常製造假訊息的傳播管道則以網路和手機最多。
由於生成式AI裡所提供的資料並無檢核的機制，無法確定內容是否正確，必須人工一一去核對，若是使用者又沒有進一步確認，很可能就這樣傳播出去。因此，閱聽人本身的「媒體識讀」（media literacy）就很重要。
該如何使用來防範呢？日前國科會曾發布「行政院及所屬機關（構）使用生成式AI參考指引草案」，羅列了10點各機關使用生成式AI的注意事項，包括不得向生成式AI提供涉及公務應保密，使用生成式AI作為執行業務或提供服務輔助工具時應適當揭露等，為了就是因應生成式AI可能涉及智慧財產權業務機密方面的侵害。雖然這個指引也適用於一般大眾，不過這只是針對智慧財產權方面的使用注意事項，真正要杜絕假訊息的發生，關鍵還是在教育，民眾的媒體識讀有無真正的落實。
假訊息的手法日新月異，這些訊息常以移花接木的方式，有時會用聳動的標題或誇張的圖片去吸引民眾注意，讓人沒有戒心而不去辨別真偽；況且大部分的民眾只要覺得新奇、有趣，常常會分享給親朋好友們。對抗假訊息不能只靠法律的制定，民眾無論使用哪種媒介都要有正確的使用觀念，對於來路不明的資訊應避免轉發外，也要有警覺心與判別能力，才能減緩假訊息的漫延。
＊作者為諄筆群主筆
