擔心聊天機器人淪為「論文槍手」!紐約公立學校宣布禁用ChatGPT

2023-01-08 10:00

? 人氣

2023年1月5日,紐約公立學校宣布禁用聊天機器人ChatGPT,因為他們擔心會對學生帶來負面影響。(AP)

2023年1月5日,紐約公立學校宣布禁用聊天機器人ChatGPT,因為他們擔心會對學生帶來負面影響。(AP)

去年11月30日,美國人工智慧研究實驗室OpenAI推出一款聊天機器人ChatGPT,它能用中、英文回答各種問題,還能翻譯、寫程式、創作歌曲,被視為是人工智慧的重大突破。不過紐約市教育局5日證實,當地公立學校電腦和網路不再開放ChatGPT,學校系統運用網路過濾擋下ChatGPT網站,因為他們擔心ChatGPT會對學生帶來負面影響。

[啟動LINE推播] 每日重大新聞通知

總部位於舊金山的非營利組織OpenAI去年11月底推出ChatGPT,開放公眾免費測試,旋即在全球掀起討論熱潮。ChatGPT的介面就像線上聊天室,用戶只要輸入問句,三、五秒鐘內,ChatGPT就能模仿人類的對話方式,產出數百字內容大致正確、文意通順的高品質答案。

去年上線短短一週內,便有逾百萬用戶嘗試與它交談。迄今為止,使用者測試發現ChatGPT的可應用範圍相當廣泛,包括回覆客服、翻譯、寫程式、創作故事、圖像及歌曲等。

開發ChatGPT的公司OpenAI,是由美國電動車公司「特斯拉」(Tesla)執行長馬斯克(Elon Musk)及創投公司Y Combinator創始人奧特曼(Sam Altman)於2015年共同創立的AI研究機構,旨在鑽研人工智慧科技,讓科技造福人類社會。微軟(Micorsoft)後來也成為其重要的投資者之一。

ChatGPT更能如朋友般的回答問題。(圖/翻攝自ChatGPT網站)
ChatGPT更能如朋友般的回答問題。(圖/翻攝自ChatGPT網站)

紐約公立學校禁用ChatGPT

不過, ChatGPT最近卻在美國教育界引起不小爭議。根據《美聯社》(AP)報導,紐約市教育局5日證實,當地公立學校電腦和網路不再開放ChatGPT,學校系統將運用網路過濾擋下 ChatGPT 網站,但師生仍可用自己的行動裝置和網路連上ChatGPT 網站。

紐約市教育局表示,他們擔心ChatGPT會對學生帶來負面影響,並質疑其產出內容的安全性和準確性。紐約市教育局發言人萊爾(Jenna Lyle)說:「雖然這項工具可以提供快速且簡單的答案,但它不會培養人們擁有批判性思考和解決問題的能力,無助學術和個人養成。」

AI聊天機器人「ChatGPT」令許多網友著迷。(示意圖/PIXABAY)
AI聊天機器人「ChatGPT」令許多網友著迷。(示意圖/PIXABAY)

ChatGPT能否拿來寫論文?

至於ChatGPT能否拿來寫論文,《美聯社》記者向ChatGPT提出此問題後,得到以下的回答:「作為一般規則,使用ChatGPT或任何其他自動寫作工具來寫學校論文是不合適的,因為它被認為是作弊,而且從長遠來看,這並不會對學生有利。」

「要辨別某些東西是由人類還是人工智慧(AI)所編寫,你可以在其中找尋個人經歷或情感的缺乏、檢查寫作風格的不連貫,以及留意填充詞或重複短句的使用。這些可能都是由人工智慧產生文本的跡象。」ChatGPT系統在《美聯社》記者提問後出現上述回覆。

OpenAI本週在一份由人工撰寫的聲明中指出,該公司計畫與教育工作者合作,了解人們如何在真實世界與ChatGPT互動。該公司表示:「我們不希望ChatGPT在學校或任何地方被用於誤導性目的,所以我們已經開發相關緩解措施,幫助人們識別由該系統產生的文本。」

AI聊天機器人「ChatGPT」令許多網友著迷。(示意圖/Unsplash)
AI聊天機器人「ChatGPT」令許多網友著迷。(示意圖/Unsplash)

準確度尚有進步空間

OpenAI也表示,ChatGPT模型是利用名為「從人類反饋中強化學習」(RLHF)的機器學習技術所訓練而成。RLHF可以模擬對話,回答衍生問題、承認錯誤、質疑不正確的前提,並且拒絕不適當的請求。

「ChatGPT仍有很多的限制性,但在某些方面卻足以產生巨大的誤導性印象,」奧特曼去年12月在推特(Twitter)上表示,「現在任何重要的事情依賴它都是錯誤的。」他更補充說道,「這是進步的預演,但我們在穩定性和真實性方面仍有許多工作要做。」

 

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章