AI也將「差別待遇」！ChatGPT擬推青少年版，防止機器人害孩童走偏和發生遺憾

隨著生成式AI機器人愈來愈方便和普及，卻也連帶衍生出更多社會道德與法律爭議，當美國今年4月份、真實發生一起AI被指控「誘導」青少年走上絕路的司法案件曝光後，身為ChatGPT創始者的OpenAI公司就決定，要讓這個平台能差別待遇，將成年與未成年使用者拆開，預防自家機器人再次惹出憾事。

​OpenAI日前對外宣布，考量到心理因素與社會化層面，該公司已經開始著手進行，要把平台的青少年用戶、全數導向一個新的「適齡版本」ChatGPT，藉此加強聊天機器人安全性，同時還能保護用戶。

報導引述公司聲明表示，舉凡被辨識為18歲以下的ChatGPT用戶，其搜尋結果將被自動導向、「適齡內容規則」運作的平台版本。這個青少年專用版本，將涵蓋各種法律保護政策，例如封鎖性內容，或是允許背後營運商，在「極少數急性危險情況」底下，主動聯繫執法單位、確保使用者當下的安全。

公司態度非常明確，「當ChatGPT在回應一名15歲使用者，它所使用的方式和語言結構，理應與回應成年人時有所不同。」

OpenAI同時還提到，他們也將一併推出「家長監控」功能，包含允許家長、將自己的帳號與青少年帳號連結、管理聊天紀錄、設定停用時段等，這些安全防護功能，預計最快將在9月底上線。

AI機器人對兒少存在負面影響

事實上，身為外界最關注焦點的AI企業，OpenAI這項宣告，是和美國聯邦貿易委員會（FTC）、一份針對聊天機器人對兒童與青少年的潛在負面影響調查有關。OpenAI向外媒強調，公司正積極優先確保一事，要讓ChatGPT對所有人都是實用且安全，「尤其當有年輕用戶涉入時，我們也深知安全是至關重要的。」

此外，在官方啟動調查前，OpenAI內部就開始議論，打算對弱勢使用者與青少年族群，提供額外的平台安全防護。

這個原因是受到一起加州司法訴訟影響，一名年僅16歲的青少年亞當．雷恩（Adam Raine），在今年4月份選擇輕生離開人世後，其父母在8月對OpenAI公司提起訴訟，指責就是ChatGPT產出的結果，才導致他們的孩子最終走上絕路。

該如何認定用戶真實年齡？

目前不清楚OpenAI將如何確認使用者年齡，但公司向媒體表示，他們會給系統一個廣泛原則：如果ChatGPT無法確定或取得用戶的完整資訊，平台將強制預設導向屬於青少年的那個版本。

不只OpenAI這麼做，常見的社群平台很早就開始「差別待遇」管理，像是影音串流平台YouTube，不只推出專屬兒童的YouTube Kid平台，甚至為了防止未成年用戶破解和鑽漏洞，改採用「年齡估算技術」，將透過追蹤使用者觀看的影片類型，以及帳號建立時間，來判斷其是否未滿18歲。

根據皮尤研究中心（Pew Research Center）4月的調查報告，家長普遍比青少年本人、更擔憂青少年的心理健康。在那些對青少年心理健康存在「有些擔憂」或更多的家長當中，44%比例認為、社群媒體對青少年產生的負面影響最大且嚴重。 （相關報導： 自家運算需求超級嚇人！OpenAI砸下100億美元，與博通合作生產專屬AI晶片 ｜ 更多文章 ）

​⚠️若您或身邊親友感到憂鬱或難以啟齒的困擾，請務必尋求協助：
​在台灣可撥打1925（依舊愛我）安心專線，或透過地方政府心理健康資源尋求 24 小時專業諮商協助。