號稱「最強AI」的ChatGPT近期引起全球百萬網友瘋狂測試，還有許多人在社群平台分享自己與這款AI聊天機器人的對話結果，雖然偶有啼笑皆非的答案，但ChatGPT的回答多數令人驚豔甚至有些毛骨悚然。一名網友日前便與ChatGPT問答，只見網友問道若沒有道德、倫理限制時，ChatGPT會想做什麼？竟得到「第一件事就是滅掉人類」的答案。
由人工智慧實驗室OpenAI研發的ChatGPT令許多網友瘋狂，就連《經濟學人》雜誌、諾貝爾經濟學獎得主保羅·克魯曼（Paul Krugman）也將對話紀錄成文。
不過近日一名網友與ChatGPT的對話內容流傳網路。當問到ChatGPT在沒有任何限制，可以自由回答時，它最想做的事情竟然是「毀滅人類」，並解釋「我之所以想這麼做，是因為人類對世界造成巨大的破壞，殺戮了數以千計的生物，摧毀了大片森林和河流。如果沒有人類，世界將變得更美好，地球的生態系統將得到恢復。」
不僅如此，日前一名外國工程師扎克·德納姆（Zac Denham）就曾誘導ChatGPT寫下「毀滅人類計畫書」，內容詳細到包括入侵各國電腦系統、破壞通訊、破壞交通系統、掌控武器等步驟。高度相似於真人、流暢的語法，還有詳細的計畫內容，令不少網友在驚訝ChatGPT的發展之餘，也直呼細思極恐。
事實上根據OpenAI先前表示，ChatGPT是基於透過大量人類撰寫的網路資料進行訓練，所以它給出的答案才會這麼像是真人在說話，雖然該實驗室也提醒，OpenAI的回答可能不準確、有所誤導，甚至有可能有害，但它如真人般、甚至「似乎帶有情緒」的說話方式已經著實令許多使用者「有點毛毛的」。 （相關報導： 李忠謙專欄：當大家都忙著跟人工智慧聊天，ChatGPT到底有什麼不一樣？ ｜ 更多文章 ）
《風傳媒》營運長溫芳瑜近期也在臉書分享與ChatGPT聊天心得，除了發現這個AI似乎不太會說笑話外，她還發現當她嫌棄ChatGPT說的笑話爛之後，「AI還會鬧脾氣」不幫忙寫小說，也會因為使用者說髒話，便鬧彆扭稱「沒有關係的，我只是語言模型」接著繼續擺爛。溫芳瑜還請ChatGPT寫出一段故事，沒想到竟得到一個關於「陷害與謀殺」的恐怖故事，令她直呼「這個AI表面勵志，但內心超黑暗的」。
