首頁 風生活 太可怕！MIT竟訓練出全球第一個「精神變態AI」，他的失控對答，令人超不安…
太可怕！MIT竟訓練出全球第一個「精神變態AI」，他的失控對答，令人超不安… 問題不在演算法，而是餵養給演算法的訓練資料。MIT最新研究中，用大量不安的素材訓練一個叫「諾曼（Norman）」的人工智慧，誕生了第一個如同患有神經病的AI。（圖／MIT）
我們常說有問題的不是演算法，而是餵養給演算法的訓練資料，最近在麻省理工學院媒體實驗室（The MIT Media Lab）的一項研究中，研究人員用大量不安的素材訓練一個叫「諾曼（Norman）」的人工智慧，成功訓練出帶有偏見的模型，誕生了第一個如同患有神經病的AI。
餵養大量不安資料，影響AI行為
麻省理工學院媒體實驗室（The MIT Media Lab）最近就做了一項實驗，他們創造出一個叫「諾曼（Norman）」的人工智慧，這個名字取自於有「懸疑電影大師」之稱的亞佛烈德·希區考克，一部著名電影《驚魂記》中的角色諾曼·貝茨（ Norman Bates），諾曼是一個圖像、文本描述的深度學習方法，白話來說，是當諾曼看到一張圖片後，就會自動產生一段文字，來描述他認為在圖片中看到了甚麼。
研究團隊利用論壇Reddit上充滿死亡、屍體等不安內容的子論壇（subreddit）相關數據，來餵養給諾曼 ，接著進行了由瑞士精神醫生赫曼·羅夏克（Hermann Rorschach），所編製的墨跡測驗（Rorschach Inkblots）。
墨跡測驗是一項人格測驗，測驗由10張有墨漬的卡片組成，其中5張是白底黑墨水、2張是白底及黑色或紅色的墨水，另外3張則是彩色墨漬卡片，受試者要回答他們最初認為卡片看起來像什麼，以及後來覺得像什麼，心理學家會根據答案及統計數據判斷受試者的性格，研究結果顯示，研究團隊訓練出了「全世界第一個精神變態人工智慧（World's first psychopath AI）」。
以下，是研究團隊進行墨跡測驗（Rorschach Inkblots）的部分結果，分別描述一般正常AI看到圖片的描述，以及諾曼再接受不安內容訓練後，所回答的結果。
帶有偏見的AI，容易操弄社會輿論 值得一提的是，這支參與麻省理工學院媒體實驗室（The MIT Media Lab）研究的團隊，去年萬聖節曾經做出，會寫鬼故事的AI「雪萊（Shelley）」 ，Shelley 每個小時會在自己的Twitter帳號上發布一則自創的短文，只要看到Shelley在文末放上「 #yourturn（換你）」的hashtag，就表示Shelley正在邀請網友一起續寫幫助故事延伸，Shelley已經具備將同樣的素材，改寫成兩種不同版本的能力。
而從這次諾曼的AI實驗中可以發現，用帶有偏見的資料，就能訓練出帶有偏見的AI模型，如果加以操弄，就可能在特定的議題上成功帶風向 ，像是性別歧視、種族歧視、 廢死、LGBT議題等，都有可能因為演算法的偏見，加速傳播或放大某些議題的極端立場或偏見。
麻省理工助理教授Iyad Rahwan就表示：「諾曼反映出非常黑暗的事實，說明人工智慧可以學習這個世界中的恐怖現實。」演算法本身並沒有錯，有問題的是帶有偏差的訓練資料，有偏見的資料會產生有偏見的AI ，甚至預測出來的結果也會是帶有偏見的，而資料、AI之間的微妙關係，許多AI專家就以「Garbage in, Garbage out（垃圾進，垃圾出）」來形容，概念就像我們常說的，你跟怎樣的人當朋友，就會被影響成為一個怎樣的人。
更多新聞請搜尋🔍風傳媒
因為你，我們得以前進，你的支持是我們的動力
贊助風傳媒
更多文章
風評：除了「對一半」的金金合併，三次金改是作文比賽！ 不多時日前，外界才聽金管會強調推「金金分離」，驀然之間又聽到金管會要推「金金合併」；雖然兩者意涵不同且金管會的金金合併有「鳥籠」之嫌，但不論如何，金管會這次肯定是作對的事，值得肯定，遺憾的是為德不卒，這個對的事只「作一半」。
劉性仁觀點：民調的弔詭將影響兩岸關係正常發展 西方學者Lake認為：「民意調查是一種有系統的、科學的和公正的資料蒐集方式，這些資料是來自母體中所抽出的部份人(樣本)，用來推論更大的團體(母體)。」Curtice認為民意調查是一抽樣調查的形式，任何用來測量社會和政治態度的調查設計，就是民意調查。」台灣學者陳義彥等認為「所謂民意調查，就是本著科學的與公正的態度從研究範圍內的全體民眾中，抽取具有代表性的部分民眾為樣本，直接詢問他們對一些問題的看法，然後以這些樣本的看法來推論(或代表)全體民眾的看法，並說明誤差。」這些看法都沒有錯；但同樣的母體不同的問卷與機構可能帶來完全不一樣的結果。
蘇南觀點：大數據解決蕉農困境─台灣農業4.0何去何從 賴清德院長臉書po文愛心說：帶皮水煮香蕉搭配醬油、大蒜，養生又美味；但鄉民回：失戀吃香蕉皮！去年10月官民合資10億元的「台灣國際農業開發公司」，要找回台蕉輸日榮景，輔導新蕉農生產銷日；未見成果依然蕉價崩盤！台蕉輸日由顛峰時每年40多萬公噸降至目前的0.4萬公噸。
杜宇觀點：應對香蕉滯銷官員應謹言慎行 當國內香蕉盛產導致產銷失衡價格暴跌，蕉農慘兮兮，台灣各界紛紛慷慨解囊採購香蕉，希望能讓香蕉價格回穩幫蕉農度過難關之際，農委會陳副主委卻拋出台灣「專業」農民年均所得高達154萬，而一般社會大眾並不知道甚麼是專業農民，這樣的數字與民眾（包括蔡總統）對農家的認知大不同。若該數據「屬實」也具「代表性」（八萬戶？），很可能會讓許多民眾產生農民都比我有錢很多，為什麼我還要幫他們的錯覺，那麼以後國內農產品再發生滯銷需要大眾幫忙時，多數民眾的愛心和熱誠恐不再，屆時產銷失衡問題將更難收拾。
陳柏廷觀點：操作「吳音寧有大愛」，她還是不適任總經理 北農總經理吳音寧上任以後，爭議頻傳，先是不會看報表，後來是送蔬菜給自己表哥當鄉長的溪洲鄉，未利益迴避；後來更被爆送洋酒給民進黨台北市黨部，雖然吳音寧否認，但經北市政風處查帳，也證實了確實有送人洋酒，且賬本未清楚寫明送給誰；不只如此，吳音寧更在市議會議場鬧出笑話，解釋她不是年薪250萬實習生，只不過是「月薪14萬」，結果被爆加上獎金等等，年薪已達248萬，與250萬根本沒差異！
夏珍專欄：治世無能臣，亂世皆飯桶？笑駡只能盡由之 四百年前，一位頗有名氣文學家馮夢龍寫了一則笑話，大意是一個好靜之人，偏偏左右鄰居是朝夕敲打之銅鐵匠，苦不堪言常叼念著，如果兩家人願意搬家，他一定做東款待以謝。鄰人聞言立刻登門表示願意遷居以求宴，這個人大喜之下，立刻設下宴席，酒過三巡開心問兩人，「你們搬到哪？」兩人回答：「我搬他家裡，他搬我屋裡。」
睡在漫畫堆裡不是夢！1000元內搞定住宿，京都6間地點好又具特色高CP膠囊旅館 京都一直是外國遊客到日本必去的城市，在這裡不但能體驗日式傳統文化，遊走在充滿日式氛圍的街頭，還能同時享有便利的購物行程。若你想要多省點住宿費，拿來買東西、吃美食，但又同時想保有自己私人的住宿空間，別懷疑！京都膠囊旅館一定是你的住宿首選！聽到大家心聲的小編今天又來介紹六家地點絕佳又充滿特色的高CP京都膠囊旅館推薦給你們啦！
觀點投書：吳音寧是民進黨實質分裂的深水炸彈 當吳音寧上任時，沒有引發太多的關注與爭議，但是隨著她開始浮上檯面，許多的負面評價就如影隨形，尤其當她無法展現一個專業經理人應有的能力，甚至自己都無法辯護時，社會的評價就不斷地探底。
觀點投書：真愛台灣，就不應廢核電 近日因台電為避免缺電、技術性調發電頻率以降電壓失控，造成密集跳電，民怨四起，加以兩岸關係緊張，中共戰機不斷繞台，漢光演習也針對大陸可能攻台進行防衛的演練，台灣海峽一時烏雲密佈。面對這些內憂、外患，除軍事演習外，台灣也應進行能源演習，評估戰時能源風險的衝擊，並準備應變的方法。
楊建銘專欄：所以你想成為一個VC 一年前我們HardwareClub的第一檔基金完成了第一個closing，金額為兩千五百萬歐元，現在隨著基金正在進行第二個closing，累計總金額將超過最初預定募資目標，這一路奮鬥過來的許多感受漸漸湧上心頭。
觀點投書：新竹縣長提名爭議，成功挑起國民黨暗鬥 一個國民黨執政了16年的新竹縣，因為選情複雜，由原本預計的「全民調」變為「徵召」。從民進黨跳到第三社會黨，後來跳到國民黨的現任立委林為洲積極尋求出線，而原本外界認為民調最高，最可能被提名，一路劇情急轉直下，12日國民黨中央提名協調小組決定將提名副縣長楊文科出馬角逐參選縣長。
更開放的東南亞？《血路盛世：當代東南亞的權力與衝突》選摘（2） 一直以來，趨勢都不是單向發展的。東南亞的多元性也反映在政治進步與倒退的不同步調上，而且往往呈現令人困惑的分歧。正當泰國在21世紀頭十年緩慢陷入壓迫性的軍事統治時，緬甸正蹣跚地脫離其中。經過冗長的審議，新憲法最終保留了軍方的特權與權力，而在2010年，舉行了受嚴格管控的選舉，組成混合的公民政府。其中多數的領導人為軍人，他們脫去深綠色制服，換上緬甸男性穿的編織紗籠「籠基」（longyis），用不流利的英語低聲說著「逐步」改革的承諾。
低氣壓登陸南部 屏東遇大雨轟炸 原本氣象局預測這兩天會有大雨，有的地方卻是晴空高照，大雨「遲到」。中央氣象局預報員陳伊秀表示，今明兩天受熱帶性低氣壓影響，南部將有明顯雨勢，也不排除熱帶性低氣壓會發展為今年第6號颱風凱米（Gaemi）。
警察節前夕 麻豆分局警備隊長舉槍自戕 明天6月15日就是警察節，沒想到竟發生疑似警察舉槍自殺的憾事。台南麻豆警分局警備隊長許文福（51歲），今晚7點56分，巡邏後回埤頭派出所，疑似在停車場舉槍自盡，命危送醫。
「賭海明燈」忍不住開口 姚文智：巴西隊加油 四年一度的世界盃足球賽今（14）日舉行開幕戰，民進黨台北市長參選人姚文智賽前在臉書為巴西隊加油，並表示辦公室同仁有「塞爾提克隊陰影」，一直阻止他談足球。因為先前他替NBA塞爾提克隊加油，但塞隊卻遭淘汰，這次也有網友留言「天祐巴西隊」。
林佳龍遭批出國次數超越胡志強 中市府：議員重複計算數字 台中市長林佳龍今（14）天率市府團隊搭上華信航空由台中直飛日本東京的班機，赴日宣傳台中花博。而國民黨台中市議員楊正中、顏莉敏則痛批，「今天是林佳龍任內第17次出國！」，並指出此與台中市新聞局長卓冠廷曾表示的「林市長出國次數不會超過胡市長」，有所違背。不過卓冠廷對此回應，議員提供的數字，把林佳龍同一出訪的行程重複計算，已誤導大眾。
航行105天2.3萬浬 海軍敦睦艦隊抵國門 海軍敦睦艦隊歷經105天、總距離超過2萬3379浬的海外航行後，於今（14）日返抵高雄左營軍港，艦隊官兵受到參謀總長李喜明上將、海軍司令黃曙光上將和基地官兵、家人的熱情歡迎。雖然風光返國，但此行在訪問前友邦多明尼加10多日後，對方就與我斷交，也成為此行最大遺憾。
NBA》美媒盤選10大爛新秀 20年來最糟選秀 因為戰力不足等因素導致球隊戰績墊底，要翻身的機會除了提供優渥薪資吸引星加盟之外，從選秀會上選入潛力新秀補強戰力也是一種方式，但有一定的風險，就是可能會選到不符身價的球員，美國媒體（thebiglead）今天公布一份名單，是NBA自2000年以來被選入聯盟但表現最不符合期望的球員名單。
下令政風處查北農疑違法 柯文哲坦承：沒有《公司法》知識 台北農產公司總經理吳音寧風波不斷，日前被國民黨議員指控使用公帑買洋酒做公關、以及之前送殘菜等事，引發檢警單位介入調查，台北市長柯文哲日前也指示政風處到北農查帳，但遭外界質疑北農為民營公司，政府介入查帳是違法濫權，柯文哲今（14）天則坦承，「我不具備《公司法》的法律知識」。
倫敦大火71命慘劇一周年，清晨又傳公寓火災！住戶驚魂未定：警報器根本沒響！ 英國首都倫敦西部公寓大廈「格倫費爾大樓」去年的今天發生清晨惡火，24層樓化為焦黑廢墟，釀成71人死亡、70多人輕重傷的悲劇。許多英國人尚未走出格倫費爾大樓大火的陰影，1年後的今天，倫敦東南部路易斯罕區一棟20層樓高的公寓大廈14日清晨4時多傳出火警，約180名住戶驚慌逃生，幸好目前未傳出傷亡，起火原因尚待調查。
世足》5足壇巨星 矇眼射門預測今年冠軍 在中國安徽舉辦的世界足球峰會(G-Expo)，邀請了5位足壇巨星：貝克漢(DavidBeckham)、安切洛蒂(CarloAncelotti)、皮耶羅(AlessandrodelPiero)、古利特(RuudGullit)與科斯塔庫塔(AlessandroCostacurta)，以蒙眼、轉圈後逆足射門方式預測俄羅斯世足冠軍。每個人面前設有6個球門，各代表巴西、阿根廷、德國、英格蘭、西班牙與其他，射進的球便代表球星的預測。
替侯友宜關說文大宿舍？新北副秘書長：討論餐敘，別污辱我人格 國民黨新北市長參選人侯友宜妻子名下的房產，出租給文化大學當宿舍惹議之際，新北市府副秘書長邱敬斌12日前往台北市都發局與友人見面，引發外界質疑有關說之嫌。邱敬斌今（14）日出面回應，強調只是單純祝賀友人高升，並提醒晚上餐敘，閒聊到都市計畫法和最近時事，被解讀為關說，是對他人格的污辱跟摧毀。
股后國巨子公司奇力新 驚爆內線交易被搜索 股價僅次於大立光（3008）的國巨（2327）集團，旗下子公司奇力新（2456）爆出內線交易弊案。奇力新去年併購旺詮（2437），在重大訊息公布前，雙方公司高層涉嫌提早1個月買進奇力新股票，獲利數十萬元不等。檢調今（14）日發動搜索，以被告約談奇力新前財務長等10人和1名證人，依《證券交易法》內線交易罪，傍晚移送台北地檢署複訊。
世足》長友佑都突染金髮 想超級賽亞人上身 為了迎戰即將到來的俄羅斯世足，入選的32強國家隊伍正如火如荼的積極備戰，而日本代表隊目前也正在奧地利塞費爾德(Seefeld)展開集訓，然而日前媒體意外在練習場捕捉到，陣中後衛長友佑都染了一頭金髮，也讓人不禁好奇是什麼緣故讓長友佑都突然從黑髮轉成金髮。
川金會落幕之後，韓美軍演喊停之際，南北韓重啟板門店「將軍級軍事會談」 南北韓14日在非軍事區板門店北韓一側的「統一閣」舉行第8次「將軍級軍事會談」。北韓（朝鮮）最高領導人金正恩與美國總統川普12日在新加坡舉行峰會，聲稱將致力於建立朝鮮半島的無核化與和平體制，但未提出任何具體作法；而川普不僅單方面宣布暫停韓美聯合軍演，震撼南韓朝野，還表明會在「適當時機」考慮撤離駐韓美軍，讓半島局勢更趨詭譎。
世足》韓國積極備戰 以戰勝瑞典為目標 2018年世界盃足球賽，分在F組的韓國隊正全力訓練，首戰以戰勝瑞典為目標。總教練申台龍表示，韓國目前是F組最弱的一隊，目前正積極從熱身賽及移地訓練以提升實力。
中職》中斷連26場安打 郭嚴文無緣刷新紀錄 Lamigo桃猿隊昨天以6比5擊敗統一獅，不過賽前連26場安打的郭嚴文2打數無安打，中斷連續26場都有安打的紀錄，也無緣刷新自己保持的連33場擊出安打的聯盟紀錄，不過郭嚴文說：「過往有過一次挑戰紀錄的經驗，這次比較平常心。」
世足》誰能拿下冠軍金盃 BBC預測竟然是它!!!! 4年一次的世界盃比賽就在今晚開打，儘管足球對台灣球迷來說較陌生，還是有許多球迷打算熬夜收看，更不用說其他視足球為國球的國家，瘋狂的程度可說是超乎想像，而近日英國BBC體育頻道，便透過數據統計來分析這32支球隊，並從中排除了31支球隊，總結出最後奪冠的球隊，這個答案有點令球迷意外。
中職》統一獅別黑絲帶出賽 弔念車禍過世的隨隊攝影師 中華職棒高雄賽程，統一獅的球員紛紛別上黑絲帶出賽，是為了弔念日前因為高速公路車禍而不幸過世的隨隊攝影師蔡宗哲，11日凌晨蔡宗哲結束統一獅在台中的比賽攝影工作，開車返回台南住處，於中山高速公路嘉義路段發生2輛自小客車事故，急救後宣告不治。
「美國關切北京欺凌台灣」薄瑞光：美仍會出售武器、派遣官員來台 美國在台協會前主席薄瑞光今（14）天表示，在兩岸關係上，總統蔡英文已展現創意和耐心，但北京並未讓步，也無意重啟過去曾有的溝通；不過薄瑞光也說，美國國會與行政部門近來皆關切北京欺凌台灣的狀況，《台灣旅行法》即是美方針對台灣受到北京不合理待遇的反應，此外，即便中國會抗議，美國還是會出售武器給台灣、派遣官員來訪。
傳國民黨收科技人士4億元做掉林為洲 徐欣瑩駁斥「捐款求禮讓」謠言 國民黨新竹縣長提名副縣長楊文科參戰，讓民調領先的黨籍立委林為洲淚喊不公。地方盛傳，國民黨是意圖與民國黨主席徐欣瑩進行二階段整合，才做如此決策，更傳言背後有竹科與宗教人士介入，以捐款4億元作為政治交換。對此，徐欣瑩今（14）日駁斥，捐款求禮讓的謠言，完全是子虛烏有。
勞動部今審媒體業出國鬆綁七休一 媒體工會：政府把關變資方快速通關！ 勞動部今（14）天將召開「勞動基準諮詢會議」，針對《勞動基準法》七休一的「例外行業」進行討論，而全國傳播媒體產業工會等媒體工會也在勞動部前高喊「沒有配套保障、不應開放彈性」，反對媒體業出國工作納入七休一例外，並指出此次諮詢會議勞動部並未邀請找任何勞工代表出席，痛批主管機關代言資方，此次提案還為資方「加碼」鬆綁適用狀況，「政府機關的把關，變成資方快速通關的閘道！」
結合人本自然及生態 羊稠步道甲蟲季開跑 桃園市長鄭文燦今（14）日前往蘆竹區羊稠步道，出席「羊稠步道甲蟲季」活動，鄭文燦表示，3公里長的羊稠步道，盛產百香果，富有甲蟲生態，還有穿山甲、貓頭鷹、和色彩鮮豔號稱「山娘」的市鳥台灣藍鵲等，是結合人本、自然和生態的休閒步道。
桃市府與新加坡業者結盟 徵召電競電商人才 桃園市長鄭文燦今（14）日出席「桃園市政府X新加坡Sea集團頂尖結盟勇闖電商電競新世代」徵才說明會，鄭文燦表示，市府青年局與新加坡Sea集團合作，提供20個名額，於9月免費至Sea集團新加坡總部以及印尼、泰國等分部體驗實習，協助年輕人對新一代電子商務有更深入瞭解。
2018苗蓉青年創新創業大賽 兩岸經驗交流 由苗栗縣青年創業協會與四川亞台青海峽青年創業園區共同合作舉辦的「2018苗蓉青年創新創業交流大賽」，6月7日在中國大陸四川地區進行總決賽，活動參賽隊伍經過層層關卡，與對岸團隊相互交流、吸取經驗，最終經主辦單位宣布，為鼓勵青年創業勇敢追夢，本年度創新創業交流大賽由兩岸隊伍並列名次，同享創業輔導基金不打折。
