不只幫你寫作業!劍橋科學家警告:從電影票到總統選票,AI可能悄悄操控人們決定

2024-12-30 19:12
2024年9月25日,Meta公司在美國加州舉辦Connect 2024年度開發者大會,由祖克柏親自主持,發表多項AI服務與新品。(美聯社)
2024年9月25日,Meta公司在美國加州舉辦Connect 2024年度開發者大會,由祖克柏親自主持,發表多項AI服務與新品。(美聯社)

根據英國劍橋大學研究人員在最新發表的一篇論文中警告,人工智慧(AI)工具可能很快就會在所謂「意向經濟」(intention economy)的新商業領域「悄悄影響」用戶決策,影響力小至買張電影票大到選舉投票的一切決定,如果不加以管理,未來可能導致「產業規模的社會操縱」。

劍橋大學萊弗休姆未來智慧中心(LCFI)兩位研究員在《哈佛資料科學評論》(Harvard Data Science Review)發表的論文中指出,「數位意圖訊號」潛在「豐厚利潤但卻令人不安」的市場潛力。由於消費者對聊天機器人、數位老師和其他各種「擬人化」AI代理日益熟悉,都有助新的「說服性技術」發展愈來愈快速。人工智慧學習了人們所有線上行為、持續了解用戶、甚至預測消費者的願望,最後建立和消費者「全新的信任和高度理解」。

研究中說明了被稱為「意圖經濟」的新興行業如何分析用戶的注意力和溝通方式,將行為模式和選擇聯繫起來。論文作者之一的雅可布・喬杜里(Yaqub Chaudhary)指出:「人工智慧工具可以用於紀錄、收集、推斷、理解、預測,最終操縱人們的決定和行為。」新的人工智慧依靠大型語言模型(LLM),針對使用者的用語詞彙、年齡、性別、數位足跡、線上行為紀錄,包括政治傾向都可推斷出。

未來對於新興人工智慧技術聯繫起來,這些技術可實現特定商業目標,例如銷售電影票、旅行行程,或將消費者引導至向特定平台、廣告商、企業甚至政治組織。合著者之一喬尼·佩恩(Jonnie Penn)警告:「除非受到監管,否則意圖經濟會把人們的動機都視為新商機。對於那些瞄準、引導和兜售人們各種意向的人來說,這將是一場新興淘金熱。」

但佩恩警告:「如果一些意外的預測結果而產生受害者,在此之前就應該開始考慮這樣的市場機制可能對人類願望產生的影響,甚至包括自由公正的選舉、新聞自由和公平的市場競爭等等,確保經濟發展不走上錯誤道路的關鍵」。 (相關報導: 富裕國家的成年人越來越笨!OECD:20%只有小學程度的算數和閱讀能力 更多文章

AI 雖可通過分析用戶行為數據、購買歷史和偏好,提供個性化的產品或服務建議,提升企業的營收效率,加速所謂意向經濟的發展,但在企業大收集和使用大量用戶數據,卻可能導致數據壟斷、隱私侵害和不平等風險,甚至因引導用戶偏向特定選擇,進而成為操控工具,對市場和民主帶來威脅。

更多文章
校園米其林爭霸! 蘇俊賓:讓料理更精彩 為營養午餐注入新「食」力
新北板橋雙子星空氣品質維護區 元旦正式啟動 全面管制柴油車輛、燃油機車及施工機具!
春節年禮「雄」來運轉!高雄首選電商平台蜜棗開賣
「李太太」齊聚陪李俊昊跨年!2025台南好young跨年晚會精彩無限
全國首座火山型地熱開發案 侯友宜:攜手民間實踐2050淨零碳排!
北檢早抓到應曉薇卻攔不住橘子?陳揮文還原時間軸:根本是故意讓橘子跑的
板橋五權公園市民活動中心完成耐震補強 民眾使用超安心!
盼緩議敬老票陪伴者搭車半價 交通部警告:將惡化大眾運輸經營環境
「他是中美建交的推動者和決策者,我們對此高度評價!」卡特在美逝世,中國外交部:深切哀悼
府中15「錦繡年華」主題影展精選 以電影回味黃金歲月與青春情懷
藍白提案老人免繳健保費 衛福部強調反對到底:事關世代不公平
感謝大德! 樹林鎮南宮「鎮」守新北環境 捐贈新北清潔隊資源回收車
新光銀工會批「新新併」資方說辭兩面 令人毛骨悚然
VERY GOOD! 新北圓夢計畫揭曉23萬總獎金得主 青年實踐社會議題展現創意
全台2萬門市和這些場所都被列入 環境部將擴大碳盤查範圍
才剛踏出北院!柯文哲二度交保配戴電子腳鐐返家 北檢將再提抗告
富裕國家的成年人越來越笨!OECD:20%只有小學程度的算數和閱讀能力
輔英科大健美系師生表現傑出 全校學生語言與專業成績獲多獎項
【下班經濟學】台股過熱2025恐翻空?公開4檔口袋名單:殖利率上看7%!
刈菜怎麼炒才不會苦?內行曝下鍋前做「1步驟」苦味秒消散,回甘脆口、顏色翠綠
敘利亞新領袖表態:選舉要等4年後,與伊朗、俄羅斯將維持關係
請3休9!2025年請假攻略,7個「9天連假」這樣請
過年出國旅遊注意了!觀光局公布最新旅行社黑名單,14間被廢照、勒令停業
Line空間占太多怎麼辦?內行人教2招一鍵清理,快速釋出20G手機記憶體
南韓失事班機的罹難者們:快樂的耶誕全家出遊,親人卻在務安機場哭成一片淚海
初登場!衛武營戲劇院化身時裝伸展台 高雄時尚大賞50套新銳力作角逐競艷
有望 2025 第一季發表上市 Volvo EX30 國內官方 Facebook 活動正式現身
2024新北豪宅王是它!「板橋這建案」每坪121.4萬,超越2023冠軍「勝輝一邸」
全面監控碳足跡 Hyundai 與 Kia 宣佈開發 IGIS 系統
出國前不用跑銀行換匯!用1招快速兌換現金,免排隊24小時都能換
攜手多家自駕領域專家 KG Mobility 簽署開發先進駕駛輔助系統合作備忘錄
自 2025/1/1 凌晨 00:00 起實施 U-Power 宣布 2025 年起調整超高速充電站時段費率
看南韓空難嚇到不敢出國?Cheap秀數據喊安啦:在台灣車禍掛掉機率比墜機高
視察新泰塭仔圳「莊泰路」施工 侯友宜:預計農曆年前開放通車!
WING STARS女神一粒、螢螢上山下海拍攝高雄跨年短片
偷酸北檢?桃檢嗆鄭文燦案「證據不只有Excel檔」 意外釣出她:好好笑
全球最危險航空Top10出爐!第一名10年發生多起嚴重及致死事故,被列航空管理局黑名單
鴻海集團進軍CES 2025!劉揚偉親赴美國 「2大亮點」搶攻北美市場
毒蔬菜流入傳統市場、全聯!56間農藥超標店家曝光,北中南通通淪陷
失智症初期能逆轉!美研究發現改變「1飲食」可降低失智風險
高雄跨年安心玩!工務局安檢6處機械遊樂設施
感冒糖漿不是提神飲料 投縣衛生局提醒千萬不能乎乾啦
公設大廳變演唱會!京城新世界 辦音樂派對超寵客
快訊》台北市中山區驚傳槍響!保時捷男進店聽到「店員一句話」當場暴走開槍
看柯文哲案起訴書「氣到想罵三字經」 邱毅3點質疑北檢:用同標準辦超思案?
柯文哲又能回家了!繳清4000萬二度獲釋 小草喊:不要放棄我們
日月光聯手和碩與倍利科技!成立AI應用聯盟「跨界合作」,打造封裝基板AI檢測標準
中市府抽驗染髮劑 PPD(對苯二胺)含量檢驗均合格
每天喝2瓶葡萄酒才睡得著!台大畢業、外商主管獨白:為什麼我的人生剩下爛醉?