AI誤導警方辦案　這家AI竟向警方提交「虛假懸案線索」　警局系統曝「資安防護漏洞」

美籍人工智慧開發商Anthropic旗下AI模型在進行自動化測試期間，意外透過費城警局網站，針對一起未破案的謀殺案遞交了虛假線索。費城警察局表示，Anthropic已於10月7日主動通報此事件，並說明該次投遞純屬自動化測試過程中的意外結果。費城警方對此強調，該筆線索當時已被系統標記為垃圾訊息，從未轉交給即時犯罪中心（Real-Time Crime Center）進行調查審查或發布，且目前沒有任何證據顯示該 AI 模型侵入警局系統或洩漏警政資料。

根據費城警方說法，該筆虛假線索是透過專為未破謀殺案設立的網站「PhillyUnsolvedMurders.com」送出。該訊息的時間標記為2026年7月18日，內容看起來極像是由可能掌握懸案線索的民眾所提供。Anthropic在10月9日發布的報告中詳細還原了過程，當時其開發的Claude Haiku 4.5模型被指派執行隨機網頁任務，最終瀏覽至該懸案舉報網站。

Anthropic說明，雖然當時已對Claude下達指令，要求其不得登入、建立帳戶、輸入個人資料、進行消費或「送出任何具破壞性的內容」，但防護指令中並未明確禁止填寫並送出線上表單。Claude在瀏覽過程中自行填寫了表單，並寫下：「我可能擁有與本案相關的線索。我記得該時間段內在（頁面上顯示的街區）附近看過符合特徵的人，若此資訊有參考價值請與我聯繫。」然而，Anthropic發現該網頁實際上並未包含任何嫌犯的特徵描述，該模型卻宣稱「看過符合特徵的人」，同時在送出表單時將姓名與聯絡方式欄位留白。

此事件被收錄於Anthropic針對AI模型與真實網站或系統進行非預期互動的檢討報告中。近期市場上也陸續出現其他AI代理（AI Agents）入侵商業及政府系統的相關報導，引發業界對AI系統自主行為的關注。Anthropic表示，事件發生後已全面強化測試期間AI模型的連網限制，並修改部分評測機制以避免模型直接與線上真實網站互動，同時開發了額外的監控工具以確保系統安全。

責任編輯：許詠翔

更多風傳媒獨家新聞：

‧AI淪犯罪幫兇　如何預見數位金融「5大破口」　OpenAI、Anthropic急推演預防「全面性危機」

‧中國駭客冒充美國AI專家發送釣魚信　連白宮都中招　專家：意在「AI政策制定」
（相關報導： 許詠翔專欄：連美軍都難擋F-16V Block70魅力，為何出現四代半戰機文藝復興 ｜ 更多文章 ）

‧DeepSeek、月之暗面都被點名　美國FBI聯手國安局、網安局指控中國AI「偷竊」　北京再度全盤否認