演算法失靈的代價:西班牙的VioGén系統誤判家暴風險,斷送一條寶貴人命

2025-04-23 17:22
(AP)
(AP)

今年一月,莉娜(Lina)向警方報案。

她的前伴侶一直在西班牙海濱小鎮貝納爾馬德納(Benalmádena)的家中威脅她。據稱,那天他舉起手,好像要打她。

「曾經發生過暴力事件——她很害怕。」莉娜的表弟丹尼爾(Daniel)回憶道。

她到警察局接受了問詢,案件被登記在VioGén(性別暴力再犯風險綜合監測)系統中,這是一種評估女性再次被同一男子襲擊可能性的數字工具。

VioGén是一個基於演算法的系統,它會詢問35個關於虐待及其強度、施虐者是否有武器、他的心理健康以及女性是否已經或正在考慮終止這段關係的問題。

然後,系統將就她面臨的威脅記錄為「可忽略」、「低」、「中」、「高」或「極端」。

有關類別用於決定如何分配警力資源來保護婦女。

莉娜被認為處於「中等」風險。

她向馬拉加專門的性別暴力法庭申請了限制令,以便她的前伴侶不能與她聯繫或與她共享生活空間。該請求被拒絕。

「莉娜想要更換家裡的鎖,這樣她就可以和孩子們平靜地生活。」她的表弟說。

三週後,她死了。她的伴侶據稱使用鑰匙進入她的公寓,隨後房子著火了。

雖然她的孩子、母親和前伴侶都逃了出來,但莉娜沒有。據報導,她11歲的兒子告訴警方,父親殺害了母親。

莉娜的遺體從被燒焦的家中被發現。她的前伴侶,也就是她最小的三個孩子的父親,被捕了。

現在,她的死亡引發了對VioGén及其在西班牙保護女性安全能力的質疑。

VioGén未能準確預測對莉娜的威脅。

作為被認定為面臨「中等」風險的女性,按照規定,她應在30天內由指定的警官再次跟進。

但莉娜在此之前就已經去世。如果她被評為面臨「高」風險,警方會在一週內跟進。這是否會對莉娜產生影響?

北美和整個歐洲都使用工具來評估再次遭受家庭暴力威脅的風險。在英國,一些警察使用DARA(家庭暴力風險評估),而這本質上是一個清單。警察或例如社工在內的其他人都可以使用DASH(針對家庭虐待、跟蹤、騷擾和基於榮譽的暴力個案的評估)來評估再次發生攻擊的風險。

只有在西班牙,演算法才如此緊密地融入警察實踐。VioGén由西班牙警察和學者開發。除了巴斯克地區和加泰羅尼亞,其他地方都使用這個系統。盡管巴斯克地區和加泰羅尼亞有不同的系統,但該國各地警察都有合作。

馬拉加的國家警察家庭和婦女部門負責人伊莎貝爾·埃斯佩霍(Isabel Espejo)形容VioGén「超級重要」。

她說:「它幫助我們非常精確地追蹤每位受害者的案件。」

她的警官每天處理平均10起性別暴力報告。每個月,VioGén都會將9到10名女性歸類為面臨再次受害和「極度」風險的女性。

這些案件所涉及的資源是巨大的:為一名婦女提供24小時的警方保護,直到情況改變、風險降低為止。被評估為「高」風險的女性可能得到警官的護送。

2014年的一項研究發現,警官在95%的情況下都接受VioGén對再次虐待受害可能性的評估。批評者認為,警方將有關女性安全的決策權交給了演算法。 (相關報導: 「多數台灣年輕人願意上戰場」,是不是一種社會期望偏差?莫少白談抗敵民調的可能迷思 更多文章

埃斯佩霍表示,該演算法對風險的計算通常是足夠的。但她承認,儘管莉娜的案件不在自己的指揮範圍內,但對莉娜的評估出了問題。

更多文章
《苦盡柑來遇見你》、《惡緣》輸了!Netflix公布台灣4月最新收視排行,黑馬冠軍讓人捨不得看完
川普知道嗎?中國卡稀土「Optimus機器人做不出來」馬斯克認了:已找北京合作
現在市場是短期拉回,還是長達十年的大崩盤前兆?專家拆解「3大衰退週期」必看
台灣知名餐廳宣布歇業!40年回憶不再「老饕讚米其林等級」,新租客月砸68萬奪店王
演繹自由奔放的時代精神:Porsche 911 Spirit 70限量1,500部、1,330萬元起!
顛覆超豪華MPV移動想像。Mercedes-Benz上海車展全球首發:Vision V全新概念車
台積電Q1財報亮眼卻回不到900?投資達人陳喬泓:這5檔更穩、更抗震!
2025 上海國際車展:Mazda EZ-60 (CX-6e) 實拍
2025 上海國際車展:全新小改款 Volvo XC90 實拍
被裁員改開計程車「他慘吃光老本」!改1點可月賺10萬,再推3工作最適合中年轉職
8成藍委挺倒閣反制大罷免? 朱立倫提多數意見:倒閣自傷卻傷不到賴清德
勞保繳了一輩子領不到退休金!政府曝「少做1件事」慘了,老年年金都沒了
衣服曬不乾怎麼辦?達人教3招快速乾衣方法,告別濕黏臭衣人生
Uniqlo母公司年收破4,000億!迅銷3大策略啟動全球擴張,GU崛起成財報亮點
擄殺馬國女大生3度判死仍遭撤 人權協會:最高法院不應淪為殺人犯的門神
好食好事基金會攜手晶睿通訊 結合食農青創提倡永續
很多乘客都常犯!搭捷運隱藏規則曝光,網嘆「一堆人不知道」:非常自私
不是黃金、比特幣!《富爸爸》作者重押「這1金屬」:今年一定翻倍
打造青世代的創業嘉年華 中市勞工局「好樣市集」4/26、4/27光復新村登場
台灣「隱形冠軍」4天接單325萬!1實力站穩市場,可望搶到上億元合作
馬斯克親吐後悔幫川普?特斯拉Q1財報慘烈 他的貼文真心話曝光
華南金控連2年支持社區棒球國手選拔賽 全國12隊齊聚台北青年公園棒球場 一較高下
進市區沒在搭捷運的!台北人分享「1搭法」超快超便宜,根本是內行人的小祕密
2025 上海國際車展:第八代大改款 Lexus ES 實拍
【風汽車購車指南】160萬內能買哪些電動車?介紹你7款高CP值平價電動車,國產電動車搶攻百萬內市場,想開電動車再也不用花大錢!-2025最新
泓德能源攜手士林電機 2025 智慧移動展聯合呈現多款充電新品
朱元璋拜佛問「朕也要下跪嗎」?和尚神回1句話化解危機,救了全寺的性命
力挺大罷免!賴清德在中常會播「為台灣留名」連署宣傳片 盛讚拍得好
「領軍1產業」竟大暴雷!半導體大廠淨利縮水近9成,習近平晶片自主夢仍挫敗
拜川普關稅政策所賜!蓋洛普4月最新民調:超過5成美國人抱怨「口袋快沒錢」
關稅戰激起民族尊嚴!北京餐廳改用「澳洲牛」,中國散戶湧入股市「扶盤抗美」
連吃飯、喝水都難!重症肌無力患者1年花千萬藥費 醫學會盼健保早日給付
轟藍白附和反分裂法、赴中朝拜 民進黨痛批:有這種立委還需要敵人嗎?
旅客出國瘋自助行!為何旅行社數量不減反增?專家分析業者靠這2招賺飽飽
台灣又有新詐騙手法!點進1連結「銀行存款差點被盜光」,這平台一堆人愛用
「多數台灣年輕人願意上戰場」,是不是一種社會期望偏差?莫少白談抗敵民調的可能迷思
全台車主注意!「月底前沒做1件事」恐被重罰,超過840萬人要擔心了
Zeekr 9X正式亮相 以BMW X5價格打造的勞斯萊斯Cullinan豪華休旅車替代品
曝對美第一階段談判順利 賴清德:當在野黨政治攻防時,國家已經向前走
除濕機哪個品牌最好用?內行大推3款「省電靜音、吸水力超強」,耐用20年沒壞過
外資回心轉意,三大法人買超台股295.15億元!專家提醒一點,反映市場保守觀望
台灣又有新詐騙手法!「中獎付35元」太便宜讓很多人大意了,聽到這句話要警覺
Audi與上汽合資品牌AUDI首款旗艦車型 E5 Sportback正式亮相
川普釋出緩和信號助美元反彈 市場憂聯準會獨立性恐遭挑戰
日本超跑悲劇!千萬法拉利開不到1小時竟火燒車!技師:「超跑自燃與3因素有關!」汽車無故自燃起火,保險會賠嗎?
關稅重擊企業想裁員?勞長揭法規判斷標準:全台逾10萬勞工恐受影響
媽媽們領錢了!符合資格「勞保局發近4萬現金補助入帳」,沒申請就浪費掉了
預計將於 2025 年第三季正式量產上市 中華汽車 ET35 亮相智慧移動展
還年輕卻記憶力衰退、提早失智?醫揪研究「日常1習慣」是幫凶,不是熬夜、飲食運動
Nike限時大特價!官網下殺7折「球鞋現省千元」,adidas也有超狂8折優惠