但如果是特斯拉所提供的自動駕駛有著1%的肇事率,那就不是一個分散式系統問題,而是一個中央系統的問題,被咎責的是包含其他九十九台安全無恙的車子在內,總共一百台的數量,可能導致的賠償金或者刑罰也是根據一百台計算。
君不見2009年美國豐田汽車暴衝致死事件,除了造成大量召回以及車廠經濟損失,豐田家族繼承人也被拖到美國國會面前羞辱,更甭提品牌受到的重創。十個月後當調查結果終於出爐,正式排除豐田的責任,並將多數相關事件的肇事原因歸屬於駕駛人,但這時對豐田的永久性傷害已經造成。
同理,特斯拉(或者任何車廠的)自動駕駛系統,目標也不能僅僅是肇事率低於大眾平均,而是要做到更低的數量級,才能避免1%問題導致全盤皆輸。
結論
機器學習類神經網路本質上是一個或然率的系統,用來顛覆原本就是建立在或然率上的商業(例如偵測信用卡盜刷),是非常適合的,因為只要人工智慧的表現能夠比既有的或然率優異,業主就能實現更低成本和更高獲利。
但如果或然率是結果,而且本質上存在「1%問題」(單一事件可能導致巨大損失),那麼就不能單純用錯誤率較低的機器學習類神經網路取代,因為只要出現一隻黑天鵝,就可以否決所有天鵝都是白色的論點⋯⋯
*作者楊建銘(Jerry Yang, CFA)現任巴黎風險資本公司Hardware Club管理合夥人。台灣大學電機學碩士、法國HEC Paris MBA,CFA持證,在亞洲、矽谷和歐洲半導體業十二年,包含創業四年。(更多好文請見作者英文部落格)