華爾街日報》自動駕駛時代來臨，但AI的決策能被信任嗎？

在路面駕駛時，人工智慧（AI） 觀點下的倫理道德會是什麼樣的？

隨著完全自動駕駛汽車離我們越來越近，駕駛決定將由AI掌控，許多汽車製造商認為這種轉變將使駕駛更安全。

本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。

Alphabet旗下自動駕駛子公司Waymo的產品管理主管David Margines表示，讓AI掌控駕駛可以排除許多導致事故的因素，例如超速、疲勞、分心和酒駕，從而防患於未然。

也有人持不同看法。「對自動駕駛汽車的期望遠高於對人的期望，」聖克拉拉大學（Santa Clara University）通用工程系的人類學家兼講師Melissa Cefkin表示，她與日產汽車（Nissan）和Waymo合作研究人與自動駕駛汽車之間的互動。「當一個人發生事故時，我們可以說，『他們只不過是普通人。他們盡了最大努力。這只是一場意外』，」她說。「我們不會如此寬容地對待一家公司，而且可能也不應該如此。」

隨著AI汽車時代漸行漸近，工程師、程式設計人員和生物倫理學家正在努力思考解決一些關鍵問題。

識別人類

為了避免撞到行人，自動駕駛汽車使用了一系列AI功能：感知、分類、預測、路徑規劃。但區分人類和人形送貨機器人、零售用的人體模型甚至有人物圖像的路面廣告仍有難度。

普林斯頓大學（Princeton University）人類價值中心生物倫理學名譽教授Peter Singer表示，若訓練數據有偏頗或電子攝影機帶著偏見去「看」時，也會使一些AI系統在檢測深色皮膚的行人時可靠性下降。

憑藉車對車（V2V）和車對基礎設施（V2I）系統，自動駕駛汽車將能夠彼此互動，並與交通號誌和攝影機通訊。

一些人還設想開發車輛與行人（V2P）通訊。交通研究公司Guidehouse Insights的出行分析長Sam Abuelsamid表示，例如，手機ping廣播可以向自動駕駛汽車的AI發出信號提示人的存在。但這可能引發隱私和個人自由方面的顧慮，並且將沒有手機的人置於劣勢之中。期望別人帶著手機以保護自身安全是否合理？

人類學家Cefkin建議，自動駕駛汽車本身可以更多地表達自己，如使用箭頭、燈光或文字來傳達它們所看到的內容以及它們正在作出的決定。「人們開始意識到可以進行更多雙向溝通，因為汽車現在會告訴他們更多東西。」

動物的價值

在碰撞中，麋和鹿可能對車輛及車內人員構成生存風險。刺蝟、貓和狗等較小型動物的風險則較小。從道德角度來看，AI對這些動物的生命有不同考量是否可接受？

Margins說道，對於大型動物，Waymo優先考慮通過迴避動作「降低對人類造成傷害的可能性」。至於花栗鼠和鳥類等小型動物，該公司AI「的認知是，剎車或對某些類型的異物採取規避動作本身可能就存在危險」，他說道。 （相關報導： 華爾街日報》「長新冠」粉碎升遷夢：後遺症難痊癒，百萬美國人被迫離開職場 ｜ 更多文章 ）

對於豪豬或狐狸等中型動物，考量會有什麼不同？對於可能是寵物的動物又有怎樣的考量？

生物倫理學家Singer表示，目標應該是「儘量減少對包括人類和非人類在內的所有動物造成傷害」。他擔心AI程式設計人員會帶有「物種歧視」，偏向人類和作為人類伴侶的動物。作為一名實用主義者，他贊成這種折中考量，而不贊成「不關心非人類動物的利益」。不過，他警告說，像這樣的道德決定不應簡單地留給市場來決定。而應有專家意見和法規作為指引。

什麼是美好的旅程？

選擇最快的路線應是指引自動駕駛汽車的核心標準嗎？還是其他因素也同樣重要？對於自動駕駛共享汽車來說，側重快速到達目的地將能使汽車完成更多行程並獲得更多利潤，但可能導致更多危險。而僅僅優先考慮安全也許會減緩和堵塞交通。還是優先選擇讓乘客享受旅程的路線呢？

Cefkin說，如果考慮服務於誰的利益，這樣的決定就涉及到道德層面。「是乘客？自動駕駛計程車服務？還是其他道路使用者？」

安全和速度之間的權衡取捨「這個問題會真正影響到自動駕駛汽車99%的道德問題」，Mobileye技術長Shai Shalev-Shwartz說。他說，在這兩極之間改變參數會導致不同的AI駕駛行為，從過於魯莽到過於謹慎，再到看似「自然」和人性化的行為。Mobileye是英特爾（Intel）旗下開發自動駕駛汽車軟體和硬體的部門，為全球一些大型車企提供產品。

Mobileye設計了一個包含AI決策五項原則的邏輯系統，分別為不要從後面撞人，不要魯莽超車，通行權是給予而非強行獲取，在能見度有限的區域謹慎駕駛，以及如果能避免撞車而不造成另一起撞車事故、那就必須這樣做。Shalev-Shwartz說，公司模擬發現，如果所有駕駛員都遵守這些規則，無論是人類還是自動駕駛汽車，都不會發生事故。

他說，還可以對這個軟體進行調整以生成不同的駕駛風格。例如，自動駕駛跑車可能更追求激情以增強性能感，自動駕駛小型貨車可能會將重點放在安全性上，而越野車輛可能會默認選擇風景優美的路線。

瑞典汽車製造商富豪（Volvo）希望在公眾和自動駕駛汽車之間「建立信任」。「我們對自動駕駛汽車的設計初衷將是平穩和舒適行駛，車速會限定在一定範圍內，」富豪產品策略主管Martin Kristensson表示。「這有望影響交通模式，鼓勵協作，減少事故，並且隨著時間的推移給路面行為帶來積極改變。」

有類似研究發現的Cefkin表示，這種行為具有感染力，可以緩解司機、乘客和行人的焦慮。「有證據表明，當人們看到其他人更鎮定的反應時，對交通狀況會有一些積極的影響，」她說。

對交通規則的反思

特斯拉（Tesla）曾召回配備該公司完全自動駕駛（Full Self-Driving）系統的車輛，因之前美國全國高速公路交通安全委員會（National Highway Traffic Safety Administration）表示，由於FSD技術，一些汽車違反了當地交通法規，出現沒有遵照停止路牌指示停車等待等行為。 （相關報導： 華爾街日報》「長新冠」粉碎升遷夢：後遺症難痊癒，百萬美國人被迫離開職場 ｜ 更多文章 ）

然而，許多人類駕駛員如何並道、變道、左轉或繞過停著的送貨車輛也面臨著類似的嚴格合法性問題。那麼對自動駕駛汽車是否應有不同的標準？

Mobileye的AI技術能夠憑藉來自車輛周圍的感測器套件獲得的數據，通過速度、車輛間距和轉彎等指標來識別和區分當地的駕駛習慣。「我們可以調整我們的系統以適應不同地方人類駕駛員的駕駛方式，」Shalev-Shwartz說。「但僅僅因為我們可以做到，並不意味著我們應該這樣做。」他認為這是監管部門的職責，建議他們應該「思考對於目前人們在所在城市的駕駛行為，他們是否滿意，或者他們是否希望交通有所變化」。

Cefkin說，在AI時代，需要對道路和規則進行全面的重新思考，以提高安全性和便利性並擴展可用性。維持現狀可能會失去進行更深層次變革的機會。「道路的出現遠早於汽車，也曾有許多其他用途，」她說。「也許是時候讓我們重新拿回來了。」

車隊思維

想像一下，如果科技公司分派自動駕駛汽車車隊來運送人員、貨物、食物等。他們會聯合起來對付我們嗎？

「自動駕駛汽車本身的設計就是作為一個群體共同從駕駛經驗中學習，」富豪的Kristensson說。「與單個駕駛員相比，這大大提高了它們的學習速度。」

這些車輛將通過V2V和V2I通訊進行互動，這種AI團隊合作可能有助於自動駕駛汽車避免事故。但當存在競爭或合作的車隊成員相遇時，它們應該如何表現？這些汽車「群體」是否應被允許在碰撞中偏向自己的同伴而不是其他車輛，在鏈式車隊中最大限度地提高效率或主導路線？

Cefkin在思考自身利益是否會影響系統作出的決策。「無論是誰提供這個產品或服務，或者兩者兼有，他們可能都希望對某些事情給予更多或不同的權重，」她說。

「車主、車外的人、駕駛另一輛車的人之間不應被區別對待，」Shalev-Shwartz說。他建議路面上所有的汽車都應遵守相同的標準，並平等對待彼此。

但最關鍵的是，到目前為止還沒有這方面的法規。Abuelsamid說，公司可能決定，當發生衝突時，車輛應該優先考慮同一車隊中的其他汽車。「作為一個社會，我們需要討論我們要優先考慮什麼？」他說。「我們是要優先考慮公司的需求，還是要優先考慮什麼對生活在社會中的人們最為有利？」 （相關報導： 華爾街日報》「長新冠」粉碎升遷夢：後遺症難痊癒，百萬美國人被迫離開職場 ｜ 更多文章 ）

責任編輯：李岱青