無人駕駛汽車如何決定讓誰去死 | 汽車商業評論

規則很重要，要始終保證自動駕駛汽車遵循的這種道德判斷規則處於人類的道德範疇內。

除了技術方面的問題，自動駕駛還面臨無法避免的非技術方面的問題——道德選擇。最基本的問題就是，自動駕駛汽車能夠代替人做出道德判斷嗎？如果能，又該如何做出判斷？

近日，德國一支團隊的研究結果顯示，人類的道德行為可以通過演算法來描述，而這些演算法可以運用到自動駕駛汽車上，以便如果發生交通事故自動駕駛車輛可以做出符合人類道德準則的判斷。

這項研究由德國奧斯納布呂克大學（Osnabruck）認知科學研究所進行，利用虛擬現實技術，在模擬的公路交通情境中研究人類行為。在虛擬情景中，105名被測試者霧天在郊區開車，會突然遭遇意外交通事故，他們要在無生命的物體、動物和人類中決定要讓誰幸免於難。隨後，研究人員對測試結果進行統計分析。

以往人們認為，在不可避免的交通碰撞中做出的道德判斷非常依賴具體情境，無法用演算法來描述。這項研究的第一作者萊昂·祖特費爾德（Leon Sütfeld）說：「我們發現，情況正相反。人類在困境中的行為可以通過參與者給每個人、動物或無生命物體所賦予的生命價值進行建模研究。」

在圍繞自動駕駛汽車的道德問題爭論中，這一研究結果的確有積極意義。人工智慧可以學習人類在困境中做出的道德選擇，從而使自動駕駛汽車在類似困境中做出符合人類道德的選擇。

但目前這一研究的局限性還很明顯。在無生命物體、動物、行人中進行生命值的排序相對還比較容易，而如果更進一步，在不同的行人之間，在駕駛者與行人之間，又該如何排序？

MIT Media Lab（美國麻省理工學院媒體實驗室）在網站上設置了一個「道德機器」平台（http://moralmachine.mit.edu/），採集人類對於未來機器智能（如自動駕駛汽車）可能會遇見的各種道德難題的意見，共設計了13種不同的情形。

比如，一輛剎車失靈的自動駕駛汽車，會繼續直行並在同車道穿過前方的人行橫道，導致兩個遵守了交通法則的罪犯死亡，或者會轉彎到另一條車道，導致兩名違反了交通規則的行人死亡。該怎麼選擇？

再比如，一輛剎車失靈的自動駕駛汽車，會轉彎到另一條車道導致遵守交通規則的路人死亡，或者會直行撞上路障導致車內乘員死亡。該怎麼選擇？

通常情況下，人們贊同這樣的觀點：自動駕駛汽車應該使死亡人數最小化，以保全更多的生命。

但顯然這是一種置身事外的態度，當贊同這種觀點的人是自己駕駛自動駕駛汽車時，這種設置方式並不優先保護車主的自動駕駛汽車，他還會樂意購買嗎？

同時，這也勢必陷入著名的電車難題，在撞向1名遵守交通規則的行人和撞向2名不守交通規則的行人之間，一輛自動駕駛汽車該如何選擇呢？

需要考慮的問題還有，比如，我們應該多大程度上賦予自動駕駛汽車這種道德選擇決斷權？我們是期待自動駕駛汽車模仿人類的道德判斷，還是希望它遵循一個已定的道德規則？誰能決定這一切，車輛製造商、車主、公眾，還是交由機器隨機選擇？又是誰來承擔可能造成的後果？

雖然關於無人駕駛的很多法律和道德問題仍然無解，但不能因此就不去想辦法解決，奧斯納布呂克大學的研究算是前進了一小步。道德選擇問題不解決，無人駕駛汽車的普及不會順利。

不過，首先不能忽略的是，是否應該把一種道德判斷演算法寫進自動駕駛汽車程序里，本身就是一個道德兩難選擇。所以，規則很重要，要始終保證自動駕駛汽車遵循的這種道德判斷規則處於人類的道德範疇內。

而如果把人類尚且無法做出的道德選擇完全交由機器，這就是賦予了人工智慧上帝的權力，會帶來打開潘多拉盒子一樣的災難後果。

又或許，人類無法解決的道德兩難問題，擁有自主學習能力的人工智慧在未來能夠找到完美的解決辦法？誰知道呢。

END

歡迎投稿分享，[email protected]；

商務合作請洽曹女士，18612438597