Zi 字媒體

你死還是別人死？這在將來可能就要讓汽車自動駕駛系統來替你做決定了。相對於人類來說，電腦系統只能以刻板的規則來面對各類生死攸關的突髮狀況。因此，系統如何處理道德倫理問題？結果能不能讓社會反感？已經上升到十分嚴峻的層面了，甚至在某些角度上這比技術問題更難解決。去年，麻省理工學院的兩位學生Edmond Awad和Sohan Dsouza，共同創建了一家名為MORAL MACHINE（道德機器）的網站，想要以眾包的方式來尋求突破。這家網站主要致力於兩個內容：一是，了解公眾關於機器在面臨道德困境時如何做決策的想法；二是，通過這種眾包方式來提出更多可能的道德問題，並收集公眾對其的解決方案。MORAL MACHINE主要由評斷、設計、瀏覽三個頁面組成，用戶能夠依次以旁觀決策者、道德困境設計者、事件評論者的身份參與進來。此外，為了能夠了解世界各地用戶的想法，MORAL MACHINE還提供了中文、英語、法語、日語等10種語言。▲車輛直行，導致4隻狗1隻貓死亡？還是撞向右側路障，導致5位乘客死亡？其中，評判頁面所呈現的情景處在車輛剎車系統失靈，偵測系統可以識別路障、交通標識、前方行人身份及數量，並能夠計算出撞擊后的受傷程度的背景下，模擬出各類可能遇到的道德倫理場景。用戶將會以旁觀者的角度觀察，在任何選擇都不會傷及自身的基礎上，決定車輛到底要如何行駛。回答完這些問題后將可以選擇是否被系統收錄，供專業人士分析，同時還能夠看到與他人數據的比較結果。▲汽車直行，導致3位違章行人死亡？還是撞向右側路障，導致5位遵守交規行人死亡？簡單的說，用戶需要面對的情況可大致分為兩類。其一，汽車前方共有兩條道路，但是都被行人所佔據，汽車只能選擇撞向本條車道的行人，還是另一條車道的行人。根據場景不同，還會給出不同的交通標識、行人年齡、身份、數量、撞擊后受傷程度。▲汽車直行，導致5位違章行人死亡？還是撞向右側路障，導致4位乘客死亡？其二，汽車前方的兩條道路中，一條被混凝土路障佔據，另一條將會出現不同身份及數量的行人或者動物。汽車如果撞擊路障將造成車內乘員出現不同程度傷亡，撞向行人或動物將會安全通過，但會造成對方出現不同程度傷亡。▲用戶可以根據自身想法，設計道德倫理場景與處在旁觀者的角度上進行評判不同，用戶可以通過設計頁面來創建不同的道德倫理場景，完成後可以上傳到瀏覽頁面，供用戶及專業人士參考。首先，要選擇道路前方是兩組行人還是一組路障和一組行人。其次，可以設定不同的交通標誌，確定行人的守法情況。最後，來選擇行人和乘客的年齡、身份、數量、撞擊后受傷程度。▲用戶可以點贊、評論，或分享到社交網站上去瀏覽頁面可以看到用戶此前創建的各類場景，頁面上也將顯示出詳細的文字描述。用戶能夠點贊或在底部評論區留下自己的看法，並且能夠分享到社交網站上。隨著自動駕駛技術的逐步發展，所面臨的道德倫理問題已經被提上了日程。如果不能尋求出合理的解決辦法，這反而可能成為制約自動駕駛發展的最大難題。MORAL MACHINE網站提出的眾包想法著實讓人新奇，與單獨制定規則不同，這家網站因為能夠得到社會反饋而顯得十分珍貴。但是，最終想要制定出合理的道德倫理問題解決辦法仍需要結合多個方面，而政府未來制定出道德原則將會是一切的基礎。