自動運転車は歩行者または乗客を殺すべきですか？

研究者は、人工知能によって行われた道徳的決定に関する人間の視点を収集するための実験を設計します。
彼らは何百万もの人間の反応を分析し、文化によって倫理がどれほど異なるかを明らかにしました。

私たちは、機械が損傷を最小限に抑えるだけでなく、除去できない損傷を分散させるという任務を負っている時代に突入しています。ダメージの分散（およびマシンが生み出す幸福）は通常、トレードオフを生み出し、その解決策は道徳的領域に含まれます。

自動運転車が衝突しそうになっていて、すべての人を救う道を評価できない状況を考えてみましょう。このような場合、車両は、道路上のさまざまな人々の間で損傷のリスクを公平に分散する方法を決定する必要があります。これらの道徳的ジレンマは、ロボット工学の法則や人間の倫理原則では解決できません。

2014年、MITの研究者は、自動運転車などのAIを搭載した機械によって行われる道徳的決定に関する人間の視点を収集するために、MoralMachineという名前の実験を設計しました。これまでのところ、この実験には世界中から4,000万件以上の回答が寄せられています。これは、さまざまな文化の集合的な倫理的優先事項に対する貴重な洞察を提供します。

Moral Machineは、自動運転車が優先すべき13のシナリオをテストします。

より少ない生活でより多くの生活を送る
男性より女性
ペットよりも人間
若いから古い
低いよりも高い社会的地位
不健康な状態に適応する
法違反者に対する法に従う者

研究者はすべての回答を分析し、地理的な場所、経済、文化に基づいて人間の倫理がどのように変化するかを明らかにしました。

彼らは国によって好みが異なることを発見しました。たとえば、日本や中国のような集産主義文化の人々は、若者よりも老人を惜しまない傾向があります。一方、より個人主義的な文化を持つ国は、古いものを惜しまない可能性が低くなります。

参照：自然| DOI：10.1038 / s41586-018-0637-6 |道徳的な機械

同様に、米国や英国などの個人主義文化の人々は、他のすべての選択肢を考えると、より多くの命を惜しまない傾向があります。制度が弱い発展途上国の人々は、合法的に横断する歩行者よりも、ジェイウォークをする歩行者に対してより寛容です。

地位の高いキャラクターを惜しまないという好みは、東の国（日本、台湾、サウジアラビア、インドネシア）ではそれほど顕著ではなく、南の国（中南米、フランス）でははるかに高くなっています。

西部と東部の国々は、南部の国々と比較して、ペットよりも人間を救うことをはるかに好む傾向があります。

制限

サンプルサイズが大きいにもかかわらず、この研究には多くの制限があります。たとえば、研究者はキャラクターの運命についての不確実性を考慮していませんでした。すべてのキャラクターは100％の確実性で子供と大人として認識され、彼らの生と死の結果は100％の確実性で推定されました。

また、回答者とキャラクターの間に架空の関係要素（配偶者や親戚など）を導入しませんでした。これらの仮定は非常に非現実的でしたが、実験を扱いやすくするために必要でした。

読む：自動運転車は、浅黒い肌の歩行者を検出するのが難しいと感じています

普遍的な合意に達することはできないかもしれませんが、これらの結果は、テクノロジー企業や自動車メーカーが、さまざまな設計や政策決定の倫理に国民がどのように反応するかをよりよく理解するために使用できます。

研究者は3500万コア時間で最大の暗号化キー[RSA-240]を解読します中国の次世代の「人工太陽」は太陽の13倍暑い

産業技術